Треть контента, предлагаемого чат-ботами с ИИ, поражена кремлевской дезинформацией
Вскоре после вторжения в Украину российские сети и каналы, пропагандирующие кремлевскую ложь, стали наводнять интернет таким количеством материалов, что это повлияло на процесс ”обучения” популярных моделей искусственного интеллекта. В результате более 33 процентов контента, предоставляемого пользователям этими системами, содержит элементы российской дезинформации, выяснили аналитики NewsGuard.
В России используется механизм, при котором модели искусственного интеллекта ”обучаются”, черпая ”знания” из огромных массивов данных в интернете. Наполнив его огромным количеством публикаций, содержащих определенную ложь, чатбот выдает ее пользователю как факт.
Маккензи Садеги и Изис Блашес из NewsGuard, платформы, которая проводит рейтинг достоверности новостных сайтов, проанализировали это явление на 10 самых популярных чат-ботах с искусственным интеллектом и обнаружили, что элементы российской дезинформации присутствуют в 33 процентах контента, предоставляемого системами. Исследователи подчеркнули, что это представляет серьезную угрозу для безопасности и функционирования демократических процессов в других странах.
Согласно исследованию другой организации, The American Sunlight Project, которая занимается противодействием угрозам демократии в США, среди многочисленных каналов, по которым Кремль ”корректирует знания” чат-ботов, ключевую роль играет сеть ”Правда”, запущенная вскоре после агрессии против Украины. Она состоит из более чем 150 доменов, и через нее в среднем за два дня в сеть проникает более 20 тысяч статей, содержащих прокремлевские сообщения, манипуляции и фейковые новости.
В интервью Польскому агентству печати (PAP) Михал Марек из Центра исследований современной среды безопасности отметил, что контент, появляющийся на польскоязычной версии портала ”Правда”, в основном представляет собой переводы российских материалов, ранее опубликованных на ”Риа Новости” и других источниках, полностью контролируемых российской стороной. ”Есть также материалы, созданные поляками, участвующими в дезинформационной деятельности для российской стороны, которые публикуются, в том числе, в социальных сетях. Таким образом, источник получает материалы, благодаря которым он может позиционировать себя как портал, который эффективно работает и предоставляет информацию по актуальным вопросам”, - отметил эксперт.
С другой стороны, как отметила д-р Илона Домбровская, эксперт по социальным медиа, медиапроизводству, онлайн-журналистике и электронным коммуникациям из Университета Марии Склодовской-Кюри в Люблине, ””старые собаки - новые трюки”. До этого нам приходилось иметь дело с фермами троллей или ботами Facebook, затем с глубокими подделками. Это был лишь вопрос времени, когда Кремль начнет использовать широкую языковую модель груминга, чтобы вводить в заблуждение и манипулировать общественным мнением”.
Собеседник PAP подчеркнул, что реализация одной огромной стратегии по выливанию в сеть огромного количества ложной информации, во-первых, выгодна тем, что кто-то ее прочитает и будет одурачен, а во-вторых, тем, что ”обучит” языковые генераторы. ”В России прекрасно понимают, насколько популярны различные генераторы ИИ и в то же время насколько плохо они защищены. Именно поэтому они являются таким прекрасным инструментом для манипуляций”, - добавила Домбровская.
Тем более что России не приходится полагаться на ”Правду” и другие собственные сети и каналы для выращивания больших языковых моделей. ”К сожалению, это явление усугубляется не связанными с Кремлем сервисами, которые охотно, пусть и неосознанно, дублируют его сообщения в силу их эпатажности и спорности, что обеспечивает больший интерес, большее количество просмотров и, соответственно, большую прибыль”, - подчеркнула эксперт.
По ее мнению, и без того огромные доходы, которые получает путинский режим от этой деятельности, со временем будут только расти. ”Россияне хорошо знают, что ”система порождает систему”. Нынешние системы, которые далеки от совершенства, будут использоваться для создания других, которые появятся в будущем. Заразив нынешние дезинформацией, будущие технологические решения повторят эту ошибку”, - предупредила Домбровская и отметила, что, по ее наблюдениям, кажется, что мы все чаще получаем знания о мире не из надежных источников, а именно через генераторы ИИ; мы также не проверяем информацию, потому что в повседневной жизни у нас просто нет на это времени.
Могут ли страны, подверженные российской дезинформации, эффективно противостоять этому явлению? Как утверждала Илона Домбровская в интервью PAP, необходимо использовать любую возможность для просвещения общественности об опасностях новых медиа. "На каждом шагу мы должны осознавать, насколько несовершенны технологические решения, которыми мы наслаждаемся".
Вторым столпом, с другой стороны, должно стать увеличение финансирования исследователей, акцент на развитие технологий, например, на создание решений, которые уже на системном уровне будут проверять, не содержит ли текст неправды и не был ли он, например, создан какой-то организацией.
"Во времена беспорядков и гибридных войн мы должны перестроить свое мышление. Задействовать силы и ресурсы не только для приобретения оружия, но и для защиты обществ, а значит, и целых государств, от манипуляций и дезинформации", - заключила Домбровская. (PAP)
обр. Dmytro Menok
dmd/
