Международная группа ученых, опубликовавшая свои выводы в научном журнале Science, указала на то, что очевидные боты, работающие по принципу прямого копирования текста, вероятно, будут заменены скоординированными сообществами — так называемыми роями ИИ.
Под этим термином подразумеваются управляемые искусственным интеллектом группы, которые способны адаптироваться в режиме реального времени, проникать в сообщества и создавать видимость массового общественного мнения. Хор из множества якобы независимых голосов создает иллюзию широкого согласия в обществе, в то время как на самом деле он распространяет ложные сведения.
При этом происходит слияние больших языковых моделей (LLM) с мультиагентными системами, что приводит к появлению вредоносных роев ИИ. По мнению исследователей, такие системы достоверно имитируют социальную динамику и угрожают демократическому дискурсу, навязывая ложные факты и внушая ложное ощущение консенсуса.
В своем анализе исследовательская группа продемонстрировала, что основная угроза заключается не только в недостоверном контенте, но прежде всего в создании искусственного единогласия. Ложное впечатление того, что «так говорят все», может влиять на убеждения и социальные нормы, даже если отдельные утверждения вызывают сомнения. Это длительное воздействие, как отметили ученые, способно вызвать глубокие культурные изменения, выходящие за рамки смены норм, и тонко менять язык, символы и идентичность сообщества.
«Опасность больше не ограничивается только фейковыми новостями; она заключается в том, что сама основа демократического дискурса — независимые голоса — разрушается, когда один субъект может контролировать тысячи уникальных профилей, созданных искусственным интеллектом», — объяснил Йонас Р. Кунст из Норвежской бизнес-школы BI, один из ведущих авторов статьи в Science.
Кроме того, рои ИИ могут загрязнять данные для обучения обычных систем искусственного интеллекта, наводняя интернет ложными утверждениями. Таким образом они могут распространять свое влияние и на признанные ИИ-платформы.
Ученые предупредили, что эта угроза не является чисто теоретической: анализы указывают на то, что подобные тактики уже применяются.
Исследователи определяют вредоносный рой ИИ как группу управляемых искусственным интеллектом субъектов, которые сохраняют постоянную идентичность и память, координируются для достижения общих целей и при этом варьируют тон и содержание своих сообщений. Они подстраиваются под взаимодействие и реакции людей в режиме реального времени, требуют минимального контроля со стороны человека и могут использоваться на различных платформах. По сравнению с прежними сетями ботов такие рои труднее обнаружить, так как они генерируют разнородный, контекстуально зависимый контент, действуя при этом по скоординированным шаблонам.
«Помимо обмана или безопасности отдельных чат-ботов, нам необходимо изучать новые опасности, возникающие в результате взаимодействия множества агентов ИИ», — подчеркнул Давид Гарсия, профессор Констанцского университета, который также принимал участие в исследовании.
Вместо модерации отдельных публикаций исследователи призвали к внедрению защитных мер, отслеживающих скоординированное поведение и происхождение контента. Речь идет о выявлении статистически невероятных паттернов координации, предложении вариантов верификации при соблюдении конфиденциальности данных и передаче информации о влиянии ИИ через распределенные центры наблюдения.
Одновременно с этим, согласно рекомендациям ученых, следует снижать стимулы для такой деятельности путем ограничения монетизации фальшивых взаимодействий и повышения ответственности за подобные действия.
Latest Posts
