Міжнародна група вчених, яка опублікувала свої висновки в науковому журналі Science, вказала на те, що очевидні боти, які працюють за принципом прямого копіювання тексту, ймовірно, будуть замінені скоординованими спільнотами — так званими роями ШІ.
Під цим терміном маються на увазі керовані штучним інтелектом групи, які здатні адаптуватися в режимі реального часу, проникати в спільноти та створювати видимість масової суспільної думки. Хор із безлічі нібито незалежних голосів створює ілюзію широкої згоди в суспільстві, тоді як насправді він поширює неправдиві відомості.
При цьому відбувається злиття великих мовних моделей (LLM) з мультиагентними системами, що призводить до появи шкідливих роїв ШІ. На думку дослідників, такі системи достовірно імітують соціальну динаміку та загрожують демократичному дискурсу, нав’язуючи неправдиві факти та навіюючи хибне відчуття консенсусу.
У своєму аналізі дослідницька група продемонструвала, що основна загроза полягає не лише в недостовірному контенті, а насамперед у створенні штучної одностайності. Хибне враження того, що «так стверджують усі», може впливати на переконання та соціальні норми, навіть якщо окремі твердження викликають сумніви. Цей тривалий вплив, як зазначили вчені, здатний викликати глибокі культурні зміни, що виходять за межі зміни норм, і тонко змінювати мову, символи та ідентичність спільноти.
«Небезпека більше не обмежується тільки фейковими новинами; вона полягає в тому, що сама основа демократичного дискурсу — незалежні голоси — руйнується, коли один суб’єкт може контролювати тисячі унікальних профілів, створених штучним інтелектом», — пояснив Йонас Р. Кунст із Норвезької бізнес-школи BI, один із провідних авторів статті в Science.
Крім того, рої ШІ можуть забруднювати дані для навчання звичайних систем штучного інтелекту, наводнюючи інтернет неправдивими твердженнями. Таким чином вони можуть поширювати свій вплив і на визнані ШІ-платформи.
Вчені попередили, що ця загроза не є суто теоретичною: аналізи вказують на те, що подібні тактики вже застосовуються.
Дослідники визначають шкідливий рій ШІ як групу керованих штучним інтелектом суб’єктів, які зберігають постійну ідентичність та пам’ять, координуються для досягнення спільних цілей і при цьому варіюють тон та зміст своїх повідомлень. Вони підлаштовуються під взаємодію та реакції людей у режимі реального часу, потребують мінімального контролю з боку людини та можуть використовуватися на різних платформах. Порівняно з колишніми мережами ботів такі рої важче виявити, оскільки вони генерують різнорідний, контекстуально залежний контент, діючи при цьому за скоординованими шаблонами.
«Крім обману чи безпеки окремих чат-ботів, нам необхідно вивчати нові небезпеки, що виникають у результаті взаємодії безлічі агентів ШІ», — підкреслив Давід Гарсія, професор Констанцького університету, який також брав участь у дослідженні.
Замість модерації окремих публікацій дослідники закликали до впровадження захисних заходів, що відстежують скоординовану поведінку та походження контенту. Йдеться про виявлення статистично неймовірних патернів координації, пропозицію варіантів верифікації при дотриманні конфіденційності даних та передачу інформації про вплив ШІ через розподілені центри спостереження.
Одночасно з цим, згідно з рекомендаціями вчених, слід знижувати стимули для такої діяльності шляхом обмеження монетизації фальшивих взаємодій та підвищення відповідальності за подібні дії.
Джерело: Science
Latest Posts
