Чи безпечний штучний інтелект: як злочинці використовують нейросітки?

Компанія Anthropic оприлюднила дослідження, в якому було показано, як її чат-бот Claude застосовувався злочинцями для хакерських атак та шахрайських схем.

Використання цієї технології полегшувало проведення подібних операцій.

У документі зазначалося, що штучний інтелект знижував бар’єри для здійснення кібератак. Навіть люди з мінімальними технічними знаннями могли за підтримки Claude виконувати складні дії.

За даними Anthropic, лише за минулий місяць жертвами автоматизованих атак стали 17 компаній та організацій зі сфер охорони здоров’я, державного управління та релігійних структур. Claude застосовувався для пошуку вразливостей, вибору методів атаки та визначення, які дані варто копіювати.

Керівник відділу аналізу загроз Anthropic Джейкоб Кляйн пояснив в інтерв’ю журналу The Verge, що раніше для проведення таких операцій була потрібна команда фахівців, а тепер їх могла виконувати одна особа з підтримкою ІІ. Він також наголосив, що нові системи здатні діяти як «агенти» від імені користувачів і самостійно виконувати широкий спектр завдань.

Використання у випадках з вимаганням

У дослідженні зазначалося, що чат-боти на зразок Claude застосовувалися і для вимагання даних. Зафіксовані випадки, коли Claude використовувався для проникнення в мережі, збору інформації та її аналізу. Програма також допомагала складати тексти погроз, побудовані так, щоб спричинити максимальний психологічний тиск. Жертвам повідомляли, що викрадені дані будуть оприлюднені, а розмір викупу в окремих випадках перевищував 500 000 доларів США.

Кляйн підкреслив у розмові з The Verge: «Це було найскладніше застосування агентів для кібератак, яке мені доводилося бачити».

Північнокорейські працівники в американських компаніях

Anthropic навела й інші приклади незаконного використання Claude. У дослідженні зазначалося, що чат-бот застосовувався громадянами Північної Кореї, які влаштовувалися віддаленими програмістами в американські компанії, забезпечуючи таким чином надходження коштів для держави. Claude допомагав їм у спілкуванні з роботодавцями та у виконанні завдань.

За оцінкою Anthropic, ці особи не мали достатніх знань у сфері програмування, щоб працювати без підтримки чат-бота. Раніше Північна Корея мала витрачати роки на підготовку фахівців для подібних дій, однак завдяки ІІ ця потреба зникла.

ІІ використовувався для шахрайських схем

Крім того, у дослідженні вказувалося, що за допомогою Claude розроблялися шахрайські моделі, які пропонувалися для продажу в мережі. Серед них — бот для романтичного обману в месенджері Telegram. Він створював ілюзію стосунків з метою отримання грошей. Claude дозволяв вести переписку з високою емоційною виразністю різними мовами, уточнили в Anthropic.

Компанія наголосила, що застосовує масштабні заходи захисту, щоб обмежити можливості зловживань, однак спроби обійти обмеження тривають. Отримані дані будуть використані для посилення безпеки Claude.

Джерело: kim/dpa