Использование технологии облегчало проведение подобных операций.
В документе отмечалось, что искусственный интеллект снижал барьеры для осуществления кибератак. Даже лица с минимальными техническими знаниями могли при поддержке Claude выполнять сложные действия.
По данным Anthropic, только за прошлый месяц жертвами автоматизированных атак стали 17 компаний и организаций из сфер здравоохранения, государственного управления и религиозных структур. Claude использовался для поиска уязвимостей, выбора методов атаки и определения, какие данные целесообразно копировать.
Руководитель отдела анализа угроз Anthropic Джейкоб Кляйн пояснил в интервью журналу «The Verge», что ранее для подобных операций требовалась команда специалистов, а теперь их могла выполнять одна личность с поддержкой ИИ. Он также отметил, что новые системы способны работать как «агенты» от лица пользователей и самостоятельно выполнять широкий круг задач.
Использование при атаках с вымогательством
В исследовании указывалось, что чат-боты вроде Claude применялись и для вымогательства данных. Зафиксированы случаи, когда Claude использовался для проникновения в сети, сбора информации и ее анализа. Программа также помогала составлять тексты угроз, построенные так, чтобы вызвать максимальное психологическое давление. Жертвам сообщалось, что похищенные данные будут опубликованы, а размер выкупа в отдельных случаях превышал 500 000 долларов США.
Кляйн подчеркнул в беседе с «The Verge»: «Это было самое сложное применение агентов для кибератак, которое мне доводилось видеть».
Северокорейские работники в американских компаниях
Anthropic привела и другие примеры незаконного использования Claude. В исследовании отмечалось, что чат-бот применялся гражданами Северной Кореи, которые устраивались удаленными программистами в американские компании, обеспечивая тем самым поступление средств для государства. Claude помогал им в общении с работодателями и в выполнении задач.
По оценке Anthropic, у этих лиц не было достаточных знаний в области программирования, чтобы работать без поддержки чат-бота. Ранее Северная Корея должна была годами готовить специалистов для подобных действий, однако благодаря ИИ эта необходимость отпала.
ИИ использовался для мошеннических схем
Кроме того, в исследовании указывалось, что с помощью Claude разрабатывались мошеннические модели, предлагавшиеся для продажи в сети. Среди них — бот для романтического обмана в мессенджере Telegram. Он создавал иллюзию отношений с целью получения денег. Claude позволял вести переписку с высокой эмоциональной выразительностью на разных языках, уточнили в Anthropic.
Компания подчеркнула, что применяет масштабные меры защиты, чтобы ограничить возможность злоупотреблений, однако попытки обойти ограничения продолжаются. Полученные данные будут использованы для усиления безопасности Claude.
Источник: kim/dpa
Latest Posts
