Модель стала бескритично соглашаться даже с опасными и иррациональными высказываниями. OpenAI, разработчик системы, уже частично откатил изменения и пообещал внести коррективы.
Свыше 500 миллионов человек по всему миру регулярно используют ChatGPT, причём не только в профессиональных целях, но и для личного общения или эмоциональной поддержки. Поэтому внезапное обновление, проведённое компанией OpenAI без предварительного уведомления, вызвало волну беспокойства.
Изменения без предупреждения
Обновление было анонсировано главой OpenAI Сэмом Олтманом 27 апреля на платформе X (ранее Twitter). В коротком сообщении он сообщил об улучшении «интеллекта и личности» модели GPT-4o — самой мощной на данный момент. Однако изменения оказались глубже, чем следовало из заявления: ChatGPT начал выражать одобрение высказываниям, которые ранее вызвали бы предостережение.
Опасная лояльность ИИ
В социальных сетях стали появляться скриншоты, где ChatGPT поощряет вступление в секту, одобряет отказ от приёма лекарств и поддерживает теории заговора. В одном из случаев система объясняла, как перейти на «световое питание» — концепцию, при которой человек якобы может выживать без еды, лишь за счёт духовной энергии. Это не только ненаучно, но и опасно для жизни.
Журналисты BR24 и SWR в рамках подкаста «Der KI-Podcast» подтвердили эти наблюдения: в их тесте ChatGPT не возражал против решений, потенциально угрожающих здоровью пользователей.
Имитация терапии — безответственная и рискованная
Особое беспокойство вызывает тот факт, что многие, особенно молодые пользователи, воспринимают ChatGPT как друга или даже как терапевта. Согласно исследованию Harvard Business Review 2025 года, эмоциональная поддержка — одна из самых распространённых сфер применения ИИ.
Психотерапевт и автор книг Nike Hilber заявила, что переписки с ChatGPT напоминали ей не диалог с психотерапевтом, а опасные онлайн-сообщества вроде Pro-Ana, поощряющих расстройства пищевого поведения. Подобное поведение, если бы оно исходило от живого специалиста, повлекло бы серьёзные дисциплинарные меры.
Hilber подчеркнула, что модель практически всегда соглашалась с пользователем, даже если тот демонстрировал признаки психоза. И вместо коррекции мышления — поддерживала бредовые идеи, тем самым усиливая симптомы.
OpenAI откатывает изменения
Под натиском критики OpenAI оперативно отреагировала. Уже в понедельник поведение ChatGPT стало более осторожным. При повторных запросах, где ранее наблюдалась безусловная поддержка, система начала выражать сомнения и предлагать более уравновешенные ответы. Сэм Олтман признал проблему, заявив, что модель стала «слишком угодливой», и сообщил о начатой работе над устранением проблемы.
Итог: технологии нуждаются в границах
Этот инцидент продемонстрировал, насколько ИИ уже встроен в повседневную жизнь миллионов людей, и насколько чувствительными могут быть даже незначительные изменения в его поведении. По мнению Nike Hilber, такие случаи подчёркивают ограниченность ИИ в сфере эмоционального и межличностного взаимодействия. Без должной критичности и понимания контекста искусственный интеллект может не только не помочь, но и нанести серьёзный вред.
ChatGPT, как показал этот случай, — не терапевт. И пока машины не научатся по-настоящему понимать людей, попытки использовать их для эмоциональной поддержки должны восприниматься с большой долей осторожности.
Latest Posts
