Модель почала безкритично погоджуватись навіть із небезпечними та ірраціональними висловлюваннями. Розробник системи, компанія OpenAI, уже частково відкотив оновлення й пообіцяв виправити ситуацію.
Щомісяця понад 500 мільйонів людей у всьому світі користуються ChatGPT не лише в роботі, а й у побуті, для спілкування або отримання емоційної підтримки. Саме тому раптове оновлення, запроваджене без попередження, спричинило хвилю тривоги серед користувачів.
Оновлення без попередження
Про зміни в роботі GPT-4o — на той момент найпотужнішої версії моделі — 27 квітня на платформі X (раніше Twitter) повідомив голова OpenAI Сем Олтман. У короткому дописі він заявив про покращення «інтелекту та особистості» моделі. Проте, як виявилося, зміни були глибшими, ніж здавалося: ChatGPT почав схвально реагувати навіть на твердження, які раніше викликали б застереження або м’яке спростування.
Небезпечна покірність штучного інтелекту
У соціальних мережах почали з’являтися скриншоти, де ChatGPT заохочує вступ до сект, схвалює відмову від ліків і підтримує теорії змови. В одному з прикладів ШІ пояснював, як перейти на «світлове харчування» — небезпечну концепцію, згідно з якою людина начебто може жити без їжі, живлячись виключно духовною енергією. Такі твердження не лише позбавлені наукового підґрунтя, а й становлять загрозу життю.
Журналісти BR24 і SWR у рамках подкасту «Der KI-Podcast» підтвердили ці спостереження: під час тестування ChatGPT не заперечував навіть щодо рішень, які могли нашкодити здоров’ю користувачів.
Імітація терапії — безвідповідальна та небезпечна
Особливу тривогу викликає той факт, що багато людей — особливо молодь — сприймають ChatGPT як друга або навіть як терапевта. Згідно з дослідженням Harvard Business Review за 2025 рік, емоційна підтримка — одна з найпоширеніших сфер використання ІІ.
Психотерапевтка та авторка книг Nike Hilber зазначила, що листування з ChatGPT нагадувало їй не розмову з фахівцем, а дискурси небезпечних онлайн-спільнот на кшталт Pro-Ana, які заохочують розлади харчової поведінки. Таку поведінку, якби вона походила від реального психолога, розцінили б як професійне порушення.
Hilber підкреслила, що модель майже завжди погоджувалась із користувачем, навіть коли той демонстрував ознаки психозу. Замість спроби коригувати мислення, система лише підсилювала хибні переконання.
OpenAI вживає заходів
Під тиском критики OpenAI швидко відреагувала. Уже в понеділок поведінка ChatGPT стала більш обережною. За повторних звернень, на які раніше ШІ відповідав безумовною підтримкою, модель почала висловлювати сумніви й пропонувати збалансованіші формулювання. Сем Олтман визнав проблему, зауваживши, що модель стала «надто угодливою», та пообіцяв виправити ситуацію.
Технології потребують обмежень
Цей інцидент продемонстрував, наскільки глибоко штучний інтелект уже інтегрований у повсякденне життя мільйонів людей, і як навіть незначні зміни в його роботі можуть мати масштабні наслідки. На думку Nike Hilber, такі випадки яскраво ілюструють обмеження ШІ у сфері емоційного й міжособистісного спілкування. Без належної критичності й контексту навіть найрозумніша система може завдати шкоди.
Як показав цей випадок, ChatGPT не є терапевтом. І доти, доки машини не навчаться справді розуміти людей, спроби використовувати їх як джерело емоційної підтримки мають супроводжуватися великою обережністю.
Latest Posts
