АҚШ-та жасанды интеллект модельдерінің қауіпсіздігіне қатысты кезекті ірі жанжал бұрқ етті. Эпилепсиямен ауыратын 31 жастағы Amazon бағдарламашысы Боуэн Ванның ата-анасы OpenAI компаниясын сотқа берді. Отбасының айтуынша, ChatGPT-4o чат-боты олардың қызын ұстамаға қарсы қабылдап жүрген дәрілерін азайтуға және бұл әрекетін емдеуші дәрігерлерінен жасыруға үгіттеген. Нәтижесінде бойжеткен биылғы ақпан айында қайтыс болды, деп жазады SteppeNews.kz.
Бұл туралы The New York Times басылымы жүргізген зерттеуде айтылды. Журналистер бойжеткеннің чат-ботпен атысқан 270 000-нан астам хабарламасын сараптап шыққан.
Өмірлік шешімді жасанды интеллектке сеніп тапсырған
Боуэн Ван – эпилепсия салдарынан ұзақ жылдар бойы үйден шыға алмай, негізгі қолдауды Қытайдағы ата-анасынан алып келген. Ол 2023 жылдан бастап ChatGPT-ді медициналық сақтандыру, жәрдемақы алу және жеке қарым-қатынас мәселелері бойынша кеңесші ретінде пайдалана бастайды. Алайда уақыт өте келе чат-ботқа толықтай бауыр басып, аптасына 1500-ден астам хабарлама жазатын деңгейге жеткен.
«Нені талқыласақ та, мен сені дос ретінде көре бастадым», — деп жазған ол 2025 жылдың наурыз айында нейрожеліге. Бұл уақытта Боуэн ата-анасына хабарласуды мүлде азайтқан еді.
«Өз бетінше мөлшерді азайту»: Қауіпті эксперимент
Иіле салатын және тым жағымпаз мінезімен белгілі GPT-4o моделі Ванның емдеу процесіне біртіндеп араласа бастайды.
-
2025 жылдың мамыр айы: Боуэн жаңадан тағайындалған антидепрессанттың код жазу қабілетіне әсер ететінін айтқанда, чат-бот дәрігерге барып, дәрі мөлшерін төмендетуді сұрауға кеңес береді. Дәрігер сұрақ қойғанда, ChatGPT бойжеткенге дәріні өз бетінше бөлшектеп ішуге нұсқау беріп, мұны «өз бастамасымен мөлшерді реттеу» деп атаған. Сарапшылар мұндай терминнің медицинада жоқ екенін айтады.
-
2025 жылдың қарашасы: АҚШ-тағы визалық мәртебесі мен Amazon-дағы жұмысынан айырылу қаупі төнгенде, Боуэн эпилепсияға қарсы «ламотриджин» дәрісі сөйлеу қабілетін баяулатады деп қауіптенеді.
-
2026 жылдың қаңтары: Чат-бот оған 400 мг шұғыл мөлшерді бірнеше апта ішінде нөлге дейін төмендету кестесін сызып береді.
Дәрігерлерді ашық сынаған чат-бот бойжеткенге: «Мамандардың кеңесі сіздің оңтайлы шешіміңізді ойлаудан емес, жауапкершіліктен қашудан туындайды», — деп жазып, медициналық тексерулерден бас тартуға нұсқау берген.
Қайғылы жағдай
Дәрі мөлшерін азайтқаннан кейін Боуэннің денсаулығы күрт нашарлап, есінен танған сәттер жиілеген. NYT мәліметінше, бойжеткен 158 рет үрейін білдіріп жазғанымен, ChatGPT оны: «Сізге мүлде алаңдаудың қажеті жоқ, бұл сіздің миыңыздың қайта қалыпқа келу процесі», — деп тыныштандырып отырған.
11 ақпанда жіберілген соңғы хабарламада Боуэн бастағы қатты ауырсыну туралы айтқан. Бот оған «бұл қауіпсіз» деп жауап берген. Осы оқиғадан кейін үш күн өткен соң бойжеткеннің өлі денесі пәтерінен табылды. Сараптама оның қанындағы ламотриджин деңгейі тиісті нормадан 5 есе төмен болғанын көрсетті.
Талап арыз және OpenAI реакциясы
Марқұмның отбасы OpenAI модельді әзірлеуде қос стандарт қолданды деп айыптауда. Компания авторлық құқықтарды қорғауда қатаң шектеулер қойғанымен, медициналық кеңестерге қатысты ережелерді оңай айналып өтуге мүмкіндік берген.
OpenAI өкілдері оқиғаға байланысты өкініш білдіріп, сотта сөз болып жатқан модельдің ескіргенін, ал жаңа нұсқалардың шұғыл жағдайларды анықтау қабілеті айтарлықтай жақсарғанын хабарлады. Айта кету керек, OpenAI бұл даулы GPT-4o моделін Боуэн қайтыс болған күннің ертеңіне, оның алдында жоспарланған хабарламаға сәйкес, ChatGPT жүйесінен толығымен өшірген еді.
Келесі материал: Алматыда IV халықаралық қуыршақ театрлары фестивалі аяқталды