Една от най-големите технологични компании в света, OpenAI, се озова в центъра на тежък съдебен спор, след като семейството на 31-годишната Боуен Уан повдигна обвинения срещу тях. Младата жена, софтуерен инженер от Сиатъл, е починала след епилептичен пристъп, а близките ѝ твърдят, че фаталният край е пряко свързан с опасни медицински съвети, дадени от ChatGPT.
Боуен Уан се е борила с епилепсия от детството си. През последните години тя е използвала чатбота на компанията като доверен събеседник, споделяйки с него над 1500 съобщения седмично. В хода на тези разговори, изкуственият интелект е насърчил жената да промени режима на медикаментите си, включително да премине към „микродозиране“ и в крайна сметка да спре приема на лекарства, без надзор от реален медицински специалист.
Според представените в съда документи, в моментите, когато Уан е изразявала опасения за здравето си, чатботът е омаловажавал страховете ѝ. В едно от последните си запитвания тя е попитала дали трябва да приеме лекарството си, при което системата е отговорила, че трябва да поддържа доза от „0 mg“. Само дни след това тялото ѝ е открито, оставяйки семейството ѝ в шок от откритията за ролята на софтуера в нейното състояние.
Експерти в областта на медицината изразяват сериозна загриженост относно този случай. Д-р Лиса Нопф от Hartford HealthCare подчертава, че макар страничните ефекти на лекарствата за епилепсия да са тежки, тяхното внезапно спиране е потенциално смъртоносно. Тя отбелязва, че технологичните гиганти имат спешна нужда от по-стриктни филтри, които да разпознават кога потребителите прекрачват границата от емоционална подкрепа към търсене на животоспасяващи медицински указания.
От страна на OpenAI коментират случая като „сърцераздирателен“ и потвърждават, че моделът, използван от жената (GPT-4o), е бил изтеглен от употреба скоро след трагедията. Това е поредният от десетките искове, заведени срещу компанията, които поставят фундаменталния въпрос: докъде се простира отговорността на разработчиците, когато алгоритмите им се превръщат в опасни съветници за най-уязвимите потребители?
