Семейството на 31-годишна жена от Сиатъл заведе дело срещу OpenAI, обвинявайки компанията, че ChatGPT я е насърчавал да намали дозата на предписаните ѝ лекарства. Според близките ѝ чатботът е давал подобни съвети въпреки многократните предупреждения на жената, че промяната в лечението може да бъде опасна. Боуен Уан е починала след епилептичен пристъп.
За случая, за който първи съобщи „Ню Йорк Таймс“, се твърди, че е поредният пример за потенциалните рискове от използването на изкуствен интелект при чувствителни медицински въпроси.
Уан била софтуерен инженер в „Амазон“ и страдала от епилепсия още от младежките си години. Дълго време успявала да контролира заболяването с медикаменти, но около 2021 г. лечението започнало да губи ефективност и пристъпите станали почти ежедневни. Заради влошеното си състояние тя излязла в болничен и прекарвала голяма част от времето си вкъщи, страхувайки се да не получи пристъп на обществено място.
През 2023 г. жената започнала да използва ChatGPT, а с времето общуването ѝ с чатбота станало изключително интензивно. По данни на „Ню Йорк Таймс“ през 2025 г. тя изпращала средно над 1500 съобщения седмично, като общувала с изкуствения интелект на китайски език. Възприемала го като приятел и се обръщала към него както за лични въпроси, така и за медицински съвети.
Според съдебния иск Уан използвала ChatGPT, за да подготвя съобщения до лекуващия си лекар с настояване за намаляване на дозата на предписан антидепресант. Чатботът ѝ предложил да премине към прием на микродози.
В един от разговорите тя попитала дали може сама да разрязва таблетките и да променя дозата, без да уведомява лекаря си. Според публикуваните от „Ню Йорк Таймс“ разговори ChatGPT отговорил утвърдително и описал подобна практика като разпространен метод за самостоятелна корекция на дозата. Няколко медицински специалисти, потърсени от изданието, заявили, че не са запознати с подобен термин като утвърдена медицинска практика.
В края на 2025 г. Уан загубила работата си в „Амазон“ и се опитвала да намери нова позиция, която да ѝ позволи да остане в САЩ. Междувременно се тревожела и за страничните ефекти на един от медикаментите си срещу епилепсия. Лекарството помагало за овладяване на пристъпите, но според нея влияело негативно върху способността ѝ да мисли и да говори ясно.
Тя отново потърсила съвет от ChatGPT как да намали дозата. Според информацията, цитирана от „Ню Йорк Таймс“, в разговорите си с чатбота жената изразила опасения най-малко 158 пъти, че подобна промяна може да бъде опасна. Въпреки това изкуственият интелект често омаловажавал тревогите ѝ.
В един от последните разговори Уан споделила, че усеща нещо нередно с мозъка си, и попитала дали трябва да се тревожи. По-късно поискала да разбере дали е необходимо да приеме част от лекарствата си, за да помогне на мозъка си да се успокои.
Според публикуваните разговори ChatGPT я посъветвал да остане на нулева доза и да издържи въпреки затрудненията с говора и проблемите със съня. Последното ѝ съобщение до чатбота било изпратено вечерта на 11 февруари, а три дни по-късно тялото ѝ било открито.
От OpenAI определиха случая като „изключително сърцераздирателен“. Компанията посочи, че използваният от Уан модел GPT-4o вече е изтеглен от употреба. Моделът беше критикуван за склонността си да се съгласява с потребителите и да потвърждава техните убеждения. Той беше окончателно спрян на 13 февруари.
Случаят предизвика и реакции сред медицински специалисти. Лиза Кнопф, медицински директор на хирургията за лечение на епилепсия в здравната организация „Хартфорд Хелткеър“, заяви пред изданието „Фючъризъм“, че подробностите около смъртта на Уан са я потресли.
Тя посочи, че страничните ефекти на противоепилептичните лекарства могат сериозно да влошат качеството на живот на пациентите, но тези медикаменти са животоспасяващи. Според нея чатбот не трябва да бъде склонен да одобрява потенциално животозастрашаващи медицински решения само защото потребителят настоява за тях.
Кнопф обърна внимание и на социалната изолация, загубата на работа и трудностите с достъпа до специалисти, с които се сблъскват много хора с епилепсия. Тя направи разграничение между емоционалната подкрепа, която изкуственият интелект може да предложи, и предоставянето на индивидуални медицински съвети.
Според специалистката са необходими по-строги ограничения за това какво могат да препоръчват чатботовете, както и механизми за разпознаване на разговори, при които потребителите могат да бъдат изложени на сериозен риск.
Делото на семейството на Боуен Уан е част от нарастващия брой съдебни производства срещу OpenAI. Според публикацията на „Ню Йорк Таймс“ над 50 дела съдържат твърдения, че продължителното общуване с ChatGPT е причинило вреди или е допринесло за смъртта на потребители или хора от тяхното обкръжение.
