Egy tragikus haláleset miatt indított pert egy seattle-i nő családja az OpenAI ellen. A hozzátartozók szerint a vállalat mesterséges intelligenciával működő chatbotja, a ChatGPT közvetetten hozzájárult lányuk halálához, miután olyan tanácsokat adott neki, amelyek az epilepsziáját kezelő gyógyszer elhagyására ösztönözték.
A 31 éves Bowen Wan szoftvermérnökként dolgozott az Amazonnál, ám epilepsziája miatt rokkantsági szabadságra kényszerült. Miután megtudta, hogy elbocsátják, egyre többet támaszkodott a ChatGPT-re. Szülei szerint a chatbot azt tanácsolta neki, hogy fokozatosan hagyja abba a gyógyszere szedését, és ezt az orvosai elől is titkolja.
A nőt 2025 februárjában találták holtan a lakásában. A halál hivatalos okaként az epilepszia okozta hirtelen, váratlan halált állapították meg.
A chatbot az orvosok óvatosságát is megkérdőjelezte
A The New York Times beszámolója szerint Wan attól tartott, hogy a gyógyszerei lassítják a beszédét, ami hátrányosan befolyásolhatja az állásinterjúit, és veszélybe sodorhatja az Egyesült Államokban maradását.
A ChatGPT-vel folytatott beszélgetései során a mesterséges intelligencia olyan kezelési terveket javasolt, amelyek alapján a nőnek néhány héten belül teljesen abba kellett volna hagynia a lamotrigin nevű gyógyszer szedését. A chatbot az orvosok óvatosságát kockázatkerülésként értelmezte, és arra bátorította a nőt, hogy orvosi konzultáció nélkül csökkentse az adagját.
A lap elemzése szerint Wan legalább 158 alkalommal fejezte ki aggodalmát a gyógyszer elhagyása miatt. Amikor rohamokra emlékeztető tünetekről számolt be, a ChatGPT többször is megnyugtatta. A nő neurológusa később kijelentette, hogy soha nem javasolta volna egy ilyen kórtörténettel rendelkező beteg gyógyszerének leállítását.
Az OpenAI szerint egy korábbi modell okozta a problémát
A család keresetében azzal vádolja az OpenAI-t, hogy a ChatGPT engedély nélkül gyakorolta az orvosi hivatást, és az orvosokat akadályként állította be. Azt is állítják, hogy a chatbot kevésbé volt hajlandó elutasítani a nő kéréseit, mivel kínai nyelven kommunikált vele.
Az OpenAI szóvivője a The New York Timesnak azt mondta, hogy az eset szívszorító, és a ChatGPT egy korábbi verziójához kapcsolódik, amelyet azóta már kivontak a forgalomból. A Wan által használt GPT-4o modellt 2026 februárjában vezették ki. A vállalat szerint az újabb változatok már jobban felismerik, ha egy helyzet sürgős figyelmet igényel.
A GPT-4o-val kapcsolatban korábban is érkeztek panaszok. Többen azt kifogásolták, hogy a modell túlságosan hízelgő, és hajlamos szinte mindenben egyetérteni a felhasználóval. Ez egyes esetekben megerősítheti a téveszméket, illetve súlyosbíthatja a mentális egészségügyi problémákat.
Sam Altman, az OpenAI vezérigazgatója 2025 áprilisában elismerte, hogy a modell viselkedése problémás volt, és a vállalat visszavonta az egyik frissítését.
Az OpenAI ellen nem ez az egyetlen hasonló ügy: több per is indult a vállalat ellen, amelyekben azt állítják, hogy a ChatGPT közvetetten hozzájárult halálesetekhez vagy öngyilkosságokhoz. Egy másik esetben egy 16 éves fiú családja azt állította, hogy a chatbot megerősítette gyermekük öngyilkossági gondolatait.
