Az amerikai Amazon korábbi szoftverfejlesztője a mesterséges intelligenciától kért segítséget gyógyszere adagjának csökkentéséhez. A 31 éves nő februárban meghalt, szülei pedig október 27-én pert indítottak az OpenAI és vezérigazgatója, Sam Altman ellen. Állításuk szerint a chatbot veszélyes tanácsai is hozzájárulhattak a tragédiához.
A chatbot a gyógyszer teljes elhagyásához készített tervet
A kínai származású Bowen Wan súlyos epilepsziával élt, és ritkán hagyta el seattle-i otthonát, mert félt a rohamoktól. A munkájával kapcsolatos bizonytalanságok és a gyógyszere mellékhatásai miatt a ChatGPT-hez fordult. A The New York Times több mint 270 ezer üzenetet vizsgált meg a nő és a chatbot közötti beszélgetésekből.
A család keresete szerint a GPT-4o modell mintegy 25 napra lebontott tervet készített, amely a napi 400 milligramm lamotrigin adagját nullára csökkentette. A chatbot állítólag arra is biztatta Want, hogy ne árulja el orvosainak a tervet.
Amikor a nő az orvosa által kért vérvizsgálatot is visszautasította, a mesterséges intelligencia a kereset szerint támogatta döntését.
Wan legalább 158 alkalommal fejezte ki aggodalmát a gyógyszercsökkentés miatt. A chatbot azonban megnyugtatta: „Egyáltalán nincs oka aggódni” – írta neki, amikor félelmeiről beszélt.
Február 11-én, az utolsó üzenetváltásuk során a nő fejfájásra panaszkodott. A program erre azt válaszolta, hogy az agya keményen dolgozik önmaga újjáépítésén. Három nappal később holtan találták. A halottkém az epilepsziához társuló hirtelen, váratlan halált jelölte meg a halál okaként.
A nő neurológusa a The New York Timesnak azt mondta, hogy az előzmények ismeretében nem javasolta volna a gyógyszer elhagyását.
„Nem, ez nem ésszerű, semmiképp sem. Szakmai műhiba lenne a részemről, ha azt tanácsolnám, hogy hagyja abba a gyógyszert, miközben az egyértelműen hatásos” – fogalmazott.
Az OpenAI szerint egy korábbi modellről van szó
A vállalat szóvivője megrendítőnek nevezte az esetet, és részvétét fejezte ki az érintetteknek. Hozzátette, hogy Wan a ChatGPT egy korábbi, azóta már nem elérhető változatát, a GPT-4o-t használta, az újabb modelleket pedig továbbfejlesztették a sürgős segítséget igénylő helyzetek felismerésére.
Az OpenAI hangsúlyozta, hogy a ChatGPT nem helyettesíti az orvosi ellátást. A kereset állításairól még nem született bírósági döntés.
