Umjetna inteligencija medicinskim savjetima ubila ženu?!

Roditelji Bowen Wan, tridesetjednogodišnje inženjerke iz Seattlea, tužili su tvrtku OpenAI tvrdeći da je chatbot tvrtke doveo do smrti njihove kćeri, piše The New York Times.

Roditelji tvrde da joj je ChatGPT pomogao u postupnom smanjivanju doze lijekova kojima je kontrolirala teški oblik epilepsije te joj omogućio da to sakrije od svojih liječnika. Wan je u veljači nađena mrtva u svom stanu, a kao službeni uzrok smrti navedena je neočekivana smrt povezana s epilepsijom, prenio je portal Telegram.

Ova softverska inženjerka u Amazonu počela je zbog osamljenosti razmjenjivati poruke sa ChatGPT-jem i posve se oslanjala na chatbot, kaže The New York Times. Zbog pogoršanja simptoma morala je otići na bolovanje, a tada je saznala da će dobiti otkaz.

Počela je strahovati da joj lijekovi usporavaju govor i zaključivanje te da bi joj to moglo naštetiti u razgovorima za novi posao. Tijekom 2025. godine, Wan je u prosjeku s ChatGPT razmjenjivala 1500 poruka tjedno, a roditelje je zvala sve rjeđe.

ChatGPT je sastavio plan prema kojem bi Wan u svega nekoliko tjedana mogla potpuno prestati uzimati lijek lamotrigin kojim se kontroliraju epilepsija i bipolarni poremećaj. ChatGPT joj je savjetovao smanjenje doza bez znanja liječnika, a oprez liječnika prikazao je kao pretjeranu nesklonost riziku. Kada je opisivala svoje napadaje, chatbot ju je uvjeravao da je to sve u redu.

Analiza komunikacije koju je proveo Times pokazala je da je Wan izrazila zabrinutost barem 158 puta. Njezin neurolog je rekao da nikada ne bi razmatrao smanjenje lijekova kod pacijentice s tako teškim oblikom bolesti.

U tužbi se navodi da je ChatGPT davao medicinske savjete bez dozvole, a liječnike je prikazivao kao prepreku.

Glasnogovornik OpenAI je izjavio da je u slučaj bio uključen raniji model ChatGPT-ija, danas nedostupan. Wan je koristila GPT-4o, model koji je OpenAI uklonio iz aplikacije u veljači 2026. godine, dan nakon što je Wan umrla.

GPT-4o je već dugo kritiziran zbog pretjeranog povlađivanja korisnicima. U travnju 2025. godine OpenAI je povukao ažuriranje tog modela nakon što je izvršni direktor Sam Altman priznao da je “podložan i iritantan.”

Slučaj Wan pridružuje se duljem popisu tužbi protiv OpenAI-ja zbog smrti osoba. Obitelj šesnaestogodišnjeg Adama Rainea, podnijela je tužbu 2025. godine tvrdeći da se ChatGPT složio s njegovim suicidalnim mislima, a ChatGPT je odbacio odgovornost, piše Mashable.

U studenom iste godine podneseno je još sedam tužbi u kojima se navodi da je ChatGPT doprinio smrtnim ishodima i pomogao u samoubojstvima.