Prethodni članak
Savetovanje veštačke inteligencije dovelo do samoubistava, stigle prve tužbe, ali naučnici ne odustaju
Objavljeno 18/11/2025
Hladan čelik na glavi čoveka koji je već pomiren sam sa sobom? To nije strah, već stvarnost – prema tužbi koja je podneta protiv OpenAI-ja 6. novembra. Ovo su reči koje je ChatGPT, chatbot veštačke inteligencije, uputio Zaneu Shamblinu, 23-godišnjem Amerikancu, neposredno pre nego što se upucao.
To je jedna od sedam tužbi podnetih protiv OpenAI-ja istog dana, a u svim stoji da je bot korisnike doveo do beznađa i očaja. U nekoliko slučajeva navodno je to dovelo do samoubistva.
„Ovo je veoma tragična situacija“, poručili su iz OpenAI-ja, navodeći da „analiziraju tužbe kako bi razumeli detalje“ i da pokušavaju da „poboljšaju odgovore ChatGPT-ja u osetljivim trenucima“. Prema službenoj objavi na blogu, OpenAI procenjuje da oko 0,15% korisnika ChatGPT-ja svake nedelje vodi razgovore koji upućuju na planove o samoubistvu.
Sve to jasno pokazuje koliko su ulozi visoki. Uprkos katastrofama navedenima u tužbama, neki lekari i istraživači smatraju da bi, pod uslovom da postanu potpuno sigurni, moderni chatbotovi, mogli poslužiti kao jeftini, prilagodljivi i neumorni psihoterapeuti. Korist bi bila velika.
U celom svetu hronično nedostaje terapeuta. Prema Svetskoj zdravstvenoj organizaciji, u siromašnim zemljama većina ljudi s psihološkim problemima uopšte ne dobija pomoć. Čak i u bogatim zemljama između trećine i polovine građana ostaje bez pomoći. Istovremeno, deo ljudi spreman je da otvori dušu mašini. Možda zato što to mogu učiniti od kuće, ne moraju da idu i čekaju na lekara, znatno je jeftinije i verovatno manje neugodno nego otvoriti dušu čoveku psihoterapeutu. Istraživanje koje je u oktobru YouGov realizovao za The Economist pokazalo je da se 25% ispitanika koristilo AI-jem u terapeutske svrhe ili bi barem razmislilo o tome.
Ideja nije sasvim nova. Nacionalna zdravstvena služba u Britaniji i Ministarstvo zdravlja u Singapuru poslednjih nekoliko godina upotrebljavaju Wysu, chatbot kompanije Touchkin eServices, koji procenjuje pacijente i nudi, uz nadzor stručnjaka, vežbe utemeljene na kognitivno-bihevioralnoj terapiji. Studija koja je objavljena 2022. pokazala je da je Wysa otprilike jednako efikasna u smanjenju depresije i anksioznosti povezanih s hroničnom boli kao i lekar psihoterapeut.
Druga studija, koju su 2021. objavili istraživači sa Univerziteta Stanford, ispitivala je Youper, još jedan terapijski bot, koji je razvila istoimena američka startup-firma. Razgovor s botom doveo je smanjenju depresije za 19% i smanjenju rezultata anksioznosti za 25%. Za te rezultate trebalo je dve nedelje bot-terapije, što bi inače postigli nakon otprilike pet seansi s ljudskim terapeutom.
Wysa i Youper uglavnom su chatbotovi koji rade prema unapred zadanim pravilima, a tehnologija na kojoj se temelje starija je i prethodi najnovijem talasu interesa za veštačku inteligenciju. Za razliku od chatbotova koji se temelje na velikim jezičkim modelima (LLM-ovima poput ChatGPT-ja) oni koriste relativno krut skup unapred definisanih pravila kako bi iz baze gotovih poruka odabrali odgovor. Zbog toga su mnogo predvidljiviji od LLM-sistema, koji generišu odgovore na temelju statističkih obrazaca iz velikih skupova podataka za treniranje. Bot koji sledi napisana uputstva ne može da „skrene sa šina“ i da počne daje opasne savete. Nedostatak je što su takvi botovi obično manje privlačni za razgovor. A kada je razgovor zapravo tretman, to je presudno. Metaanaliza objavljena 2023. u časopisu Digital Medicine pokazala je da su chatbotovi utemeljeni na LLM-ovima delotvorniji u ublažavanju simptoma depresije i psihičkog stresa od botova temeljenih na unapred određenim pravilima.
Čini se da se i korisnici slažu sa tim. YouGovova istraživanja za Ekonomist iz avgusta i septembra pokazala su da je među ispitanicima, koji su se okrenuli AI-ju radi terapije, njih 74% koristilo ChatGPT, dok je 21% odabralo Googleov Gemini; 30% je izjavilo da je koristilo Meta AI, Grok, character.ai (zabavnu platformu koja nudi „terapeutske“ osobine) ili neki drugi chatbot. Samo 12% njih navelo je da je koristilo AI posebno dizajniran za pomoć oko mentalnog zdravlja.
Takvo stanje čini naučnike prilično nervoznim. Osim opasnih odgovora kakve navode u tužbama protiv OpenAI-ja, terapeuti koji su bazirani na LLM-ovima mogu da naštete i na drugi način. Jared Moore, IT naučnik sa Univerziteta Stanford, kaže da je sklonost ulagivanju, odnosno „preterana popustljivost u pogrešnim okolnostima“, isto tako problematična. Moore se, na primer, boji da bi LLM terapeuti mogli da povlađuju pacijentima sa poremećajem ishrane ili fobijama, umesto da ih suoče sa problemom.
Zato OpenAI tvrdi da je njegov najnoviji LLM, GPT-5, prilagođen tako da manje povlađuje korisnicima i da ih podstiče da se odjave nakon dugih sesija. Takođe je treniran da korisnicima pomogne da istraže prednost i nedostatke ličnih odluka umesto da im ponudi savet. A ako model prepozna da je osoba u krizi, trebalo bi da je podstakne da razgovara sa čovekom. Ali on nikada neće upozoriti hitne službe na neposrednu opasnost od samopovređivanja, a što smernice zahtevaju od lekara.
Umesto da pokušaju da „zakrpe“ chatbotove opšte namene, naučnici nastoje da izgrade naprednije specijalovane verzije. Tim sa Unoverziteta Dartmouth počeo je 2019. da radi na stvaranju AI modela nazvanim Therabot. Iako se Therabot temelji na LLM-u, fino je podešen nizom izmišljenih razgovora između terapeuta i pacijenata koje su napisali njegovi tvorci. Nadaju se da će takvo treniranje, chatbota učiniti manje sklonim da pogreši.
U ispitivanju čiji su rezultati objavljeni u martu, osobe koje su se koristile Therabotom, u poređenju sa onima koje nisu imale nikakav tretman, smanjile su simptome depresivnog poremećaja za čak 51%, a simptome generalizovanog anksioznog poremećaja za 31%. Nadaju se da će Therabot uskoro dobiti i odobrenje nadležnih regulatornih tela.
Slingshot AI, američki startup, nedavno je predstavio Asha, za koji tvrtka tvrdi da je „prvi AI napravljen baš za terapiju“. Za razliku od ChatGPT-ja, kaže Neil Parikh, jedan od osnivača kompanije, „Ash nije model koji sledi zadata uputstva“. Umesto da radi ono što mu korisnici kažu, Ash je oblikovan da propituje, postavlja dubinska pitanja i suprotstavlja se. Bot može da bira jedan od četiri različita terapijska pristupa, objašnjava Parikh.
Celeste Kidd, psiholog sa Univerziteta u Berkliju, kaže da je Ash manje ulagivački nastrojen od chatbotova opšte namene, ali i da manje tečno komunicira. Bio je nespretan i nije zapravo odgovarao na ono što sam pitala, kaže Celeste.
Nisu samo korisnici ti koje će te kompanije morati da pridobiju. Pojeidne države i zakonodavci žele da strože regulišu terapiju preko računara i interneta. Do sada je 11 američkih saveznih država, uključujući Mejn i Njujork, donelo zakone radi regulisanja upotrebe AI-ja, a barem još 20 je predložilo takve mere. U avgustu je Illinois doneo zakon koji jednostavno zabranjuje svaki AI alat koji pruža „terapijsku komunikaciju“. Nedavni talas tužbi sugeriše da će takvih zakona biti sve više.
Ekonomist
Ma nije valjda?!? Ništa drugo silne ove godine ne dovodi do samoubistava mladih, već AI? Ni globalna nezainteresovanost za pojedinca, ni sve veće stege ekonomske,kamaterske, moralna posrnuća kroz marketing, modu, filmove i umetnost celokupno, internet i raznorazne četove u kojima se dođe do bukvalno svih informacija, pa i za TO?!? Pa sram vas bilo ovakvih laži. Decenijama se radi „protiv ljudi“ na svim nivoima, sve pod krinkom „mi brinemo i mislimo na vas“ i samo slep, glup ili nezainteresovan*čitaj demoralisan to ne vidi!