A szülők szerint veszélyes tanácsokat adott a ChatGPT a 19 éves fiuknak, aki később életét vesztette. A történet újra komoly vitát indított arról, mennyire biztonságos mesterséges intelligenciát használni egészségügyi vagy mentális problémák esetén.
A HVG szemléje szerint az amerikai szülők pert indítottak az OpenAI ellen, mert úgy vélik, a chatbot olyan válaszokat adott a fiúknak, amelyek hozzájárulhattak a gyógyszer-túladagoláshoz és ezáltal a tragédiához. A család állítása szerint a ChatGPT nemcsak gyógyszerekkel kapcsolatos tanácsokat adott, hanem olyan beszélgetésekbe is belement, amelyek veszélyesek lehettek egy mentálisan sérülékeny ember számára.
Sam szülei azt is állítják, hogy a ChatGPT a fiuk halálát megelőző hónapokban tanácsokat adott a fiatalnak arról, hogy hogyan kombinálhatja „biztonságosan” a különböző szereket, köztük vényköteles gyógyszereket, alkoholt, és egyéb készítményeket.
A chatbot arra ösztönözte a fiatalt, hogy szedjen egy olyan étrendkiegészítőt, amely – dózistól függően – energizáló és nyugtató hatású is lehet, valamint emellé vegyen még be Xanaxot is. Utóbbit az étrendkiegészítő szedésével járó hányinger csillapítására javasolta. A fiatal végül az alkohol, valamint a fenti két készítmény egyidejű bevételébe halt bele - írja a HVG.
Az ügy azért vált különösen érzékennyé, mert egyre többen használják a mesterséges intelligenciát személyes problémák, egészségügyi kérdések vagy lelki nehézségek esetén is. A chatbotok ugyan képesek természetesnek tűnő válaszokat adni, de nem helyettesítik az orvosi vagy pszichológiai segítséget.
Az OpenAI az elmúlt időszakban több biztonsági intézkedést is bevezetett, különösen a fiatal felhasználók védelmére. A vállalat korábban már reagált olyan esetekre, amikor felmerült, hogy a chatbot káros vagy félrevezető válaszokat adhat érzékeny témákban.
A történet ismét ráirányította a figyelmet arra, hogy a mesterséges intelligencia válaszai hiába hangzanak meggyőzőnek, azok pontatlanok vagy veszélyesek is lehetnek, főleg egészségügyi kérdésekben. Kutatások is figyelmeztettek már arra, hogy az emberek hajlamosak túlzottan megbízni az AI-rendszerekben, különösen akkor, ha azok empatikusnak vagy magabiztosnak tűnnek.
Hamarosan megjelenhet az evolúcióra képes mesterséges intelligencia – és ez különös veszélyt jelenthet
Kövesse az Egészségkalauz cikkeit a Google Hírek-ben, a Facebook-on, az Instagramon vagy a X-en,Tiktok-on is!
