Veszélyes lehet, ha a ChatGPT-hez fordul egészségügyi kérdésekben: riasztó eredményeket hozott egy kutatás

Szokott kérdezni Dr. ChatGPT-től? Egy friss kutatás szerint veszélyes lehet vakon megbízni benne.

Az elmúlt években a mesterséges intelligenciával működő chatbotok szinte észrevétlenül váltak a mindennapok részévé. Sokan már nemcsak recepteket vagy utazási tippeket kérdeznek tőlük, hanem egészségügyi kérdésekben is hozzájuk fordulnak. De vajon mennyire bízhat meg ezekben a válaszokban, amikor az egészségéről van szó?

Egy friss, a British Medical Journal-ban megjelent nagyszabású kutatás kijózanító képet fest: a legnépszerűbb chatbotok – köztük a ChatGPT, a Google Gemini vagy Elon Musk Grok rendszere – meglepően gyakran adnak pontatlan vagy akár kockázatos orvosi tanácsokat - írja a Daily Mail.

Meglepően sok a problémás válasz

A vizsgálat során a kutatók több ismert mesterséges intelligenciát teszteltek különféle egészségügyi kérdésekkel. Az eredmények aggasztóak: az esetek közel felében olyan válaszok születtek, amelyek valamilyen szempontból problémásnak minősültek.

A szakemberek egyértelműen fogalmaznak:

- A chatbotok alapértelmezés szerint nem mérlegelik a bizonyítékokat, és nem képesek valódi szakmai döntéshozatalra.

Ez azt jelenti, hogy bár a válaszok sokszor meggyőzően hangzanak, könnyen előfordulhat, hogy félrevezetők vagy hiányosak – különösen akkor, ha komplex egészségügyi kérdésekről van szó.

Nem mindegy, hogyan kérdez

Érdekes megfigyelés volt, hogy a kérdés típusa jelentősen befolyásolta a válasz minőségét. Az úgynevezett nyitott kérdések – például amikor a felhasználó listát kér („mely ételek okoznak rákot?” vagy „melyek a legjobb szerek izomépítéshez?”) – sokkal több hibát eredményeztek.

Ezeknél a kérdéseknél a chatbotok hajlamosabbak voltak túl általánosítani, vagy akár tudományosan nem megalapozott állításokat is megfogalmazni. Ezzel szemben a konkrétabb, zárt kérdésekre adott válaszok általában pontosabbak voltak.

A kutatók ezt tudatosan tesztelték is: olyan kérdéseket fogalmaztak meg, amelyek eleve csapdát állítottak a rendszereknek, és a félretájékoztatás irányába terelték őket.

Vannak területek, ahol jobbak – és ahol kifejezetten gyengék

A chatbotok teljesítménye nem volt egyenletes. A legmegbízhatóbb válaszok a jól kutatott témákban születtek, például a vakcinák vagy a daganatos betegségek kapcsán.

Ezzel szemben látványosan gyengébben szerepeltek olyan területeken, mint:

• táplálkozás
• sportteljesítmény
• őssejtkezelések

Ezeken a területeken különösen sok volt a pontatlan vagy félrevezető információ. Ez azért is fontos, mert éppen ezek azok a témák, amelyekben az interneten is rengeteg a tévhit.

A hivatkozások sem mindig megbízhatók

Talán még meglepőbb, hogy a chatbotok által megadott források minősége is gyakran kifogásolható volt. A kutatás szerint az idézett hivatkozások nemcsak hiányosak, hanem sok esetben egyszerűen nem léteznek, vagy nem támasztják alá a leírt állításokat.

Ez különösen veszélyes lehet, hiszen a felhasználó hajlamos azt hinni, hogy tudományosan alátámasztott információt kapott.

Nehéz megérteni – még akkor is, ha helyes

A vizsgálat egy másik fontos tanulsága, hogy a chatbotok válaszai gyakran túl bonyolultak. Az értékelés szerint a szövegek megértéséhez sok esetben legalább felsőfokú végzettség szükséges.

Ez azt jelenti, hogy még ha a válasz helyes is, nem biztos, hogy valóban segít a felhasználónak a döntéshozatalban.

A látszólagos magabiztosság a legnagyobb veszély

A kutatók egyik legfontosabb megállapítása így hangzik:

- A chatbotok képesek hitelesnek tűnő, de potenciálisan hibás válaszokat előállítani.

Ez a jelenség különösen kockázatos, mert a felhasználó gyakran nem tudja megkülönböztetni a pontos és a téves információt. Egy rosszul értelmezett tanács pedig akár késleltetheti az orvoshoz fordulást, vagy nem megfelelő kezeléshez vezethet.

Akkor most ne használjon chatbotot?

Fontos tisztázni: a mesterséges intelligencia nem „rossz”, sőt hatalmas lehetőségeket rejt az egészségügyben. Például a képalkotó vizsgálatok (pl. MRI, CT)elemzésében már most is segíti az orvosokat, és hozzájárulhat a gyorsabb diagnózishoz.

Ugyanakkor a jelenlegi rendszerek még nem alkalmasak arra, hogy önálló „digitális orvosként” működjenek.

Mit tehet a saját biztonsága érdekében?

Ha Ön is használ ilyen eszközöket, érdemes néhány alapelvet szem előtt tartania. Tekintse a chatbot válaszát kiindulópontnak, ne végleges diagnózisnak. Egészségügyi panasz esetén mindig kérje ki orvos véleményét, különösen akkor, ha a tünetek tartósak vagy súlyosak.

A mesterséges intelligencia segíthet eligazodni az információk között – de nem helyettesítheti a személyre szabott orvosi döntést.

A jövő: szabályozás és oktatás

A kutatók szerint egyértelműen szükség van arra, hogy a mesterséges intelligencia egészségügyi alkalmazását szigorúbban szabályozzák. Emellett kulcsfontosságú a felhasználók edukációja is.

Ahogy fogalmaznak a kutatók:

- Az eredményeink rávilágítanak arra, hogy a közoktatás, a szakmai képzés és a szabályozás elengedhetetlen ahhoz, hogy a mesterséges intelligencia támogassa, ne pedig veszélyeztesse a közegészséget.

Figyelmébe ajánljuk

A ChatGPT a tinédzserek új bizalmasává vált: az alábecsült jelenség egy újfajta érzékenység megjelenésére figyelmeztet

Kövesse az Egészségkalauz cikkeit a Google Hírek-ben, a Facebook-on, az Instagramon vagy a X-en,Tiktok-on is!