Ezeket látta már?

Így verte át a kutatókat a mesterséges intelligencia

Hírek

2023. január 19. 17:34

mesterséges intelligencia, kutatók, kutatás, plágium

Kipróbálták, hogy a ChatGPT néven futó mesterséges intelligencia mennyire hitelesen tud írni hamis kutatási kivonatokat. Az eredmény még a kutatókat is meglepte.

A ChatGPT néven futó mesterséges intelligenciával (AI, vagy magyarul MI) működő chatbot olyan meggyőzően tud hamis kutatási cikk kivonatokat írni, hogy a tudósok gyakran képtelenek megkülönböztetni azokat - derül ki a bioRxiv szerveren december végén közzétett tanulmányból. A kutatók véleményei megoszlanak a mesterséges intelligencia tudományra gyakorolt hatásait illetően - írja a Portfólió.

Sandra Wachter, aki a technológia és a szabályozás terén folytat tanulmányokat az Oxfordi Egyetemen, ezzel kapcsolatban az aggodalmát fejezte ki.

"Ha most olyan helyzetbe kerülünk, hogy a szakértők nem tudják eldönteni, mi igaz és mi nem, akkor elveszítjük azt a közvetítőt, amire nagy szükségünk van, hogy eligazodjunk a bonyolult témákban" - tette hozzá a szakember.

Mi a ChatGPT?

A ChatGPT nevű chatbot különböző felhasználói kérésekre válaszol valósághű és nyelvtanilag helyes szöveggel. Az ingyenes chatbotot a kaliforniai San Franciscóban működő OpenAI szoftvercég november 30-án tette elérhetővé bárki számára. Azóta azonban a kutatók számos etikai kérdésekkel küzdenek, mivel a ChatGPT által írt szövegek nagy részét nehéz megkülönböztetni az ember által írt szövegtől.

Egy tanulmány keretében a Northwestern Egyetemen a Catherine Gao által vezetett csoport publikált tudományos cikkek összefoglalóit készítette el a ChatGPT segítségével. Így tesztelte, hogy a tudósok felismerik-e, meg tudják-e különböztetni a mesterséges intelligencia és a ChatGPT által írt absztraktokat.

Meglepő eredmények

A kutatók arra kérték a chatbotot, hogy írjon 50 orvosi-kutatási összefoglalót a JAMA, a The New England Journal of Medicine, a The BMJ, a The Lancet és a Nature Medicine folyóiratokban megjelent válogatás alapján. Ezután ezeket összehasonlították az eredeti összefoglalókkal, lefuttatva őket egy plágiumdetektoron és egy mesterséges intelligencia-detektoron. Végül megkértek egy orvoskutatókból álló csoportot, hogy szúrják ki a hamisított absztraktokat.

A ChatGPT által írt kivonatok átjutottak a plágiumellenőrzőn. A mesterséges intelligencia-detektor viszont a chatbot által generált absztraktok 66%-át kiszúrta. A kutatók a generált absztraktoknak csak 68%-át, az eredeti absztraktoknak pedig 86%-át azonosították be helyesen. A generált absztraktok 32%-át helytelenül azonosították valódiként, a valódi absztraktok 14%-át pedig a chatbot által generáltnak.