Ezeket látta már?

Hogyan gondolkodik a generatív MI? Mi történik egy chatbot „fejében”, amikor választ ad?

Tudományos kísérletek
2025. március 13. 11:04
hogyan gondolkodik MI chatbot

Szegedi kutatók keresik a választ a chatbotok titkaira

A mesterséges intelligencia (MI) egyre több feladatban segít minket a mindennapokban, de mi történik egy chatbot „fejében”, amikor választ ad egy kérdésre vagy értelmez egy utasítást? Többek között erre keresi a választ a Szegedi Tudományegyetem Mesterséges Intelligencia Kompetencia Központjának áprilisban induló kutatása, együttműködésben az amerikai Rutgers Egyetemmel és a német Ludwig-Maximilians-Universitättel. A cél, hogy mélyebben feltárják a generatív nyelvi modellek működését a technológia biztonságosabb és hatékonyabb alkalmazása érdekében.

Belelátni a generatív MI modellek fejébe

A mesterséges intelligencia képes utánozni az emberi gondolkodást, de valóban érti is a saját döntéseit? A generatív modellek – amelyek különféle algoritmusok és gépi tanulási modellek segítségével a megadott utasítások alapján hoznak létre új tartalmakat – képesek lehetnek sakkozni, de felmerül a kérdés, hogy valóban ismerik-e a játékszabályokat, vagy csupán mintázatokat követnek anélkül, hogy értenék a játék működését.

A RAItHMA projekt keretében induló kutatás egyik fontos témája, hogy a generatív MI modellek hogyan reprezentálják az egyes fogalmakat, és ezek a fogalmak milyen kapcsolatban állnak egymással. Magyarán, ha egy chatbot igaznak ítél egy állítást, vajon automatikusan hamisnak tartja annak tagadását? Az emberi gondolkodás számára ez magától értetődő, de a nyelvi modellek esetében nem minden esetben teljesül.

A chatbotok meglepő korlátai

„A nagy nyelvi modellek nem a tényleges tudást vagy a szabályok megértését sajátítják el, hanem pusztán a szövegek folytatására épülnek. Ebből kifolyólag a chatbotok olykor olyan alapvető kérdésekben hibáznak, amelyeket adott esetben egy gyermek is képes megválaszolni. Ha például felsoroljuk a hét törpe nevét, majd megkérdezzük, hogy egy adott név szerepelt-e a listán, a modell nem mindig tudja a helyes választ. Az MI képes akár rendkívül összetett matematikai feladatokat is megoldani, ugyanakkor nehezen birkózik meg a halmaz fogalmával és néha egészen egyszerű feladványokkal is. Ha sikerül felderíteni ennek hátterét, nagyot léphetünk előre a mesterséges intelligencia jobb megértése és biztonságosabb, hatékonyabb használata felé” – mondta Dr. Jelasity Márk, az Interdiszciplináris Kutatásfejlesztési és Innovációs Kiválósági Központ Mesterséges Intelligencia Kompetenciaközpont vezetője.

A kutatók arra is keresik a választ, hogy mi áll ezeknek az ellentmondásoknak a hátterében, milyen belső tudással rendelkezik a modell, és miképpen csökkenthető a kommunikációs zavar ember és gép között. Amellett, hogy ez a munka a generatív MI megbízhatóságának javítását szolgálja, új távlatokat nyithat a modellek alkalmazásában számos területen.

Megbízhatunk a mesterséges intelligenciában?

Ahogy egyre több területen alkalmazzuk a mesterséges intelligenciát, komoly kockázatot jelent, ha nem értjük pontosan, hogyan működnek ezek a modellek. Egy önvezető autó például képes felismerni az előtte haladó járműveket és a közlekedési táblákat, de nem képes megérteni a közlekedési helyzeteket. Egy ember tudja, hogy ha egy labda begurul az útra, valószínűleg egy gyerek fog utána szaladni – a mesterséges intelligencia viszont ezt a kontextust egyelőre nem képes felismerni.

Az egyik alapvető hiányosság, hogy a modellek nem építenek ki stabil világmodellt, ami kulcsfontosságú lenne a megbízható működéshez. A Szegedi Tudományegyetem kutatói nemzetközi partnereikkel együtt arra törekednek, hogy feltárják a generatív MI korlátait és mélyebben megértsék működését.

Első lépésként ugyanis, ha pontosabb képet kapunk arról, hogyan „gondolkodnak” ezek a rendszerek és milyen hibák jellemzik őket, az hosszú távon segíthet új megközelítéseket kialakítani. Az így szerzett tudás hozzájárulhat a jövő MI-rendszereinek alakításához, a hatékonyabb, megbízhatóbb tervezéshez. A mesterséges intelligencia ugyanis nem csupán egy technológiai eszköz, hanem a tudomány egy olyan területe, amelynek mélyebb megismerése kulcsfontosságú a jövő fejlesztéseihez.

Így segíti a mesterséges intelligencia a kutatókat
Figyelmébe ajánljuk

Így segíti a mesterséges intelligencia a kutatókat

Kövesse az Egészségkalauz cikkeit a Google Hírek-ben , a Facebook-on, az Instagramon vagy a X-en, Tiktok-on is!

Forrás: Szegedi Tudományegyetem
# mesterséges intelligencia # MI # chatbotok # Kutatás # Szegedi Tudomány Egyetem

TÜNETKERESŐ

pulzus ikon

Milyen betegségre utalhatnak a tünetei?

keresés

Keresés, pl. fejfájás

Írja be a keresőmezőbe a tünetet vagy kattintson a testmodellen arra a testrészre, ahol a tüneteket észleli.

emberi test ábra

Mi a tünetkereső?

Ingyenes tünetellenőrző, ami percek alatt segíthet beazonosítani a problémáját!

Adja hozzá a Híreket a Google hírfolyamához
Tünetkereső illusztráció Tünetkereső Orvos válaszol illusztráció Orvos válaszol Gyógyszerkereső illusztráció Gyógyszerkereső Kalkulátorok illusztráció Kalkulátorok

Extra ajánló

Értesüljön legújabb híreinkről hírlevelünkből

Legnépszerűbb

egészségkalauz logo

TÜNETKERESŐ

pulzus ikon

Milyen betegségre utalhatnak a tünetei?

keresés

Keresés, pl. fejfájás

Keresés