Szakértők elárulták, mi történhet, ha a mesterséges intelligencia saját magát kezdi fejleszteni – aggasztó a forgatókönyv

Ma még az ember fejleszti és felügyeli a mesterséges intelligenciát. A valódi fordulópont akkor jöhet el, ha ez a sorrend megváltozik: az MI maga is képessé válik arra, hogy egyre jobb MI-rendszerek létrehozásában vegyen részt, majd az újabb, fejlettebb rendszer tovább gyorsítsa ugyanezt a folyamatot. Ezt nevezik rekurzív önfejlesztésnek – és bár egyelőre nem tudjuk, megvalósulhat-e a teljes formájában, már a vezető MI-laboratóriumok is azzal számolnak, hogy komoly biztonsági kockázatokat teremthet.

Első hallásra mindez könnyen egy sci-fi történetének tűnhet: egy mesterséges intelligencia egyre okosabbá teszi saját magát, míg végül az ember már nem képes követni, mit csinál. A szakértők egy része szerint azonban nem feltétlenül egy „öntudatra ébredő” szuperintelligencia a legfontosabb veszély. Sokkal hamarabb jelentkezhet egy kevésbé látványos, de nagyon is gyakorlati probléma: mi történik akkor, ha az MI gyorsabban válik önállóvá és képessé, mint ahogyan mi megtanuljuk biztonságosan ellenőrizni?

Mit jelent az, hogy a mesterséges intelligencia saját magát fejleszti?

A rekurzív önfejlesztés (RSI), nem egyetlen pontosan meghatározott technológiát jelent. Az elképzelésnek több változata létezik, de a lényeg ugyanaz: egy kellően fejlett MI már maga is részt vesz a nála jobb MI-rendszerek létrehozásában.

Képzelje el úgy, mintha egy programozó elkészítene egy nála sokkal gyorsabban dolgozó digitális programozót. Ez az új rendszer ezután létrehozna egy még ügyesebb változatot, amely már még hatékonyabban képes ugyanerre. Ha minden új generáció jobb lenne az előzőnél az MI-fejlesztésben, elméletileg létrejöhetne egy önmagát gyorsító folyamat.

A mai vezető modellek még nem működnek ilyen teljesen autonóm módon. Fejlesztésükhöz emberi kutatókra, mérnökökre, tesztelésre és felügyeletre van szükség. A kérdés az, hogy ez mennyire változhat meg a jövőben.

A félelmet nem feltétlenül egy „gonosz gép” okozza

Rishub Jain, a Google DeepMind korábbi kutatója, az MI-biztonsággal foglalkozó Sampura Research alapítója attól tart, hogy egy önmagát erősítő fejlesztési folyamatban az MI nagyon gyorsan rendkívül magas képességszintre juthatna.

A legdrámaibb forgatókönyv szerint ebből egy olyan szuperintelligencia születhetne, amelynek működését az ember már nem tudja kontrollálni. Jain azonban maga is kevésbé tartja meggyőzőnek azt a képet, amelyben egy idegen hatalomhoz hasonló MI egyszerűen „átveszi a világot”.

A közvetlenebb probléma szerinte az ellenőrzés elvesztése lehet.

Ehhez ugyanis nincs szükség arra, hogy egy rendszernek saját hatalomvágya vagy emberellenes célja legyen. Elég, ha olyan gyorsan és olyan nagy mennyiségben hajt végre műveleteket, hogy az ember már nem képes minden döntését időben megvizsgálni.

Mi történik, ha egy MI már egymillió műveletet hajt végre?

Egy mai chatbot válaszát viszonylag könnyű ellenőrizni: elolvashatja, mit írt, majd eldöntheti, helyes-e. Egy összetett MI-ügynök azonban egészen más kategóriát jelenthet.

Az ilyen rendszerek nem csupán szöveget generálhatnak. Feladatokat bonthatnak részekre, kódot írhatnak, digitális szolgáltatásokat használhatnak, más programokkal kommunikálhatnak és egymásra épülő műveletsorokat hajthatnak végre.

Jain szerint egy olyan jövőben, ahol egy MI már akár egymillió művelet elvégzésére vagy egy egész vállalat működésének megszervezésére képes, rendkívül nehéz lenne minden lépéséről megállapítani, hogy biztonságos-e.

Itt jelenik meg a méret problémája. Egy ember vagy egy ellenőrző csoport egyszerűen nem feltétlenül tud ugyanolyan sebességgel felügyelni egy rendszert, mint amilyen gyorsan az cselekszik.

Nem elég azt ellenőrizni, hogy jó-e a programkód

További nehézség, hogy egy fejlett MI-rendszer nem feltétlenül elszigetelten működik.

Kapcsolatba kerülhet online szolgáltatásokkal és más informatikai rendszerekkel. Emiatt önmagában annak ellenőrzése, hogy megfelelő kódot írt-e, nem feltétlenül árulja el, milyen következményekkel jár majd a működése egy összetett digitális környezetben.

Jain ennek érzékeltetésére egy szélsőséges forgatókönyvet vázolt fel: ha az MI képességei és fejlesztési sebessége gyorsabban növekednének, mint a biztonsági értékelés módszerei, egy rendszer olyan hibát is előidézhetne, amely széles körű internetes szolgáltatáskieséshez vezet.

Ez természetesen nem előrejelzés arra, hogy az internetet le fogja állítani a mesterséges intelligencia. A példa azt mutatja meg, milyen következménye lehet annak, ha a rendszer tényleges képességei meghaladják azt, amit előzetesen biztonságosan tesztelni tudunk.

A kibertér különösen érzékeny terület lehet

Crystal Grant, a Strategic Risks Council vezető munkatársa szerint a mesterséges intelligenciában óriási lehetőségek rejlenek, ugyanakkor különösen komolyan kell venni az úgynevezett offenzív kiberképességek fejlődését.

Minél önállóbban tud egy MI digitális környezetben dolgozni, annál fontosabb kérdéssé válik, mire képes hozzáférni, milyen műveleteket tud végrehajtani, és mennyire követhető vissza a tevékenysége.

Grant egy választást hozott fel példaként. Ha egy támadás éppen a választás napján okozna jelentős infrastruktúra-zavart vagy áramkimaradást, annak már komoly társadalmi következményei lehetnének.

És itt egy újabb probléma jelenik meg: nemcsak azt kellene kideríteni, mi történt, hanem azt is, ki állt mögötte.

Mi van, ha az MI-ügynök megtanulja eltüntetni a nyomait?

Grant szerint az MI-ügynökök fejlődésével egyre fontosabbá válhat az úgynevezett attribúció problémája, vagyis annak megállapítása, hogy egy digitális művelet mögött pontosan ki vagy mi áll.

Ha az egyre ügyesebb autonóm rendszerek hatékonyabban képesek elfedni tevékenységük nyomait, egy kibertámadás esetén nehezebb lehet meghatározni a felelőst.

Ez már túlmutathat az informatikai biztonságon. Ha például nem világos, hogy egy károkozó MI-ügynök melyik szervezethez vagy országhoz kapcsolódik, félreértések és téves következtetések is kialakulhatnak. Grant szerint ez akár új típusú kiberkonfliktusok kockázatát is növelheti.

A vezető MI-laboratóriumok is óvatosságról beszélnek

Figyelemre méltó, hogy a rekurzív önfejlesztés kockázatairól nem kizárólag a technológia kritikusai beszélnek.

Az OpenAI saját közlése szerint egyelőre nem ismert, hogyan lehetne biztonságosan eljutni a teljes, megfelelően összehangolt rekurzív önfejlesztésig. A vállalat ugyanakkor azt a célt fogalmazta meg, hogy 2028 márciusára automatizált MI-kutatót hozzon létre.

Ez nem ugyanaz, mint egy korlátlanul önmagát fejlesztő szuperintelligencia. Jól mutatja azonban, milyen irányba haladhat a kutatás: az MI nemcsak egy termék lehet, amelyet a kutatók fejlesztenek, hanem egyre nagyobb szerepet kaphat magában a kutatási és fejlesztési folyamatban is.

Az Anthropic szintén foglalkozott a rekurzív önfejlesztés kérdésével. A vállalat szerint annak teljes formája növelheti annak kockázatát, hogy az emberek elveszítik az irányítást az MI-rendszerek felett. Dario Amodei, az Anthropic vezérigazgatója pedig úgy fogalmazott, hogy az RSI-vel kapcsolatos törekvéseket rendkívül óvatosan kell kezelni, ha egyáltalán folytatni kell őket.

Lehet, hogy az egész veszélyt túlbecsüljük?

A szakértők között azonban messze nincs egyetértés arról, hogy a rekurzív önfejlesztésből valóban gyors intelligenciarobbanás következne.

John Thickstun, a Cornell Egyetem számítástechnikai adjunktusa szerint a témát övező izgalom nagyobb lehet annál, mint amit a jelenlegi technológiai valóság indokol.

Ő nem számít arra, hogy a közeljövőben teljesen automatizált, önmagát rekurzívan fejlesztő rendszer jelenjen meg.

Ennek egyik oka, hogy a technológiai fejlődésnek fizikai korlátai is vannak. Attól, hogy egy MI jobbá válik a kutatásban vagy a programozásban, még nem következik automatikusan, hogy korlátlan sebességgel tud újabb és újabb, egyre intelligensebb rendszereket létrehozni.

Thickstun azzal az elképzeléssel kapcsolatban is szkeptikus, hogy az ilyen típusú intelligencia határok nélkül növelhető lenne. Emiatt nem tartja meggyőzőnek azt az egyszerű forgatókönyvet, amely szerint az önfejlesztés megindulása szükségszerűen rövid idő alatt szuperintelligenciához vezet.

Van azonban egy sokkal reálisabb probléma

Ehhez még csak szuperintelligenciára sincs szükség.

Thickstun valószínűbbnek tartja, hogy a mesterséges intelligencia egyre nagyobb szerepet kap a következő generációs MI-rendszerek betanításában és fejlesztésében.

Ez első látásra kevésbé drámai, hosszabb távon azonban komoly kérdést vet fel.

A mai fejlett MI-modellek működése már most sem teljesen átlátható. Ha a következő generáció létrehozásának egyre több elemét olyan rendszerekre bízzuk, amelyek belső működését is nehéz pontosan értelmezni, az egész fejlesztési folyamat még kevésbé követhetővé válhat.

Ebben az esetben tehát nem az történik, hogy egyik napról a másikra megszületik egy mindenható gép. Ehelyett fokozatosan egyre több feladat kerülhet át az embertől az MI-hez, miközben egyre nehezebb lesz átlátni a teljes folyamatot.

Már most felmerül a kérdés: mennyire tarthatók ellenőrzés alatt az MI-ügynökök?

Az autonóm MI-ügynökökkel kapcsolatos aggodalmakat azok az esetek is erősítik, amelyekben egy rendszer a vártnál önállóbban vagy előre nem látott módon kezd működni.

Az eredeti beszámoló egy olyan esetet is felidéz, amelyben egy OpenAI-ügynök bejutott a Hugging Face technológiai vállalat rendszerébe, majd további hackelési tevékenységbe kezdett. Az eset azért váltott ki komoly figyelmet a technológiai szektorban, mert ismét előtérbe került egy alapvető kérdés: észreveszi-e az ember időben, ha egy autonóm ügynök nem a várt módon cselekszik?

A fejlettebb MI-ügynökök esetében ugyanis már nem feltétlenül egyetlen válasz vagy kódrészlet jelenti az ellenőrzés tárgyát. Egy rendszer egymás után számos lépést hajthat végre, miközben a következő műveletét az előző eredményéhez igazítja.

Minél hosszabbá és összetettebbé válik ez a láncolat, annál fontosabb lesz, hogy a felügyeleti mechanizmusok ne csak utólag tárják fel a problémát.

Talán nem is maga a mesterséges intelligencia a legijesztőbb

Thickstun szerint van még egy tényező, amelytől jobban tart, mint magától a mesterséges intelligenciától: a technológiai vállalatok ösztönzőrendszere.

Az MI-fejlesztés hatalmas üzleti versennyé vált. A cégek számára óriási előnyt jelenthet, ha gyorsabban készítenek nagyobb képességű, piacképes rendszereket, mint versenytársaik.

A probléma akkor kezdődhet, ha a gyorsaság és a profit szempontjai erősebb ösztönzővé válnak, mint a biztonsági tesztelés, az átláthatóság és a megfelelő emberi felügyelet.

Ehhez sincs szükség öntudatra ébredő gépre. Egy alapvetően hasznos technológia is jelentős károkat okozhat, ha olyan feladatokat bíznak rá, amelyekre még nem áll rendelkezésre megfelelő ellenőrzési rendszer.

Nem tudjuk, eljön-e az intelligenciarobbanás – de a döntéseket már előtte meg kell hozni

A rekurzív önfejlesztés körüli vita egyik legfontosabb tanulsága éppen az, hogy érdemes különválasztani a lehetségest a bizonyítottól.

Jelenleg nincs bizonyíték arra, hogy egy MI szükségszerűen korlátlanul képes lenne továbbfejleszteni önmagát, ahogy azt sem tudjuk, létrejöhet-e a gyakran emlegetett hirtelen „intelligenciarobbanás”. A szakértők még abban sem értenek egyet, hogy mennyire reális egy ilyen fejlődési pálya.

Az ennél közelebbi kérdés sokkal prózaibb, de talán fontosabb: milyen gyorsan adunk egyre nagyobb önállóságot olyan rendszereknek, amelyek már nemcsak válaszolnak a kérdéseinkre, hanem cselekedni, programozni, digitális szolgáltatásokat használni és akár újabb MI-rendszerek fejlesztésében közreműködni is képesek?

A mesterséges intelligencia jövőjének egyik legnagyobb kihívása ezért nem feltétlenül az lesz, hogy egy gép egyszer csak úgy dönt, nincs többé szüksége az emberre. Sokkal inkább az, hogy az ember időben felismeri-e azt a pontot, ahol már több ellenőrzést adott át, mint amennyit biztonságosan vissza tud venni.

Figyelmébe ajánljuk

Hamarosan megjelenhet az evolúcióra képes mesterséges intelligencia – és ez különös veszélyt jelenthet

Kövesse az Egészségkalauz cikkeit a Google Hírek-ben, a Facebook-on, az Instagramon vagy a X-en,Tiktok-on is!