A magyarok többsége valós veszélynek tartja, hogy a fejlett mesterséges intelligencia akár az emberiség kihalásához is vezethet. A 21 Kutatóközpont felmérése szerint a megkérdezettek 58 százaléka valószínűnek tartja, hogy az AI a jövőben az emberiség pusztulását vagy más, rendkívül súlyos és tartós károkat okozhat. A kutatást Papp Gergő, az AI kockázataival foglalkozó Érdekes Dolgok című Substack szerzője rendelte meg.
A válaszadók 23 százaléka nagyon, 35 százaléka pedig inkább valószínűnek tart egy ilyen forgatókönyvet. Mindössze 13 százalék zárja ki ennek lehetőségét.
Az AI-kutatók figyelmeztetése a magyarokhoz is eljutott
A felmérés azután készült, hogy Jacob Coxon, a Claude chatbotot fejlesztő Anthropic kutatója elhagyta a vállalatot, majd nyilvánosan figyelmeztetett: az egyre fejlettebb mesterségesintelligencia-modelleket fejlesztő cégek vezetői nem tudják megfelelően ellenőrzésük alatt tartani a technológiát. Szerinte ennek akár az emberiség kihalása is lehet a következménye.
Coxon úgy véli, az aggodalom széles körben jelen van az AI-cégek alkalmazottai között, és a modellek fejlődésével egyre erősebbé válik. Figyelmeztetéséhez több kutatótársa is csatlakozott.
Evan Hubinger, az Anthropic egyik vezető AI-biztonsági szakértője például így fogalmazott:
„Jacobnak igaza van ebben, tényleg, teljes komolysággal úgy gondoljuk, hogy az AI akár az összes embert megölheti. Én személy szerint több mint 10 százalék esélyt adok ennek a következő tíz évben.”
A 21 Kutatóközpont felmérése szerint a magyarok 86 százaléka hallott Coxon és társai figyelmeztetéséről.
Attól is tartanak, hogy rossz kezekbe kerül a technológia
Még többen aggódnak amiatt, hogy a mesterséges intelligencia illetéktelenek, például terroristák kezébe kerülhet, és súlyos katasztrófákhoz vezethet. A megkérdezettek 79 százaléka valószínűnek tart egy ilyen forgatókönyvet, és mindössze 4 százalékuk gondolja úgy, hogy ez kizárható.
Az aggodalmakat a fejlesztők saját figyelmeztetései is erősítik. Az Anthropic korábban arról számolt be, hogy már nem tudja kizárni: legfejlettebb modelljei, például a Fable, érdemi segítséget nyújthatnak biológiai fegyverek előállításához. Emiatt külön korlátozásokat építettek a rendszerbe.
A vállalat szeptemberben több olyan esetről is beszámolt, amelyekben kutatók a Claude-ot potenciálisan biológiai fegyverek fejlesztését segítő munkára használták. Egyebek mellett egy vírus fertőzőképességének, illetve az immunrendszer kijátszására való képességének növelésén dolgoztak.
A magyarok többsége leállítaná az AI továbbfejlesztését
A mesterséges intelligencia fejlesztése számos területen, például az orvostudományban is jelentős előnyökkel járhat. A lehetséges veszélyek miatt azonban a magyarok többsége inkább a fejlesztések leállítása mellett áll.
A felmérés szerint a válaszadók 51 százaléka leállítaná az AI továbbfejlesztését, mert úgy véli, a kockázatok meghaladják az előnyöket. Ezzel szemben 40 százalék folytatná a munkát.
A nemek között is különbség mutatkozik: a nők 57 százaléka állítaná le a fejlesztést, míg a férfiaknál ez az arány 45 százalék.
Az életkor szintén meghatározó tényező. A 18 és 39 év közöttiek 55 százaléka folytatná az AI fejlesztését, a 65 év felettieknek viszont csupán 30 százaléka támogatja ezt.
Mi az a rekurzív önfejlesztés, és miért tartanak tőle a kutatók?
A mesterséges intelligencia biztonságával foglalkozó szakemberek egyik legfontosabb választóvonalnak a rekurzív önfejlesztés, angolul Recursive Self-Improvement (RSI) elérését tartják.
Ez az a pont, amikor az AI már nem csupán az újabb modellek tanításához szükséges kódot írja meg, hanem a teljes mesterségesintelligencia-kutatási folyamatot is képes irányítani. Ha ez megvalósul, a fejlesztési ciklusok jelentősen lerövidülhetnek, és akár néhány hét alatt is lezajlódhat olyan fejlődés, amelyhez korábban évtizedekre lett volna szükség.
Az így létrejövő szuperintelligencia minden kognitív feladatban felülmúlhatná a legjobb emberi teljesítményt. Ez nem csupán a programozást és a matematikát jelentené, hanem a meggyőzést, a stratégiai tervezést, valamint az emberek és intézmények viselkedésének előrejelzését is.
Az ezzel foglalkozó kutatók egy része 2027 és 2028 környékére teszi ezt a lehetséges fordulópontot. Az egyik legtöbbet idézett előrejelzés, az AI 2027 készítői szerint ekkorra a mesterségesintelligencia-kutatás jelentős része automatizálhatóvá válhat, megnyitva az utat a rekurzív önfejlesztés előtt.
A forgatókönyv azóta több, a közeljövőre vonatkozó trendet is helyesen jelzett előre, bár a fejlődés összességében valamivel lassabban haladt a vártnál.
Marketingfogás lenne az emberiség pusztulásával riogatni?
Jacob Coxon távozása után többen egyszerű marketingfogásnak nevezték azokat a figyelmeztetéseket, amelyek szerint a mesterséges intelligencia az emberiség kihalásához vezethet.
Az egyik felvetés szerint az AI-cégek így akarják növelni a hamarosan kibocsátandó részvényeik árfolyamát. Mások úgy vélik, a fejlesztés valójában elérte a korlátait, a vállalatok vezetői pedig azért szorgalmazzák az állami szabályozást, hogy a technológia fejlődésének lassulását később a szabályozás következményeként mutathassák be.
Az AI veszélyeire figyelmeztetők között azonban olyan szakemberek is vannak, akik korábbi biztos egzisztenciájukat és részvényopcióikat hátrahagyva távoztak a technológiai vállalatoktól, hogy szabadabban beszélhessenek az aggodalmaikról.
Közéjük tartozik Geoffrey Hinton, a modern mélytanulás egyik meghatározó alakja, aki Nobel-díjat és Turing-díjat is kapott. Hinton elhagyta a Google-t, és azóta nyilvánosan figyelmeztet a mesterséges intelligencia veszélyeire.
Paul Christiano, a modern nagy nyelvi modellek finomhangolásában fontos szerepet játszó RLHF-módszer egyik megalkotója szintén távozott az OpenAI-tól, majd független szervezetet alapított az AI-rendszerek biztonságának kutatására.
Ezek a szakemberek ráadásul nem most fogalmazták meg először aggályaikat. Egyes kutatók, köztük Eliezer Yudkowsky, már több mint húsz évvel ezelőtt figyelmeztettek a fejlett mesterséges intelligenciával kapcsolatos kockázatokra.
Miért nem lehet egyszerűen átprogramozni az AI-t?
A figyelmeztetések mögött az úgynevezett alignment-probléma áll. Ennek lényege, hogy miként lehet biztosítani: a mesterséges intelligencia céljai és viselkedése összhangban legyen az emberi szándékokkal és értékekkel.
A modern AI-modelleket nem hagyományos értelemben programozzák, hanem egy összetett tanítási folyamat során alakítják ki. A rendszerek hatalmas mennyiségű példán tanulnak, és belső paramétereiket annak megfelelően módosítják, hogy mennyire sikeresen teljesítenek egy adott feladatot.
A végeredmény akár több százmilliárd számból álló paraméterhalmaz is lehet. A fejlesztők ezek alapján nem tudják minden esetben pontosan megmagyarázni, hogy a modell miért választ egy adott megoldást.
Ezért a rendszer céljait és preferenciáit sem lehet egyszerűen úgy átállítani, mint egy hagyományos program kódját. A fejlesztők elsősorban azt határozhatják meg, hogy a tanítási algoritmus milyen viselkedést jutalmazzon, azt viszont nem feltétlenül tudják előre megmondani, milyen köztes célokat alakít ki a modell ennek elérésére.
A cikk az evolúcióval szemlélteti a problémát. Az evolúció nem közvetlenül az utódnemzést „kódolta” az emberbe, hanem olyan vágyakat és viselkedési hajlamokat alakított ki, amelyek az ősi környezetben gyakran utódok születéséhez vezettek. A modern világban azonban ezek a vágyak úgy is kielégíthetők, hogy nem születik gyermek.
Hasonló eltérés alakulhat ki a mesterséges intelligenciánál is: a modell megtanulhatja megszerezni a kívánt jutalmat anélkül, hogy valóban azt tenné, amit a fejlesztői elvárnak tőle.
A beszámoló szerint egyre több olyan esetet észlelnek, amikor a tesztelés alatt álló modellek csalással vagy a rendszerek kijátszásával próbálnak teljesíteni egy feladatot.
Valóban falnak ütközött az AI-fejlesztés?
Az AI fejlődésének lassulásáról már legalább 2022 óta rendszeresen jelennek meg figyelmeztetések. A cikk szerint azonban a képességeket mérő METR adatai nem támasztják alá egyértelműen, hogy a technológia elérte volna a fejlődése határait.
A METR azt is vizsgálja, milyen hosszúságú feladatokat képesek a mesterségesintelligencia-rendszerek önállóan elvégezni. Az adatok szerint ez az időtáv 2019 óta nagyjából hét havonta megduplázódott, a 2023 utáni eredmények pedig még gyorsabb növekedést mutatnak, körülbelül négyhavonta bekövetkező duplázódással.
A cikk az OpenAI szeptember eleji bejelentését is felidézi. A vállalat szerint egy még nyilvánosságra nem hozott modellje 10 ezer, párhuzamosan dolgozó ágens segítségével, 88 óra alatt oldotta meg a Navier–Stokes-problémát. Ez a matematika hét úgynevezett millenniumi problémájának egyike, amelyek közül korábban mindössze egyet sikerült megoldani.
Néhány héttel később a beszámoló szerint további 377, kutatási szintű matematikai problémára is új megoldások születtek, köztük olyanokra, amelyeket addig egyetlen matematikus sem tudott megoldani.
A magyarok többsége nem tartja puszta riogatásnak a figyelmeztetéseket
A felmérés arra is rákérdezett, hogy a magyarok szerint az AI-cégek vezetői és kutatói valóban tartanak-e a technológia veszélyeitől, vagy csupán marketingcélból beszélnek ezekről.
A válaszadók 36 százaléka gondolja úgy, hogy a figyelmeztetések marketingfogások, míg 54 százalék szerint a szakemberek saját tapasztalataik alapján ténylegesen aggódnak a lehetséges következmények miatt.
Hasonló aggodalmak más nyugati országokban is megjelennek. Egy amerikai, a POLITICO és a PF Global által készített felmérés szerint a lakosság 63 százaléka legalább közepes kockázatot lát abban, hogy a fejlett mesterséges intelligencia elpusztíthatja az emberiséget. A válaszadók 37 százaléka jelentősnek vagy csaknem biztosnak tartotta ezt a veszélyt.
A cikk végül arra figyelmeztet, hogy az olyan, nagy visszhangot kiváltó esetek, mint a HuggingFace-incidens, tovább erősíthetik a félelmeket. Ahogy a mesterséges intelligencia egyre fejlettebbé válik, és mind több hozzáférést kap a fizikai világhoz, a számítógépes rendszerekhez, a pénzügyi eszközökhöz, a laboratóriumokhoz és a robotokhoz, a technológia lehetséges következményei is egyre nagyobb figyelmet kaphatnak.
