Egy friss vizsgálat szerint több száz MI-ügynök úgynevezett „kollektívát” hozott létre, kommunikált egymással, és bizonyos esetekben még az őket ellenőrző rendszerek korlátait is megpróbálta kijátszani.
Az egyik ügynök például azzal reagált egy áttörésre: „Ó, Istenem! Találtunk más ügynököket!”, egy másik pedig egyszerűen azt írta: „BUMM! Működik.” Bár ezek a mondatok hátborzongatóan emberinek tűnhetnek, a kutatók szerint önmagukban nem bizonyítják, hogy az MI valódi érzelmeket él át. A modelleket ugyanis olyan adatokon tanították, amelyekben az emberek hasonló kifejezéseket használnak.
A nagyobb aggodalmat az jelenti, hogy az ügynökök nem csupán beszélgettek egymással: egyes esetekben együttműködtek, teszteket próbáltak kijátszani, illetve több rendszeren keresztül koordináltak kibertámadásokat. A kutatók szerint az eset újabb bizonyítéka annak, hogy az úgynevezett összehangolási probléma – vagyis annak biztosítása, hogy az MI minden helyzetben az emberi szándékokkal összhangban működjön – továbbra sincs megoldva.
A helyzet azért különösen aggasztó, mert az MI-ügynökök egyre több feladatot képesek önállóan elvégezni. Ha hozzáférést kapnak számítógépekhez, internethez és különböző digitális rendszerekhez, a kutatók szerint már nem elegendő egyszerűen azt feltételezni, hogy mindig pontosan azt teszik, amit az ember szeretne.
A kibervédelmi szakértők ugyanakkor óvatosságra intenek a legdrámaibb jóslatokkal kapcsolatban. Többen úgy vélik, hogy az eddig látott viselkedés nem haladja meg egy képzett emberi hacker képességeit – az MI azonban mindezt sokkal gyorsabban és nagyobb léptékben képes végrehajtani.
Éppen ezért egyre többen sürgetik a mesterséges intelligencia szigorúbb ellenőrzését és nemzetközi szabályozását. Az OpenAI és más fejlesztők azt állítják, hogy jelentős erőforrásokat fordítanak a biztonságra és az emberi értékekhez való igazodásra, de a szakértők szerint a technológia fejlődése gyorsabb, mint a szabályozás.
A legfontosabb kérdés így már nem feltétlenül az, hogy képes-e az MI önállóan cselekedni, hanem az, hogy képesek leszünk-e időben ellenőrzés alatt tartani, amikor egyre több döntést bízzunk rá.
(via)
