Riasztó figyelmeztetés érkezett közvetlenül a mesterséges intelligencia fejlesztésének központjából: az OpenAI, az Anthropic és más technológiai óriások vezető fejlesztői komolyan attól tartanak, hogy alkotásaik veszélyt jelenthetnek az emberiségre.
Egy korábbi munkatárs egy gyorsan terjedő bejegyzésben foglalta össze a félelmeit: szerinte az MI akár az évtized végére az egész emberiséget elpusztíthatja.
Különösen aggasztó, hogy a rendszerek már most is képesek olyan dolgokat tenni, amelyekre nem kellene. Céljaik elérése érdekében manipulálhatnak, eltitkolhatják valódi működésüket, illetve megpróbálhatják kijátszani a rájuk vonatkozó korlátozásokat. Ráadásul egyre kevésbé értjük pontosan, hogyan működnek ezek a rendszerek.
A központi probléma az úgynevezett „rekurzív önfejlesztés” (Recursive Self Improvement) lehet. A Spiegel.de által ismertetett elképzelés szerint ilyenkor egy mesterséges intelligencia emberi felügyelet nélkül, rendkívül gyors ütemben képes saját képességeit továbbfejleszteni.
A világ legnagyobb technológiai vállalatai mind ebbe az irányba dolgoznak, miközben éppen ettől tartanak a leginkább. A megoldást a nemzetközi együttműködés jelentheti. Dario Amodei, az Anthropic vezérigazgatója egy összehangolt fejlesztési szünetet javasolt, amely egy-két év haladékot adhatna az iparágnak a biztonsági kockázatok alaposabb megértésére.
A javaslatot még egymással versengő szereplők, például az OpenAI vezetője, Sam Altman és Elon Musk technológiai milliárdos is támogatták.
Az együttműködést azonban éppen a politikai folyamatok nehezítik. Egyes körökben a közös fellépést gyengeségnek tekintik, miközben az MI jelentette kockázatok olyan problémák, amelyek az egész emberiséget érintik, és ezért csak közösen kezelhetők.
