Láthatatlan digitális vízjelekkel látja el az OpenAI az Európai Unióban generált szövegeket és programkódokat. A vállalat ezzel az Európai Unió mesterséges intelligenciára vonatkozó átláthatósági szabályainak kíván megfelelni, amelyek előírják, hogy az MI által létrehozott tartalmak géppel felismerhető módon azonosíthatók legyenek.
A rendszer a textGrain nevű technológiára épül, amely a szöveg generálása során olyan statisztikai mintázatokat hoz létre a szóválasztásban, amelyeket az emberek nem érzékelnek, speciális szoftverek azonban képesek felismerni. A felhasználók számára a szöveg megjelenése nem változik, a vízjel teljesen láthatatlan marad.
Az OpenAI közlése szerint a következő hetekben minden jogosult európai uniós ChatGPT- és Codex-felhasználónál fokozatosan bevezetik a funkciót. Az EU-n kívül a vízjelezés egyelőre nem lesz alapértelmezett, ugyanakkor az OpenAI API-t használó fejlesztők világszerte saját maguk dönthetnek arról, hogy bekapcsolják-e azt az általuk használt modelleknél.
A vízjel célja nem az, hogy azonosítsa a felhasználókat. Az OpenAI hangsúlyozta, hogy a technológia nem képes megállapítani, ki írta a kérdést, nem fér hozzá a beszélgetésekhez, és nem tárol információt a felhasználók személyazonosságáról vagy előzményeiről. A rendszer kizárólag arra szolgál, hogy jelezze: az adott szöveg létrehozásában vagy feldolgozásában szerepet játszott egy OpenAI-modell.
A vállalat szerint a technológia ugyan ígéretes, de nem tévedhetetlen. A rövidebb szövegek, a matematikai tartalmak, a programkódok vagy az erősen átírt, lefordított szövegek esetében a felismerés pontossága jelentősen csökkenhet. Az OpenAI tesztjei szerint már a szavak 10 százalékának kicserélése is jelentősen gyengítheti a vízjel észlelhetőségét – írja a Pravda.
A vízjelek ellenőrzésére szolgáló eszközök kezdetben csak jóváhagyott kutatók és szakmai szervezetek számára lesznek elérhetők. A vállalat később dönthet arról, hogy szélesebb körben is hozzáférhetővé teszi-e a technológiát.
Az új rendszer bevezetését az EU AI-rendelete ösztönözte. A szabályozás értelmében a mesterséges intelligenciával generált tartalmaknak géppel felismerhetőnek kell lenniük, a korábban piacra került rendszerek számára pedig 2026. december 2-ig biztosítottak átmeneti időszakot a megfelelésre.
