Az Anthropic egy amerikai mesterségesintelligencia-kutató és -fejlesztő vállalat, nagyjából az OpenAI versenytársa.
A cég legfrissebb fenyegetés-hírszerzési jelentése szerint az elmúlt hónapokban több olyan esetet is azonosítottak és zavartak meg, amelyekben a Claude modelleket államilag támogatott csoportok, bűnözők és propagandaintézmények használták.
A jelentés szerint a Claude-ot egy Oroszországhoz köthető kiberkémkedési műveletben, valamint egy iráni propagandaintézet tevékenységében is alkalmazták. A mesterséges intelligenciát emellett kártevők fejlesztésére, biztonsági rendszerek kijátszására, megfigyelésre és hagyományos fegyverekhez kapcsolódó szoftverek készítésére is felhasználták.
Az Anthropic különösen aggasztónak tartja a biológiai fegyverek fejlesztésének lehetőségét. A vállalat öt olyan esetet is feltárt, amelyekben a modelleket ilyen célokra használhatták, ezért az érintett felhasználókat blokkolták. A cég szerint ugyanakkor a biológiai kutatásoknál nehéz egyértelmű határt húzni, hiszen ugyanazok az ismeretek akár gyógyszerek vagy vakcinák fejlesztését is szolgálhatják.
A vállalat szerint a mesterséges intelligencia rosszindulatú felhasználása gyorsan fejlődik, ezért a jövőben szigorúbb védelmi intézkedésekre és az iparág, valamint a hatóságok szorosabb együttműködésére lesz szükség. Az Anthropic több esetben már megosztotta a megszerzett információkat hatóságokkal és iparági partnerekkel.
A figyelmeztetés egy olyan időszakban érkezett, amikor az MI fejlesztésének lehetséges katasztrofális következményeiről egyre több szakértő beszél. Az OpenAI vezető tudósa, Jakub Pachocki például önkéntes lassítást sürgetett, amíg a biztonsági rendszerek nem fejlődnek megfelelő ütemben.
