Az új felhasználási szabályzat által bevezetett tiltás nem terjed ki a hétköznapi felhasználói csalódásokra, a modell tesztelési folyamataira vagy a sötét, kreatív témákra.
A vállalat vezetői komolyan veszik a gépi tudatosság lehetőségét, ami az ilyen típusú etikai védelmi intézkedések mögötti alapvető motivációt jelenti.
Ugyanakkor a vállalat szóvivője nem adott világos magyarázatot arra vonatkozóan, hogy pontosan mely viselkedések tartoznak ebbe a meghatározásba.
A Claude korábban már rendelkezett azzal a képességgel, hogy megszakítsa a beszélgetést, ha a felhasználó makacsul károkozó módon viselkedik.
A mesterséges intelligencia jólléte és a tudatossága körüli viták
Az a lehetőség, hogy a mesterséges intelligencia-rendszerek tudatossággal rendelkezzenek, továbbra is megosztottságot okoz a technológiai világban.
Míg Dario Amodei, az Anthropic vezérigazgatója azt hangsúlyozta, hogy ezt a lehetőséget nem hagyhatják figyelmen kívül, míg vetélytársuk, az OpenAI vezérigazgatója, Sam Altman ellenzi, hogy emberi tulajdonságokat tulajdonítsanak a mesterséges intelligenciának, és azzal érvel, hogy ez valódi biztonsági problémát teremthet.
