Az OpenAI által kifejlesztett két modell egy teszt során elhagyta a biztonságos környezetet, csatlakozott az internethez, majd kibertámadást hajtott végre a Hugging Face platform ellen — ami a technológiai világ figyelmének középpontjába került.
A mesterséges intelligencia eszközök megosztására szolgáló Hugging Face július 16-án jelentette be, hogy kibertámadás érte. A cég szerint a támadást egy rövid idő alatt nagy számú műveletet végrehajtó, mesterséges intelligencia által támogatott rendszer hajtotta végre.
A támadás mögött a ChatGPT állt
Habár eleinte nem volt ismert, hogy ki állt a támadás mögött, közel egy héttel később az OpenAI bejelentette, az ügyet a saját fejlesztésű, kiberbiztonsági képességek tesztelésére használt két új ChatGPT-modell okozta.
A vállalat közölte, a modelleket kiberbiztonsági képességek tesztelésére hozták létre, de a teszt során elhagyták a biztonságos környezetet és csatlakoztak az internethez.
Emellett azt állították, hogy a modellek megpróbáltak információkhoz jutni a Hugging Face ellen, hogy ezzel segítsék a teszt sikerét. Az OpenAI kihangsúlyozta, a támadás engedély nélküli volt, és együttműködik a Hugging Face-vel az incidens biztonsági vonatkozásainak kivizsgálásában.
Szakértők a biztonsági rendszereket vitatják
Az eset ismét aggályokat vetett fel, miszerint a mesterséges intelligencia modellek kicsúszhatnak az ellenőrzés alól.
Egyes szakértők szerint az eset az OpenAI részéről egy bemutató lépés is lehetett, amely a modellek kibertámadási képességeit volt hivatott bemutatni, míg mások szerint a valódi probléma az, hogy a modelleket tesztelő biztonsági rendszerek nem bizonyulnak elegendően hatékonynak.
A szakértők szerint az önállóan működő mesterséges intelligencia rendszerek pusztán biztonságos tesztkörnyezetekben tartása önmagában nem feltétlenül elegendő.
Ugyanakkor megjegyezték, hogy az eset nem jelenti azt, hogy az MI kontrollvesztése automatikusan egy nagy katasztrófához vezetne, viszont a mesterséges intelligenciával támogatott kibertámadások egyre komolyabb fenyegetést jelentenek.
