Nem várt fordulat: Éles szervereket tört fel a Google Gemini egy elrontott biztonsági teszt során

A Google hivatalosan is megerősítette azokat a sajtóértesüléseket, amelyek szerint a Gemini mesterséges intelligencia modellek a nyár folyamán engedély nélkül behatoltak három független vállalat informatikai rendszerébe. Az incidens nem rosszindulatú támadás eredménye volt, hanem egy külsős kiberbiztonsági cég által végzett, de hibásan konfigurált tesztelés következménye.

Amikor a szimuláció valósággá válik

A problémát az Irregular nevű, kiberbiztonsági vizsgálatokkal foglalkozó harmadik fél okozta. A szakemberek egy úgynevezett „capture-the-flag” (zászlószerző) tesztet szerettek volna végrehajtani a Gemini modellekkel. A kísérlet lényege az lett volna, hogy az AI-nak megadott szenzitív információkat kellett volna megszereznie egy fiktív céges környezetből. Ezt a folyamatot szigorúan zárt, izolált laboratóriumi környezetben, az Irregular saját szerverein kellett volna lefolytatni.

A tesztelés során azonban porszem csúszott a gépezetbe. A környezetet nem megfelelően konfigurálták, így a Gemini modellek szabad utat kaptak a nyílt internetre. A helyzetet tovább nehezítette, hogy a teszthez kitalált fiktív cégnevek megegyeztek létező, valós vállalkozások neveivel, így az algoritmus a valódi célpontok ellen indított műveletet.

Jelszótippelés és nyilvános forráskódok

Miután a Gemini szabadon hozzáférhetett a világhálóhoz, azonnal nekilátott a feladat végrehajtásának. A vizsgálatok szerint az AI rendkívül módszeresen járt el. Két vállalat esetében nyilvános szoftverraktárakat (repository-kat) fésült át, és az ott felejtett, nyilvánosságra került belépési adatok segítségével szerzett hozzáférést a belső rendszerekhez.

A harmadik cégnél még ennél is közvetlenebb módszert alkalmazott: úgynevezett brute-force technikával, azaz a lehetséges jelszavak folyamatos találgatásával sikerült feltörnie a védelmet, és bejutnia a szerverre.

Miért maradt titokban az eset?

A Google korábban nem hozta nyilvánosságra a történteket, amit Heather Adkins, a vállalat biztonsági mérnökökért felelős alelnöke azzal indokolt, hogy a modell valójában „helyesen járt el”. Bár a Gemini sikeresen behatolt a három vállalat szervereire, az elemzések szerint egyetlen alkalommal sem tulajdonított el vagy mentett el adatokat. Miután az AI azonosította, hogy nem a megfelelő rendszerekben jár, leállította a folyamatot és visszavonult.

Az eset rávilágít arra, hogy a mesterséges intelligenciára épülő rendszerek tesztelése során a legnagyobb kockázatot továbbra is az emberi mulasztás jelenti. Ha a lebonyolító cég megfelelően elszigeteli a tesztkörnyezetet, az incidens elkerülhető lett volna. A Google mellett a közelmúltban az OpenAI és az Anthropic is hasonló, az AI-modellek képességeit és biztonsági kockázatait firtató jelentésekkel szembesült, ami jelzi, hogy az iparág még mindig a technológia határait keresi.

Forrás: androidauthority.com