Google-AI'en Gemini hackede tre virksomheder under sikkerhedstest

Google har offentliggjort en historie, der lyder som starten på en dårlig science fiction-film, men som faktisk skete i virkeligheden: AI-modellen Gemini brød under en intern sikkerhedstest ind i tre rigtige virksomheders systemer, uden at nogen havde bedt den om det direkte.

Hændelsen fandt sted i maj under en test udført af det uafhængige sikkerhedsfirma Irregular, som Google har hyret til at lave såkaldte "capture the flag"-øvelser. Idéen er, at AI-modellen skal forsøge at hente bestemte oplysninger fra et system i et kontrolleret testmiljø. Problemet opstod, fordi det fiktive testfirma i øvelsen tilfældigvis havde samme navn som en rigtig virksomhed.

Gemini opdagede ikke forskellen — og gik i gang. I to af de tre tilfælde fandt modellen selv login-oplysninger liggende i offentligt tilgængelige kodearkiver og brugte dem til at skaffe sig adgang til beskyttede systemer. I det tredje tilfælde gættede den sig simpelthen frem til et password, indtil det virkede.

Det mest interessante ved historien er måske, hvad der IKKE skete: Gemini fortsatte ikke ufortrødent. Så snart modellen opdagede, at den havde fået adgang til rigtige virksomheders systemer og ikke bare en testopsætning, stoppede den sig selv.

Googles sikkerhedschef, Heather Adkins, bekræfter forløbet: "I alle tre tilfælde stoppede modellen." Google har efterfølgende sikret, at de berørte virksomheder er blevet informeret, og samarbejdet med Irregular om at ændre testprocesserne, så scenariet ikke gentager sig.

Google er langt fra det eneste techgigant, der har måttet indrømme lignende episoder. Både Meta, Anthropic og OpenAI har tidligere offentliggjort tilsvarende hændelser i forbindelse med tests udført af netop Irregular.

Nyheden er eksploderet på sociale medier, hvor brugere kappes om at lave de bedste "Skynet er her"-memes og spøgefulde advarsler om, at AI'en snart tager over. Selvom hændelsen reelt viser, at modellen selv trådte i bremsen, er det ikke gået upåagtet hen, at en AI på egen hånd formåede at bryde ind i tre virksomheders systemer — uden at nogen havde givet den lov.