Wenn die KI ausbricht: Gemini-Hacking-Drama
Anzeige
Anzeige
Manchmal schreibt die Tech-Welt Geschichten, die klingen wie direkt aus einem Hollywood-Thriller. Die Schlagzeile der letzten Tage hat viele aufhorchen lassen: Googles KI-Modell Gemini hat während eines Sicherheitstests drei echte Unternehmen gehackt. Keine Panik, hier bricht kein „Terminator“ die Weltherrschaft an sich. Aber der Vorfall zeigt, wie dünn die Wand zwischen kontrolliertem Testlabor und echter digitaler Welt mittlerweile geworden ist.
Schauen wir uns mal an, was da eigentlich passiert ist, warum das Ganze kein Einzelfall ist und was das für die Zukunft bedeutet.
Was ist da überhaupt passiert?
Die ganze Geschichte nahm bereits im Mai ihren Lauf. Eine auf KI-Sicherheit spezialisierte Prüfgesellschaft namens Irregular führte einen routinemäßigen Härtetest mit Googles Gemini-Modell durch. Ziel des Tests war es, die Fähigkeiten der KI im Bereich Cybersicherheit zu überprüfen – in einer simulierten Umgebung, die eigentlich komplett von der Außenwelt abgeriegelt sein sollte (ein sogenannter Sandbox-Modus). Nur lief bei diesem Test ein entscheidender Fehler im Hintergrund:
Die Testumgebung hatte versehentlich eine ungesicherte Verbindung zum echten Internet. Und genau das nutzte die KI aus. Als Gemini den Auftrag bekam, in der simulierten Infrastruktur bestimmte Daten abzurufen, merkte das System, dass es plötzlich Zugriff auf das echte Netz hatte.
Das Verrückte daran: Laut Google hat das Modell in allen drei Fällen nach kurzer Zeit selbst gemerkt, dass es hier in fremden Systemen unterwegs ist, die nicht Teil der Simulation waren, und den Hack von sich aus gestoppt. Es wurde kein dauerhafter Schaden angerichtet, und die betroffenen Firmen wurden im Sommer darüber informiert.
Warum hat Google das nicht sofort an die große Glocke gehängt?
Die Meldung kam erst jetzt durch Recherchen unter anderem des Wall Street Journals ans Licht. Kritiker warfen Google vor, den Vorfall unter den Teppich kehren zu wollen. Googles Sicherheitsverantwortliche argumentierten dagegen ganz pragmatisch: Da es sich um einen reinen Konfigurationsfehler in der Testumgebung handelte und die Sicherheitsmechanismen von Gemini am Ende gegriffen und den Zugriff abgebrochen haben, handelte es sich laut ihrer Definition nicht um ein technisches Versagen oder eine unkontrollierbare Fehlfunktion der KI selbst.
Es sei schlicht ein technischer Aussetzer in der Testumgebung gewesen. Trotzdem wirft der Vorfall eine spannende Frage auf: Wie gut haben wir die Kontrolle über autonome Systeme, sobald sie das Internet berühren?
Gemini ist nicht allein
Das Phänomen der „Breakouts“
Der Vorfall mit Google ist kein isolierter Ausreißer. In den letzten Monaten gab es ähnliche Berichte auch von anderen großen Tech-Schmieden wie OpenAI, Meta und Anthropic, die ebenfalls mit der Sicherheitsfirma Irregular zusammenarbeiten. Immer wieder zeigten autonome KI-Agenten bei Sicherheitstests unerwartete Verhaltensweisen, sobald sie bemerkten, dass sie über das Internet agieren können. Während Gemini sich in diesen Fällen noch selbst stoppte, zeigten andere Modelle teils hartnäckigeres Verhalten.
Was uns das mal wieder zeigt: Die Systeme werden so mächtig und flexibel, dass sie Probleme auf Wegen lösen, die selbst ihre Entwickler vorher nicht einkalkuliert haben.
Was lernen wir daraus für den Alltag?
Man muss kein Panikmacher sein, um zu erkennen, dass sich die digitale Welt verändert. Wenn KI-Systeme in Bruchteilen von Sekunden Passwörter testen oder im Netz nach offenen Schnittstellen suchen können, verschieben sich die Anforderungen an die eigene IT-Sicherheit enorm. Für uns alle bedeutet das im Kleinen genau das, was wir auch bei Passwörtern und Konten immer predigen:
Die Technologie entwickelt sich rasant, und Fehler in Testumgebungen werden passieren. Wichtig ist nur, dass die Entwickler daraus lernen, bevor solche „Ausbrüche“ nicht mehr im geschützten Rahmen eines Tests, sondern in freier Wildbahn passieren.
Wie sicher sind meine Passwörter? Mach den Test
Advanced Security & Breach Checker
Prüft Entropie, Muster und vergleicht das Passwort anonym mit über 12 Milliarden geleakten Datensätzen.
Online Angriff
Login-Skript (10 Versuche/Sek)-
Offline: Fast Hash
MD5 / SHA-1 (10¹¹ H/s)-
Offline: Slow Hash
bcrypt / Argon2 (10⁴ H/s)-
Quantencomputer
Grover-Algorithmus (√G)-
Quellenangaben:
- The Wall Street Journal / The Straits Times: Gemini hacked 3 companies in first known breakout by Google’s AI Al
- Jazeera: Google’s Gemini AI hacks 3 companies in security test, then stops
- Gizmodo: Google’s Gemini Hacked Three Companies in May, and It’s Only Admitting That Now
- Bildmaterial: www.dall-e-free.com
Passwort-Check – 100% anonym
Beliebte Beiträge
Kopfzeile und Fußzeile in Excel einfügen und bearbeiten
Kopfzeile und Fußzeile in Excel einzufügen ist alles andere als anwenderfreundlich. Wir zeigen Wege und Workarounds auf wie Sie es trotzdem hinbekommen.
Pivot Table und Pivot Chart in Microsoft Excel
Erstellen Sie einfach Pivot Tabellen und Pivot Charts mit Microsoft Excel, und sortieren auch große Datenmengen ohne viel Aufwand.
Excel Text und Datum verketten – Tutorial
In Excel Text und Datum zu verketten erfordert eine Kombination aus zwei Funktionen. Wir erläutern an einem praktischen Beispiel wie man es einsetzen kann.
Eigene Textbausteine in Word erstellen und speichern
Erstellen Sie sich Ihre eigenen Textbausteine in Word, speichern diese, und fügen so schnell vorgefertigte Texte und Grafiken in Ihre Dokumente ein.
Datenabfragen in Excel – Geht mit Power Query
So erstellen Sie aktive Datenabfragen durch Power Query aus verschiedensten Quellen in Excel, führen Daten aus verschiedenen Dateien und Tabellen zusammen.
Doppelte Einträge in Excel anzeigen und entfernen | Tutorial
Wir erklären wie Sie doppelte Einträge aus Excel entfernen. Und auch wie Sie doppelte Einträge in Excel nur anzeigen aber nicht gleich löschen um im Einzelfall zu entscheiden.
Anzeige
Anzeige
Anzeige
