Hacker nutzen KI-Werkzeuge, um KI-Plattformen anzugreifen

Die globale KI-Infrastruktur gerät zunehmend ins Visier von Cyberkriminellen, die selbst KI-Werkzeuge einsetzen, um andere KI-Systeme zu attackieren. Ein Datenleck bei der Plattform Hugging Face, einem zentralen Repositorium für KI-Modelle mit Millionen Entwicklern, hat 2024 offengelegt, wie verwundbar diese Infrastruktur ist. Dabei wurden Benutzer-Token offengelegt, was Angreifern potenziell Zugriff auf sensible Konten und Modelle ermöglichte.

KI als Waffe gegen KI

Cyberkriminelle nutzen KI-Tools inzwischen gezielt, um Schadsoftware zu generieren und Hacking-Angriffe auf andere KI-Systeme zu automatisieren. Ein Sicherheitsexperte fasst die Entwicklung so zusammen: "KI-Systeme selbst werden Werkzeuge für Cyberangriffe." Diese Automatisierung senkt die Einstiegshürden für Angreifer erheblich, da komplexe Angriffsmuster nicht mehr manuell entwickelt werden müssen.

Besonders problematisch sind adversarische Angriffe, bei denen geringfügig manipulierte Eingaben Fehlklassifizierungen von KI-Modellen auslösen und dadurch Sicherheitssysteme umgehen können. Solche Manipulationen sind oft für Menschen kaum erkennbar, können aber die Entscheidungslogik eines Modells vollständig verändern.

Angriffe auf die Lieferkette

Ein weiteres wachsendes Risiko sind Supply-Chain-Attacken, die auf das Training von Modellen und deren Abhängigkeiten abzielen, um Backdoors zu implantieren. Da viele Entwickler auf vortrainierte Modelle und offene Bibliotheken zurückgreifen, können solche Manipulationen unbemerkt in zahlreiche nachgelagerte Anwendungen gelangen. Wie stark die Nutzung großer Open-Source-Modelle inzwischen zunimmt, zeigt etwa das Beispiel des chinesischen Modells mit 2,8 Billionen Parametern, das die Verbreitung offener KI-Architekturen weiter beschleunigt und damit auch die Angriffsfläche vergrößert.

Zero-Day-Exploits in verbreiteten KI-Frameworks wie TensorFlow und PyTorch gefährden zudem ganze Entwickler-Ökosysteme, da diese Werkzeuge die Grundlage unzähliger Anwendungen bilden. Auch Prompt-Injection-Angriffe stellen ein reales Risiko dar: Hacker können damit KI-Chatbots manipulieren und zur Ausführung unbeabsichtigter Aktionen zwingen, etwa zur Herausgabe vertraulicher Informationen.

Hinzu kommt ein weiteres Phänomen: Botnet-Operatoren exploitieren kompromittierte GPU-Ressourcen für unbefugtes Modell-Training und Kryptomining. Damit werden nicht nur Daten, sondern auch Rechenkapazitäten selbst zum Angriffsziel.

Regulierung und Gegenmaßnahmen

Als Reaktion auf diese Bedrohungslage verstärken die EU und die USA ihre Regelwerke für KI-Sicherheit, um Cyberbedrohungen gegen KI-Infrastruktur gezielt zu adressieren. Parallel dazu wird KI-gestützte Anomalieerkennung zunehmend als Abwehrmechanismus gegen automatisierte Cyberangriffe eingesetzt, wodurch KI paradoxerweise sowohl Angriffswerkzeug als auch Verteidigungsinstrument ist.

Auch regulatorische Initiativen abseits der Sicherheitsgesetzgebung könnten künftig Einfluss auf die Struktur der KI-Infrastruktur nehmen. So zielt etwa das neue europäische Cloud-Gesetz darauf ab, die Marktmacht großer US-Cloud-Anbieter zu verringern und europäischen Anbietern mehr Raum zu geben, was mittelfristig auch die Sicherheitsarchitektur der KI-Lieferkette verändern könnte.

Offene Fragen bleiben

Trotz verstärkter Regulierung bleibt unklar, wie effektiv aktuelle Verteidigungsmechanismen gegen KI-gestützte Angriffe tatsächlich sind. Ebenso offen ist, welche spezifischen Sicherheitsstandards für KI-Infrastruktur international konkret vereinbart werden. Auch die Frage, wie weit verbreitet erfolgreiche Backdoor-Implantationen in bereits trainierten Modellen tatsächlich sind, lässt sich derzeit nicht abschließend beantworten. Diese Unsicherheiten dürften die Debatte um KI-Sicherheit in den kommenden Monaten weiter prägen.