KI-Sicherheitslücken: Wie Unternehmen ihre Systeme wirklich schützen können

Künstliche Intelligenz verändert die Cybersicherheitslandschaft von Grund auf, und zwar auf beiden Seiten der Front. Angreifer nutzen generative Modelle für Phishing und Schwachstellensuche, Verteidiger setzen dieselben Werkzeuge zur schnelleren Fehlerentdeckung ein. Zwischen diesen beiden Entwicklungen entsteht ein Wettlauf, bei dem Unternehmen in Deutschland derzeit häufig ins Hintertreffen geraten.

KI-gestützte Schwachstellenerkennung boomt

Mozilla verzeichnete im ersten Quartal 2026 einen Anstieg der CVE-Meldungen um 164 Prozent, ausgelöst durch KI-gestützte Schwachstellenerkennung. Anthropic offenlegte zudem, dass sein Modell Claude Mythos eigenständig Softwarelücken aufspüren kann. Im Rahmen von Project Glasswing wurden mehr als 10.000 hohe und kritische Fundstellen identifiziert, bevor sie veröffentlicht wurden. Diese Entwicklung ist ambivalent: Dasselbe Werkzeug steht Verteidigern und Angreifern offen, weshalb Googles Threat-Intelligence-Team bereits vor Gegnern warnt, die KI zur Ausnutzung von Lücken einsetzen. Wie stark auch Angreifer bereits auf KI setzen, zeigt der Blick auf Cyberangriffe auf KI-Plattformen selbst, bei denen Kriminelle gezielt Schwachstellen in der KI-Lieferkette ausnutzen.

Gleichzeitig wächst das Verifikationsproblem: KI-Werkzeuge produzieren plausibel klingende Reports schneller, als die Empfängerseite sie triagieren, verifizieren und beheben kann. Unternehmen stehen also nicht nur vor mehr Meldungen, sondern auch vor mehr Fehlalarmen, die Ressourcen binden.

Deutschland zwischen Bedrohung und Nachlässigkeit

In Deutschland berichten 60 Prozent der Unternehmen von mehr Cyberangriffen innerhalb von zwölf Monaten, 37 Prozent vermuten dabei eine KI-Beteiligung. Bei IT-Entscheidungsträgern sehen 70 Prozent KI-Cyberangriffe als reale Bedrohung, 74 Prozent sorgen sich zusätzlich vor staatlich unterstützten KI-Angriffen. Trotzdem haben nur 58 Prozent der Unternehmen ihre Cyberabwehr gegen staatliche Angriffe in den vergangenen drei Jahren gezielt gestärkt. 41 Prozent meldeten bereits staatlich unterstützte Vorfälle, während 57 Prozent glauben, selbst nicht betroffen zu sein. Diese Kluft zwischen wahrgenommener Bedrohung und tatsächlichem Handeln bleibt eines der größten Risiken. Der jährliche Gesamtschaden durch Cyberangriffe in Deutschland liegt laut Bitkom bei 289 Milliarden Euro.

Besonders auffällig: 70 Prozent der im Untergrund nachgefragten Exploits betreffen Schwachstellen, die älter als zwei Jahre sind, 31 Prozent stehen sogar im CISA-Katalog bekannter ausgenutzter Lücken. Angreifer setzen also weniger auf brandneue Zero-Days als auf ungepatchte Altlasten, ein klares Signal für den Wert konsequenten Patch-Managements.

Neue Angriffsflächen durch KI-Systeme selbst

Neben klassischen Schwachstellen entstehen neue Risiken direkt in KI-Systemen. Data Poisoning und Modelldiebstahl gefährden Trainingsdaten und geistiges Eigentum, während Prompt Injection, Jailbreaks und Evasion Attacks Sprachmodelle im laufenden Betrieb angreifen. Auch die Frage, ob Modelle selbst täuschen können, beschäftigt Forscher zunehmend, etwa im Rahmen von Anthropics Untersuchungen zu Täuschung in Sprachmodellen. Das BSI stellt allerdings klar: Bisher gibt es keine grundsätzlich neuen Tactics und Techniques bei KI-Cyberangriffen, klassische Härtungsmaßnahmen bleiben fundamental wichtig.

Was Unternehmen jetzt tun sollten

Experten empfehlen einen Paradigmenwechsel weg von punktuellen Patches hin zu kontinuierlichen Prozessen. Angreifer operieren bereits als vernetzte Kollektive: Sie tauschen Werkzeuge aus, nutzen Crowdsourcing für die Schwachstellensuche und koordinieren Angriffe organisationsübergreifend. Dem sollen Unternehmen mit automatisierten Sicherheitsbewertungen begegnen, die dauerhaft in Entwicklungsprozesse integriert werden, einschließlich LLM-gestützter Agenten zur proaktiven Schwachstellensuche. Das BSI rät zudem, Sicherheit als kontinuierlichen Prozess zu verstehen, mit Schulungen, Filtern, Protokollen und Architektur, damit Schritt für Schritt ein KI-System entsteht, das sich nicht mehr so leicht austricksen lässt.

Konkret bedeutet das für Unternehmen: Systemhärtung, Absicherung der Lieferkette und kontinuierliches Monitoring müssen zusammen gedacht werden. Wie genau die Verifizierung von KI-generierten Schwachstellenberichten skaliert werden kann, ohne Sicherheitsteams zu überlasten, ist dabei ebenso offen wie die Frage, welche technischen Maßnahmen Data Poisoning am wirksamsten verhindern. Klar ist nur: Wer KI-Bedrohungen und klassische Cyberhygiene getrennt betrachtet, wird beiden Seiten des Problems nicht gerecht.