Eine Umfrage zeigt ein wachsendes Bewusstsein für Security-Risiken im Bereich der KI

Wie KI-Schwachstellen neue Herausforderungen im Bereich Cybersecurity schaffen

Die wichtigsten Erkenntnisse

• KI-Schwachstellen prägen zunehmend die Cybersecurity-Herausforderungen, wobei 87 % der befragten Führungskräfte für 2025 erhöhte Sicherheitsrisiken angeben.
• Laut einer globalen Umfrage stellen Datenlecks und gegnerische Fortschritte die dringendsten Security-Bedenken im Bereich der KI dar.
• 64 % der Unternehmen verfügen über Prozesse zur Bewertung der Security von KI-Tools vor deren Bereitstellung, doch vielen Tools mangelt es an angemessenen Kontrollen.
• Die Risiken von Cyberbetrug und Phishing nehmen zu, ebenso wie Bedenken in Bezug auf Lieferketten, Software-Schwachstellen und Ransomware-Angriffe.
• Die wachsende Angriffsfläche aufgrund der Einführung von KI macht die Cybersecurity zunehmend schwieriger, wobei das Fehlen von Kontrollen in vielen KI-Tools erhebliche Risiken birgt.
• Security-Governance-Frameworks für KI sind dringend erforderlich, aber die schnelle Einführung von KI-Agenten könnte die Fähigkeit der Cybersecurity-Teams zur Reaktion übersteigen, was möglicherweise zu schwerwiegenden Sicherheitsverletzungen führt.

Eine globale Umfrage des Weltwirtschaftsforums (WEF) deutet darauf hin, dass die inhärenten Cybersecurity-Risiken, die durch Schwachstellen in KI-Anwendungen entstehen, weitaus größer sind.

Die Umfrage unter 873 C-Suite-Führungskräften, Akademikern, Vertretern der Zivilgesellschaft und Cybersicherheitsverantwortlichen des öffentlichen Sektors ergab, dass ganze 87 % die Tatsache anerkennen, dass die Sicherheitsrisiken von KI im Jahr 2025 zugenommen haben, wobei 64 % angaben, dass ihre Organisation über einen Prozess verfügt, um die Sicherheit von KI-Tools vor deren Einsatz zu bewerten. Die dringendsten KI-Security-Bedenken sind Datenlecks (30 %), gefolgt von der Weiterentwicklung der gegnerischen Fähigkeiten (28 %), so die Umfrage.

Mehr als drei Viertel (77 %) gaben außerdem an, dass ihre Organisation bereits KI-gestützte Tools zur Erreichung ihrer Cybersecurity-Ziele implementiert hat, wobei Phishing und E-Mail-Bedrohungserkennung (52 %) an der Spitze dieser Initiativen stehen, gefolgt von der Erkennung und Reaktion auf Eindringlinge oder Anomalien (46 %), der Automatisierung von Sicherheitsoperationen (43 %), Nutzerverhaltensanalysen und Insider-Bedrohungserkennung (40 %) sowie Bedrohungsintelligenz und Risikopriorisierung (39 %).

Es gibt natürlich Hindernisse für die Einführung von KI, denen die meisten Organisationen bereits begegnen, insbesondere unzureichendes Wissen und/oder Fähigkeiten (54 %), die Validierung von KI-Ergebnissen (41 %), Unsicherheit über tatsächliche Risiken (39 %), unzureichende Mittel (36 %) und unklare Geschäftsfälle (33 %), wie die Umfrage zeigt.

Dennoch identifizierten fast alle Befragten (94 %) KI/maschinelles Lernen als die Technologie, die die Cybersicherheit in den nächsten 12 Monaten am stärksten beeinflussen wird, gefolgt von Cloud Computing (61 %) und Quantencomputing (37 %).

Cyberbetrug und andere Bedrohungen nehmen zu

Natürlich ist KI nur der jüngste von vielen Bedrohungsvektoren, die das Risiko für das Unternehmen erhöhen. Die Umfrage zeigt beispielsweise, dass mehr als drei Viertel der Befragten (77 %) wissen, dass die Risiken im Zusammenhang mit Cyberbetrug und Phishing im letzten Jahr gestiegen sind. Darüber hinaus gibt es ein größeres Bewusstsein für Risiken in Bezug auf Lieferketten (65 %), Software-Schwachstellen (58 %) und Ransomware-Angriffe (54 %).

Obwohl mehr als drei Viertel (78 %) angaben, dass ihre Belegschaft über die notwendigen Fähigkeiten verfügt, um die aktuellen Cybersicherheitsziele zu erreichen, nannten ganze 61 % die sich schnell entwickelnden Bedrohungslandschaften und aufkommenden Technologien als größte Herausforderung beim Erreichen und Aufrechterhalten der Cyberresilienz, gefolgt von Schwachstellen bei Drittanbietern und in der Lieferkette (46 %) sowie einem Mangel an Cybersicherheitskenntnissen und -expertise (45 %).

Die Studie verdeutlicht insgesamt, dass es selbst im Zeitalter der KI noch nie so schwierig war, Cybersecurity zu gewährleisten. Während Cybersecurity-Teams selbst KI nutzen, um Aufgaben zu automatisieren, wächst die Gesamtgröße der zu verteidigenden Angriffsfläche weiter, da immer mehr KI-Tools und -Anwendungen eingesetzt werden. Leider haben viele dieser Tools, wie zum Beispiel der immer beliebter werdende KI-Agent OpenClaw, überhaupt keine Security-Kontrollen.

Jedes Cybersicherheitsteam wird letztendlich ein Security-Governance- und -Compliance-Framework benötigen, um die KI zu kontrollieren. Inzwischen erschwert jedoch das Tempo der Einführung von KI-Agenten in vielen Unternehmen den Cybersicherheitsteams, Schritt zu halten. Allerdings wird es bald zu einer fast unvermeidlichen großen Cybersicherheitsverletzung kommen, die, sobald sie auftritt, die Begeisterung für KI-Agenten möglicherweise lange genug bremst, damit sich Cybersicherheitsteams vollständig vorbereiten können.