KI ist überall. Die Fähigkeiten, sie abzusichern und zu steuern, sind es nicht

Neuen internationalen Untersuchungen zufolge gibt fast die Hälfte der leitenden IT-Verantwortlichen an, dass ihren Teams die erforderlichen Fähigkeiten fehlen, um die bereits im Unternehmen eingesetzten KI-Technologien abzusichern und zu verwalten.

Die wichtigsten Erkenntnisse

• Eine neue Studie von Barracuda hat ergeben, dass 44 % der ranghöchsten IT-Führungskräfte in Unternehmen mit 100 bis 500 Mitarbeitenden und 49 % in Unternehmen mit 500 bis 1.000 Mitarbeitenden KI-Security und Governance als eine ihrer drei größten Kompetenzlücken einstufen.
• Die Qualifikationsherausforderung ist in den Unternehmen am stärksten ausgeprägt, in denen KI in E-Mail, Geschäftsabläufe und Arbeitsabläufe integriert ist.

Unternehmen führen KI rasant ein, doch vielen fehlt das nötige Fachwissen, um die damit verbundenen Security-, Governance- und Compliance-Risiken zu beherrschen.

Barracuda hat kürzlich IT- und Security-Führungskräfte in Unternehmen mit 100 bis 2.000 Mitarbeitern in den USA, EMEA und APAC befragt. In der Umfrage wurde gefragt: „Wo fehlen Ihrem Security-Team derzeit die Fähigkeiten oder das Fachwissen, um effektiv zu reagieren?“

Die Ergebnisse zeigen weit verbreitete Qualifikationslücken in den Bereichen KI-Security und Governance, insbesondere bei mittelständischen Betrieben und Unternehmen, die KI in E-Mail-Systeme, betriebliche Arbeitsabläufe und Unternehmenssysteme integrieren.

KI-Sicherheit und Governance zählen insgesamt zu den größten Qualifikationslücken

Fast 4 von 10 (38 %) der insgesamt befragten Unternehmen geben an, dass ihren Teams die erforderlichen Fähigkeiten oder das Fachwissen fehlen, um die im gesamten Unternehmen genutzten KI-Tools abzusichern und zu steuern.

Dazu gehören 44 % der CIOs in Organisationen mit 100 bis 500 Mitarbeitenden und 49 % derjenigen in Organisationen mit 500 bis 1.000 Mitarbeitenden.

KI-Security und -Governance wurde in der Studie als drittgrößte Qualifikationslücke identifiziert. Nur zwei Herausforderungen wurden höher bewertet: die Reaktion auf KI-basierte Phishing- und Social-Engineering-Angriffe (47 %) und die Abwehr von identitätsbasierten Angriffen (39 %).

Warum leitende IT-Führungskräfte besonders besorgt sind

Die Perspektive der IT-Führungsebene ist besonders wichtig, da diese Rollen einen umfassenden Überblick über Menschen, Prozesse, Technologie und Geschäftsstrategie haben. Sie gehören oft zu den Ersten, die erkennen, wo die Einführung von KI schneller voranschreitet als Governance, Richtlinienentwicklung und Risikomanagement.

Ihre gestiegene Besorgnis zeigt auch, dass KI-Governance kein Nischenthema mehr ist, das auf Cybersecurity-Teams beschränkt ist. Es handelt sich zunehmend um eine unternehmensweite Herausforderung für die Leadership, die eine Aufsicht über die Bereiche Technologie, Compliance, Risikomanagement, Recht, HR und Geschäftsführung hinweg erfordert.

Skalierung und Komplexität erschweren die Governance

Die Untersuchung legt nahe, dass KI-Security und Governance mit zunehmender organisatorischer Komplexität schwieriger werden.

Unter den befragten größeren mittelständischen Unternehmen (mit 1.500 bis 2.000 Mitarbeitern) gaben 47 % einen Mangel an KI-Governance-Expertise an, verglichen mit 38 % der Unternehmen mit 100 bis 500 Mitarbeitern. Der Unterschied ist nicht dramatisch, aber er ist aufschlussreich.

Mit dem Wachstum von Unternehmen gehen für gewöhnlich mehr Anwendungen, Nutzer, Datenquellen und Geschäftsprozesse ein, die über mehr Integrationen verbunden sind. Möglicherweise müssen sie sich auch einer größeren Vielfalt an regulatorischen und Compliance-Verpflichtungen stellen.

In diesen Umgebungen wird die Governance von KI wenig überraschend schwieriger. Unternehmen benötigen Transparenz darüber, welche KI-Tools verwendet werden, auf welche Daten diese Tools zugreifen können, wie die Ergebnisse verwendet werden und wer für die Aufsicht verantwortlich ist. Die Aufrechterhaltung einheitlicher Governance-Standards in einer größeren und vielfältigeren Umgebung kann selbst für gut ausgestattete Teams eine Herausforderung sein.

KI-vernetzte E-Mail-Workflows erhöhen den Einsatz

Ein weiteres interessantes Ergebnis betrifft Unternehmen, in denen KI operativ integriert wird.

Da Unternehmen zunehmend KI-Agenten einsetzen, um E-Mail-, CRM-, HR-, Finanz- und Kundensupport-Systeme miteinander zu verbinden, wird die KI-Governance deutlich komplexer. 42 % der Unternehmen, die KI zur Integration von E-Mails in Workflows nutzen, äußerten Bedenken hinsichtlich der KI-Governance-Expertise. Demgegenüber stehen 35 % der Unternehmen, bei denen E-Mails ein rein menschlicher Prozess bleiben.

Dieses Ergebnis unterstreicht einen Wandel in der Art und Weise, wie Unternehmen über KI-Risiken nachdenken sollten. Wenn KI mit den Geschäftsabläufen verknüpft wird, erweitern sich die potenziellen Auswirkungen erheblich. KI kann Zugriff auf sensible Informationen erlangen, Geschäftsentscheidungen beeinflussen, operative Prozesse automatisieren oder Aktionen über vernetzte Systeme hinweg einleiten.

An diesem Punkt geht KI-Governance über die Überwachung von Prompts und KI-generierten Ausgaben hinaus. Es geht darum zu kontrollieren, wie KI auf Daten zugreift, mit Geschäftssystemen interagiert, Entscheidungen beeinflusst und Aktionen einleitet.

Managed Services Providers unterstützen besorgte Kunden

Die Ergebnisse zeigen, dass Organisationen, die mit Managed Service Providers (MSPs) zusammenarbeiten, eher mangelndes Fachwissen über KI-Sicherheit und Governance angeben. 40 % der MSP-Kunden äußerten Bedenken hinsichtlich solcher Qualifikationslücken, verglichen mit nur 30 % der kleinen Minderheit von Organisationen, die keine MSPs nutzen und dies auch nicht vorhaben.

Dies deutet darauf hin, dass viele Unternehmen erkennen, dass sie intern nicht über das gesamte erforderliche Fachwissen verfügen, und sich zunehmend an MSPs wenden, um Unterstützung bei KI-Security, Governance und Risikomanagement zu erhalten.

Interessanterweise berichten Organisationen, die keine MSPs verwenden und dies auch nicht vorhaben, dass ihre größte Herausforderung darin besteht, „technische Risiken in geschäftliche Auswirkungen zu übersetzen“.

Mit anderen Worten: Sie erkennen, dass sie Schwierigkeiten haben zu verstehen, wie technische Risiken – einschließlich ungeschützter und nicht verwalteter KI – das Unternehmen beeinträchtigen könnten. Das könnte erklären, warum sie keine Notwendigkeit sehen, externe Hilfe in Anspruch zu nehmen. Organisationen, die MSPs einsetzen, stuften diese Qualifikationslücke als die niedrigste von allen ein.   

Keine Organisation ist immun

Herausforderungen bei den Kompetenzen für KI-Security-Governance beschränken sich nicht auf eine bestimmte Branche oder Region. Mindestens 3 von 10 Befragten in den untersuchten Branchen berichten von unzureichendem Fachwissen, um die geschäftliche KI-Nutzung abzusichern und zu steuern. Das Thema gehörte auch in den meisten der in die Studie einbezogenen Länder zu den drei wichtigsten Bedenken hinsichtlich der Kompetenzen.

So schließen Sie die Fähigkeitslücke

Da die KI-Einführung weiter voranschreitet, setzt ein Mangel an robuster Security und Governance Unternehmen einem zunehmenden Risiko aus. Mitarbeiter können vertrauliche Daten auf öffentliche KI-Plattformen hochladen; KI-Agenten können auf Informationen zugreifen, die sie nicht benötigen; sensible Daten können in Prompts, Ausgaben oder Trainingsdatensätzen enthalten sein; und Unternehmen können die Übersicht darüber verlieren, wo Geschäftsdaten verarbeitet oder gespeichert werden.

Die Lösung besteht nicht darin, die Nutzung von KI einzuschränken – die geschäftlichen Vorteile sind immens, und Mitarbeiter werden wahrscheinlich Umgehungslösungen finden, die das Unternehmen weiteren Risiken aussetzen.

Stattdessen benötigen Unternehmen praktische, skalierbare Möglichkeiten für die sichere Einführung von KI, ohne Innovationen auszubremsen oder die Transparenz und Kontrolle darüber zu verlieren, wie Geschäftsdaten genutzt werden. Lösungen wie Barracuda AI Data Security helfen Unternehmen und MSPs, Transparenz und Kontrolle darüber zu behalten, wie Mitarbeitende Geschäftsdaten in KI nutzen. So wird die sichere Einführung von KI unterstützt, ohne Innovationen auszubremsen.

Methodik

Barracuda hat 2.000 Entscheidungsträger im mittleren und gehobenen Management im Bereich IT und Security in Unternehmen mit 100 bis 2.000 Mitarbeitern aus einer Vielzahl von Branchen in den USA, Großbritannien, Frankreich, DACH (Deutschland, Österreich, Schweiz), Benelux, den nordischen Ländern (Dänemark, Finnland, Norwegen, Schweden), Australien, Indien und Japan befragt. Die Umfrage wurde für Barracuda von der unabhängigen Forschungsagentur Arlington Research durchgeführt.