CISA veröffentlicht Hinweis zur KI-Cybersicherheit

Die Cybersecurity and Infrastructure Security Agency (CISA) hat einen Hinweis herausgegeben, um Organisationen, die Modelle für künstliche Intelligenz (KI) entwickeln, daran zu erinnern, dass diese ebenso anfällig für Schwachstellen sind, wie jede andere Software.

Konkret fordert die CISA die Entwickler von KI-Systemen auf, die Security der Kunden als zentrale Geschäftsanforderung und nicht nur als technisches Merkmal zu betrachten und Security während des gesamten Lebenszyklus des Produkts zu priorisieren. KI-Modelle müssen von Grund auf sicher sein, mit geringen bis keinen Änderungen an der Konfiguration oder zusätzlichen Kosten, heißt es im Hinweis der CISA.

Es stellt sich heraus, dass KI-Modelle von denselben Lieferkettenproblemen betroffen sind wie vorhandene Software. Die zum Erstellen von KI-Modellen verwendeten Komponenten werden meistens von Data-Science-Teams aus Repositories heruntergeladen. Teams, die Cybersecurity-Probleme für gewöhnlich noch weniger wahrnehmen, als ein durchschnittlicher Anwendungsentwickler. Infolgedessen werden viele der verwendeten Komponenten nicht auf Schwachstellen gescannt, die ausgenutzt werden könnten oder auf in diesen eingebettete Malware.

CISA stellt fest, dass „feindliche“ Eingaben, die beispielsweise eine Fehlklassifizierung erzwingen, dazu führen können, dass sich Autos auf Straßenverläufen falsch verhalten oder Objekte vor der Überwachungskamerasoftware verborgen werden. Tatsächlich zeigte vor kurzem eine PoisonGPT-Angriffstechnik, wie verletzbar große Sprachmodelle (LLMs) sind, die zur Erstellung von generativen KI-Modellen verwendet werden.

Cybersecurity-Experten werden sich dann wieder einmal nicht der nicht beneidenswerten Lage befinden, Malware zu entfernen und Schwachstellen zu identifizieren, die gepatcht werden müssen – hoffentlich bevor eines dieser KI-Modelle kompromittiert wird.

So verbessern Sie die Sicherheit von KI-Modellen

Natürlich ist die einzige Möglichkeit, Bedrohungen von KI-Modelle zu minimieren, sicherzustellen, dass Cybersecurity-Best Practices in die maschinellen Lernvorgänge (MLOps) eingebettet werden, die zur Erstellung von KI-Modellen verwendet werden. In ähnlicher Weise haben DevSecOps-Praktiken dazu beigetragen, den Stand der Anwendungssicherheit zu verbessern, indem Entwickler dazu ermutigt wurden, Cybersecurity-Best Practices zu übernehmen. Nun müssen Data-Scientists ins Boot geholt werden, angefangen mit dem Schwerpunkt auf der Verwendung von kuratierten, gehärteten Bildern von Softwarekomponenten, um KI-Modelle zu erstellen, die auf bekannte Schwachstellen getestet wurden.

Die Behebung von Schwachstellen in einem KI-Modell, nachdem es bereits in einer Produktionsumgebung eingesetzt wurde, ist viel riskanter. Natürlich gibt es keine Garantie dafür, dass niemals ein Patch angewendet werden muss, unabhängig davon, wie gehärtet die verwendeten Bilder sind, aber die Anzahl der Fälle, in denen ein Patch erforderlich sein könnte, sollte erheblich reduziert werden. Das Problem wird wie immer darin bestehen, die Reichweite eines Verstoßes gegen ein KI-Modell so weit wie möglich einzuschränken, da das potenzielle Risiko für das Unternehmen angesichts der Art der wahrscheinlich beteiligten Prozesse viel höher sein wird.

Hoffentlich gelingt es Cybersecurity-Teams diesem Problem zuvorzukommen, bevor größere Verstöße auftreten. Aber wenn die Vergangenheit ein Hinweise ist, erhält die Sicherung von KI-Modellen möglicherweise erst dann die Aufmerksamkeit, die sie verdient, wenn es zu einem schwerwiegenden Verstoß kommt. In der Zwischenzeit wäre es ratsam, wenn Cybersecurity-Teams anfangen würden zu lernen, wie sie nun auf einen Security-Vorfall mit einem KI-Modell reagieren, anstatt wieder einmal Lehrgeld bei der Reaktion auf einen Cyberangriff zahlen zu müssen.