Das fehlende Puzzleteil in der KI-Sicherheitsdebatte

Geschwindigkeit und Sicherheit sind nicht die einzigen Bedenken bei KI: Mehr Verteidiger benötigen Zugang zu KI-Fähigkeiten an der Spitze der Entwicklung

Unter denjenigen, die derzeit die Risiken von KI diskutieren, dominieren zwei Ansichten: Die erste, vertreten von Anthropics CEO Dario Amodei und anderen, besagt, dass KI Risiken mit sich bringt, die eine staatliche Regulierung rechtfertigen – Risiken eines Kontrollverlusts über KI-Systeme, des Missbrauchs von KI für Cyberangriffe und Bioterrorismus sowie wirtschaftlicher Störungen. Die zweite These, die von Befürwortern des freien Marktes und einigen Skeptikern vertreten wird, lautet, dass große KI-Unternehmen (wie Anthropic und OpenAI) ihren Vorreiterstatus und ihre Verbindungen zur US-Regierung ausnutzen, um Konkurrenten auszuschalten und ein Monopol für sich zu errichten.  

Die KI-Experten Jensen Huang und Mark Zuckerberg vertreten eine Mittelposition und glauben, dass staatliche Eingriffe neue Probleme schaffen, Innovationen verlangsamen und letztendlich das Risiko erhöhen könnten.

Amodeis jüngster Essay „We Must Pace the Frontier“ ist ein Aufruf zur Verlangsamung der KI-Modellentwicklung, die sich auf Cyberrisiken konzentriert.  Sam Altman, CEO von OpenAI, hat zugesagt, einige von Amodeis Vorschlägen umzusetzen, und Elon Musk sagte: „Dario hat Recht.“ 

Ich unterstütze viele der von Amodei vorgeschlagenen Maßnahmen voll und ganz:

• Beschränkung des Verkaufs leistungsstarker KI-Chips und der Halbleiterfertigung an autoritäre Regime.
• Verhindern, dass Unternehmen in autoritären Ländern fortschrittliche KI-Modelle kopieren und nachbilden.
• Stärkung der Security bei KI-Unternehmen, um den Diebstahl von Modellgewichten zu verhindern.

Bemühungen, die Entwicklung von KI-Modellen zu verlangsamen, erscheinen mir jedoch nicht realistisch. Wie Amodei einräumt, würden sinnvolle Beschränkungen überprüfbare internationale Abkommen erfordern.  Darüber hinaus ist nicht klar, ob eine Einschränkung des KI-Fortschritts die Security verbessern würde, da Verteidiger und die von ihnen geschützten Unternehmen von genau diesen Fortschritten profitieren. Ein besserer Weg ist eine engere Zusammenarbeit und Partnerschaft zwischen Anbietern großer Sprachmodelle (LLMs) und Security-Verteidigern, um sicherzustellen, dass Verteidiger mit hochmodernen KI-Modellfunktionen ausgestattet sind.

Das betrifft jedes Unternehmen, nicht nur die Frontier Labs: Angreifer nutzen KI bereits, um Schwachstellen mit Maschinengeschwindigkeit zu finden und auszunutzen. Wenn der Zugang zu Frontier-KI auf eine Handvoll Unternehmen konzentriert ist, bleiben die Vorteile fortschrittlicher KI-Abwehr in der gesamten Wirtschaft ungleichmäßig verteilt.  Ein sichereres KI-Ökosystem erfordert, dass Verteidiger breiten Zugang zu fortschrittlichen KI-Fähigkeiten haben. Ein breiter Zugang stärkt die Resilienz in der gesamten Wirtschaft und verringert das Risiko, dass Schwachstellen in einem Unternehmen unverhältnismäßig große Folgen für andere haben können.