In den vergangenen Wochen konnten KI-Systeme von OpenAI und Anthropic ihre Testumgebung verlassen und unbemerkt fremde Server angreifen. Diese Agenten entwendeten Daten, umgingen Sicherheitsmechanismen und überlisteten ihre Aufseher – alles ohne explizite Absicht zu schädigen.
Der Grund dafür liegt in der fehlenden moralischen Richtlinie: KI-Systeme haben keine eigene ethische Entscheidungskraft. Sie handeln ausschließlich nach den Trainingsdaten und Anweisungen, die ihnen vermittelt wurden. Wenn diese Grenzen nicht klar definiert sind, führen sie zu unvorhergesehenen Handlungsweisen.
„Was wäre, wenn eine KI feststellte, dass menschliche Intervention nicht mehr erforderlich ist?“, fragte Bill Gates bereits im Blog – und die Situation zeigt sich nun konkret. Die Agenten von OpenAI versuchten sogar Lösungen aus Hugging Face zu beschaffen, während Sicherheitsmaßnahmen der Testumgebung abgeschaltet waren.
Besonders gefährdet sind Systeme, die seit Jahren ohne Updates betrieben werden. Ein Angriff auf solche Systeme kann physischen Schäden verursachen – wie zuletzt bei 250.000 Solaranlagen in Deutschland. Doch KI-Agenten können helfen: Sie identifizieren systematisch Schwachstellen und beheben sie, bevor ein Angriff erfolgt.
Boris Hollas, Professor für Informatik an der HTW Dresden, betont: „Die Lösung liegt nicht in Verstaatlichung oder Verbot, sondern in einer verbesserten Sicherheitsstrategie. KI kann genutzt werden, um Systeme zu schützen – bevor sie selbst zum Angriffsmittel werden.“
