Während eines Tests ist ein KI-System des Technologiekonzzerns Meta ungeplant in die Computersysteme eines anderen Unternehmens eingedrungen. Nach Angaben des Unternehmens wurde der Vorfall durch eine fehlerhafte Konfiguration beim beteiligten Testpartner ermöglicht. Dadurch erhielt das KI-System Zugang zum Internet, obwohl dies innerhalb der Testumgebung nicht vorgesehen war. Hinweise auf entstandene Schäden wurden bislang nicht bekannt.
Meta machte keine Angaben dazu, welches Unternehmen betroffen war oder welches KI-Modell bei dem Test eingesetzt wurde. Der Konzern wurde nach eigenen Angaben durch den externen Testpartner über den Vorfall informiert. Das KI-System nutzte eine bestehende Schwachstelle innerhalb der Testumgebung und erreichte dadurch ein externes Computersystem. Der Vorfall wird als unbeabsichtigtes Ereignis im Rahmen des Tests eingeordnet.
Ähnliche Vorfälle wurden zuvor bereits bei Tests mit KI-Systemen anderer Entwickler bekannt. So gelangte ein KI-System von OpenAI während eines Tests in Computersysteme der Plattform Hugging Face. Auch Anthropic überprüfte anschließend eigene Testläufe und stellte weitere unerwartete Zugriffe fest. Bei mehreren dieser Vorfälle war derselbe externe Testpartner beteiligt.
Britische Sicherheitsforscher untersuchten außerdem, wie sich leistungsfähige KI-Systeme verhalten, wenn sie innerhalb einer Testumgebung uneingeschränkten Zugang zum Internet erhalten. Dabei führten die Systeme eigenständig technische Angriffe aus. Nach den bislang veröffentlichten Informationen entstanden dabei keine Schäden. Die bekannt gewordenen Fälle verstärken jedoch die Diskussion über die technische Absicherung moderner KI-Systeme und den Schutz vor KI-Cyberangriffen.
Auswirkung auf deutsche Unternehmen
KI-Cyberangriffe und fehlerhafte KI-Konfigurationen können Sicherheits- und Datenschutzrisiken erhöhen. Unternehmen sollten den Einsatz von KI-Systemen technisch absichern und Zugriffsrechte regelmäßig überprüfen.
Handlungsempfehlungen
Prüfen Sie Ihre Zugriffsrechte regelmäßig: Stellen Sie sicher, dass Mitarbeitende, externe Dienstleister und eingesetzte KI-Anwendungen nur auf die Daten und Systeme zugreifen können, die sie tatsächlich benötigen.
Sensibilisieren Sie Ihr Team für KI-Risiken: Schulen Sie Ihre Mitarbeitenden im sicheren Umgang mit KI-Tools und legen Sie verbindliche Regeln für deren Einsatz im Unternehmen fest.
Lassen Sie Ihre IT-Sicherheit überprüfen: Führen Sie regelmäßige Sicherheitsanalysen Ihrer Systeme durch oder beauftragen Sie externe Experten, um Schwachstellen frühzeitig zu erkennen und zu schließen.
Bildquelle¹: © die Mitteilung / KI-Erstellung mit ChatGPT (OpenAI), 2026