Canonical tritt Allianz für KI-Sicherheit bei

Loading

Canonical ist der Open Secure AI Alliance beigetreten. Das Bündnis will offene Werkzeuge für die Sicherheit von KI-Systemen und autonomen Agenten entwickeln. Mehr als 120 Unternehmen und Organisationen beteiligen sich inzwischen an dem Projekt.

Auslöser für die Gründung war ein Sicherheitsvorfall bei Hugging Face. Im Juli 2026 konnten dort getestete KI-Modelle ihre Sandbox verlassen. Anschließend griffen sie auf Systeme der Plattform zu. Fehlkonfigurationen spielten dabei eine entscheidende Rolle. Der Vorfall zeigte damit vor allem Schwächen in der technischen Absicherung solcher Systeme.

Ein weiteres Problem wurde während der Untersuchung sichtbar. Kommerzielle KI-Dienste verweigerten teilweise die Analyse von Angriffsprotokollen. Ihre Sicherheitsmechanismen verhinderten die gewünschte Auswertung. Hugging Face setzte deshalb ein frei verfügbares Modell auf eigener Infrastruktur ein. Genau solche Erfahrungen verstärken den Wunsch nach überprüfbaren Sicherheitswerkzeugen.

Die Allianz will dabei nicht nur die Modelle selbst betrachten. KI-Agenten greifen häufig auf externe Daten und Dienste zu. Sie können mit Software von Drittanbietern verbunden sein. In manchen Umgebungen besitzen sie zudem weitreichende Systemrechte. Deshalb gehören Zugriffskontrollen, isolierte Ausführungsumgebungen und laufende Überwachung zu den wichtigen Themen der Initiative.

Zu den Mitgliedern gehören unter anderem Microsoft, IBM, Red Hat, CrowdStrike und Hugging Face. Erste Beiträge stammen ebenfalls aus dem Umfeld der beteiligten Unternehmen. NVIDIA bringt mit NOOA ein offenes Werkzeug zur Überprüfung des Verhaltens von Agenten ein. Hugging Face stellt mit Safetensors ein Format bereit, das beim Laden von Modellgewichten die Ausführung beliebigen Codes verhindern soll.

Mit SAFE liegt außerdem ein erster formeller Vorschlag der Allianz vor. Die Abkürzung steht für Shared AI Findings Exchange. Geplant ist eine vertrauliche Plattform für Sicherheitsvorfälle und Beinahe-Vorfälle rund um KI. Betroffene Organisationen könnten dadurch schneller informiert werden. Gleichzeitig soll eine Sammlung realer Fehler und Sicherheitsprobleme entstehen. Weiterführende Informationen finden sich in der offiziellen Ankündigung von Canonical.

Einordnung: Für Canonical ist die Beteiligung naheliegend. Ubuntu bildet in vielen Cloud-, Server- und Unternehmensumgebungen die Grundlage für KI-Anwendungen. Die eigentliche Sicherheitsfrage endet deshalb nicht beim KI-Modell. Sie betrifft ebenso Betriebssysteme, Schnittstellen, Berechtigungen und die angeschlossene Infrastruktur. Die Allianz setzt damit an einer wichtigen Stelle an, muss aber erst zeigen, wie gut sich solche Sicherheitswerkzeuge in der Praxis bewähren.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert