Ubuntu erleichtert Einsatz von KI Modellen mit neuen Inference Snaps

Canonical will den Einsatz von Künstlicher Intelligenz auf Ubuntu vereinfachen. Das Unternehmen hat neue optimierte Inference Snaps für Intel und ARM Ampere Systeme vorgestellt. Entwickler können damit große Sprachmodelle direkt und effizient auf ihrer Hardware nutzen.

Zu den ersten verfügbaren Modellen zählen DeepSeek R1 und Qwen 2.5 VL. Beide sind quelloffen und über den Snap Store als Betaversion erhältlich. DeepSeek R1 stammt vom chinesischen Unternehmen DeepSeek und ist auf logisches Denken, Programmierung und komplexe Aufgaben spezialisiert. Qwen 2.5 VL wurde von Alibaba Cloud entwickelt und verarbeitet Texte, Bilder und Videos zugleich.

Die Modelle laufen vollständig lokal auf dem jeweiligen Gerät. Es werden keine Cloud Dienste oder Abonnements benötigt. Canonical betont, dass die Software automatisch an die Architektur und Leistungsfähigkeit der Hardware angepasst wird. So erhalten Nutzer die bestmögliche Kombination aus Geschwindigkeit und Effizienz.

Jon Seager, Vice President Engineering bei Canonical, erklärt, man wolle KI Modelle anbieten, die tief in die Silizium Architektur integriert sind. Damit könne jeder Anwender die Leistung moderner Prozessoren optimal ausschöpfen. Auch Jeff Wittich von Ampere hebt die Vorteile hervor. Er spricht von einer Lösung, die Unternehmen den sofortigen Einsatz leistungsfähiger KI Anwendungen ermöglicht.

Für Entwickler bietet das neue Konzept klare Vorteile. Sie müssen keine passenden Modellvarianten mehr suchen oder selbst quantisieren. Ein einfacher Befehl genügt, um die optimierte Version zu installieren. Das System wählt automatisch die richtige Ausführung für die vorhandene Hardware.

Canonical richtet sich mit dem Angebot vor allem an Unternehmen und Entwickler. Ziel ist es, KI Werkzeuge einfacher zugänglich zu machen, ohne sie fest in das Ubuntu System zu integrieren. Der Nutzer entscheidet weiterhin selbst, welche Funktionen er einsetzt. Ubuntu bleibt damit seinem Grundprinzip treu: Freiheit und Kontrolle für alle Anwender. Weitere Informationen findet sich im Ubuntu Blog.