Anthropic macht Top-KI-Modell mit Einschränkungen verfügbar
Das Ki-Modell Mythos von Anthropic fand zum Teil über Jahrzehnte unentdeckt Software-Schwachstellen. (Symbolbild) Foto: Andrej Sokolow/dpa
Mit dem KI-Modell Mythos hat der OpenAI-Konkurrent Anthropic die Tech-Branche aufgeschreckt, weil es über Jahre unentdeckte Software-Schwachstellen fand. Jetzt gibt es eine Version mit Beschränkungen.
San Francisco. Der OpenAI-Rivale Anthropic macht die Technologie hinter seinem aufsehenerregenden KI-Modell Mythos mit Einschränkungen breiter zugänglich. Bei der unter dem Namen Claude Fable 5 veröffentlichten Software wird unter anderem verhindert, dass sie sich mit Cybersicherheit und Biotechnologie beschäftigt. Vor einigen Monaten hatte das KI-Modell Mythos Preview zum Teil über Jahrzehnte unentdeckt gebliebene Schwachstellen in viel genutzter Software aufgespürt. Das löste die Sorge aus, dass Künstliche Intelligenz für verheerende Cyberangriffe verwendet werden könnte.
Zugleich bekamen Regierungsbehörden und ausgewählte Unternehmen Zugang zu Mythos Preview, um ihre Systeme gegen potenzielle Angriffe zu sichern. Dieses Programm mit dem Namen „Glasswing“ wird nun mit der nächsten Modellversion Mythos 5 fortgeführt.
Die abgesicherte Version Fable 5 ist laut Anthropic unter anderem besser als vorherige Modelle im Programmieren von Software. Die Leitplanken gegen potenziell gefährliche Nutzung seien ausgiebig getestet worden, hieß es. Anthropics Claude-Modelle sind ein scharfer Konkurrent für KI-Software des ChatGPT-Entwicklers OpenAI. Beide Unternehmen bereiten Börsengänge vor.
