Anthropic veröffentlicht ein „nicht öffentlich gemachtes“ Mythos-Modell: Kann Zero-Day-Schwachstellen finden, wird als KI auf Waffen-Niveau im Netz bezeichnet

Anthropic bestätigt das lang erwartete Vorzeige-Modell „Claude Mythos Preview“ offiziell – doch bei diesem als das stärkste KI-Modell der Welt beschriebenen System entscheidet sich Anthropic dagegen, es der Öffentlichkeit zugänglich zu machen. Der KI-Unternehmer Matt Shumer sagte auf X offen, das Modell „liegt bereits außerhalb des Rahmens von Benchmarks“ und werde in den falschen Händen zu einer „Cyberwaffe mit Fähigkeiten für großflächige Vernichtung“. Die Reaktion des BWL-Professors Ethan Mollick fiel noch knapper aus: Ein einziges „Oh no.“ erhielt mehr als 1.300 Likes und erfasste damit die kollektive Erschütterung der gesamten KI-Community treffend.

Project Glasswing: Ein Modell, das zu stark ist, um es zu veröffentlichen

Laut den von Anthropic veröffentlichten Systemkarten (System Card) trägt das Mythos-Modell intern den Decknamen Project Glasswing. Die eindrucksvollste Fähigkeit liegt auf dem Gebiet der Cybersicherheit: Die Systemkarte zeigt, dass Mythos in der Lage ist, unabhängig Zero-Day-Schwachstellen (zero-day vulnerabilities) in gängigen Open-Source-Projekten wie OpenBSD, FFmpeg und Linux zu entdecken – das bedeutet, dass die KI bereits über Angriffsfähigkeiten verfügt, die früher nur erstklassigen Hackerteams vorbehalten waren.

Genau diese Fähigkeit veranlasste Anthropic zu einer beispiellosen Entscheidung: das Modell nicht öffentlich zu veröffentlichen. Das setzt in der KI-Industrie einen neuen Maßstab – wenn die Fähigkeiten eines Modells die Schwelle für die sichere Bereitstellung überschreiten, ist „nicht veröffentlichen“ selbst eine Produktentscheidung.

Zweiteilige Reaktionen der KI-Community

Die Meldung über Mythos löste schnell ein Feuer in der KI-Community aus. Shumers Reaktion trug eine starke Warnung in sich, sein Tweet wurde über 210k-mal aufgerufen. Die chinesische KI-Community xiaohu liefert wiederum die umfassendste technische Zusammenfassung und beschreibt im Detail die Grenzen der Mythos-Fähigkeiten sowie den Sicherheitsrahmen von Project Glasswing.

Es ist außerdem bemerkenswert, dass Mollick in einer nachfolgenden Analyse weiter herausarbeitete: Selbst bei einem so fortschrittlichen Modell wie Mythos weisen die von ihm erzeugten Romantexte weiterhin typische Schwächen des LLM-Schreibens auf – das ist eine Erinnerung daran, dass „am stärksten“ nicht gleich „allmächtig“ bedeutet und die Fähigkeiten von KI nicht gleichmäßig verteilt sind.

Was „nicht veröffentlichen“ für die Branche bedeutet

Die Tragweite des Mythos-Falls reicht weit über das Modell selbst hinaus. Er markiert den offiziellen Eintritt der KI-Industrie in eine neue Phase: Die Obergrenze der Modellfähigkeiten ist nicht mehr länger ein reines Technikproblem, sondern ein Sicherheits- und Governance-Problem. Wenn ein KI-Modell Zero-Day-Schwachstellen eigenständig entdecken kann, ist das traditionelle Muster „Training fertig, dann veröffentlichen“ offensichtlich nicht mehr anwendbar.

Für die taiwanesische Technologiebranche, die mit der Entwicklung von KI Schritt halten will, sind die Lehren aus Mythos zweischneidig: Einerseits werden die Cybersicherheitsfähigkeiten von hochaktueller KI die Angriffs- und Verteidigungslandschaft der IT-Sicherheitsbranche neu definieren; andererseits könnte „verantwortungsbewusst nicht veröffentlichen“ zum künftigen Normalfall für KI-Unternehmen werden, was die Markteinführungsstrategie und das Geschäftsmodell von KI-Produkten grundlegend verändern dürfte.

Dieser Artikel: Das von Anthropic „nicht traut sich öffentlich zu veröffentlichen“ Mythos-Modell – Zero-Days finden, als KI auf Waffen-Niveau bezeichnet – erschien frühestens in der Chain News ABMedia.