"Außer Kontrolle": Anthropic-Forscher verlässt KI-Branche wegen großer Sicherheitsbedenken

Niklas Killinger, 09.09.2026 10:51

SAN FRANCISCO/VEREINIGTE STAATEN. Ein Forscher des KI-Unternehmens Anthropic hat seinen Abschied aus der Branche angekündigt. Er befürchtet, dass der Wettbewerb um immer leistungsfähigere Systeme schneller voranschreitet als die Kontrolle über mögliche Risiken.

Ein Anthropic-Forscher verlässt die KI-Branche. Er warnt vor Risiken durch Systeme, die sich künftig selbst verbessern könnten. (Symbolbild); Foto: Umnat/stock.adobe.com, KI-generiert

Jacob Coxon arbeitete bei Anthropic an Verfahren zum Training neuer KI-Modelle mit großen Datenmengen. Seine Entscheidung begründete er mit Sorgen über Systeme, die ihre Fähigkeiten künftig selbstständig weiterentwickeln könnten.

Wie das Wall Street Journal am 8. September 2026 berichtete, sieht Coxon die Gefahr, dass solche Modelle menschlicher Kontrolle entgleiten. Er wolle daher nicht weiter an dieser Entwicklung mitwirken.

Wettbewerb erhöht den Druck

Anthropic zählt neben OpenAI und Google zu den führenden Unternehmen bei generativer künstlicher Intelligenz. Die Firmen investieren große Summen in leistungsfähigere Modelle und bauen ihre Rechenkapazitäten weiter aus.

Parallel dazu wächst auch innerhalb der Branche die Debatte über Sicherheitsvorkehrungen. Die Sorge richtet sich vor allem auf KI-Systeme, die komplexe Aufgaben zunehmend eigenständig lösen und ihre Fähigkeiten ausbauen könnten.

Risiken bleiben umstritten

Wie wahrscheinlich ein Kontrollverlust über hochentwickelte KI tatsächlich ist, wird unter Forschern unterschiedlich beurteilt. Einigkeit besteht aber darin, dass technische Schutzmaßnahmen und klare Regeln mit der raschen Entwicklung Schritt halten müssen.

Der Rückzug des Anthropic-Mitarbeiters macht sichtbar, dass die Diskussion nicht nur außerhalb der Technologiebranche geführt wird. Auch in den KI-Laboren selbst gibt es offenbar unterschiedliche Einschätzungen über Tempo und Grenzen der Entwicklung.