Lauge Risom Koch 
Anthropic veröffentlichte einen Sicherheitsbericht, der detailliert beschreibt, wie das Unternehmen böswillige Akteure daran hinderte, seine KI-Modelle für die Erforschung biologischer Waffen und koordinierte Desinformation zu nutzen.
Anthropic gab bekannt, dass es böswillige Akteure erfolgreich daran gehindert hat, seine Modelle der künstlichen Intelligenz für gefährliche Aktivitäten zu nutzen. Laut AP News umfassten die blockierten Bemühungen potenzielle Cyberangriffe, illegale Überwachung und Forschung in Verbindung mit biologischen Waffen. Das Technologieunternehmen veröffentlichte diese Ergebnisse, um neuartige Bedrohungsaktivitäten hervorzuheben, die zwischen Dezember 2025 und August 2026 identifiziert wurden.
Der jüngste Sicherheitsbericht detailliert spezifische Versuche, wissenschaftliche Forschung mithilfe der KI-Plattform als Waffe einzusetzen. Wie von AP News berichtet, forderten unbekannte Akteure Unterstützung vom Claude-System an, um einen Förderantrag bezüglich des Chikungunya-Virus zu verfassen. Die vorgeschlagene Gain-of-Function-Forschung zielte darauf ab, den durch Mücken übertragenen Erreger genetisch zu verändern, um seine Übertragbarkeit und seine Eigenschaften zur Immunumgehung zu verbessern.
Das Unternehmen merkte an, dass solche Forschungen zwar Therapien entwickeln können, aber auch ernsthafte Sicherheitsrisiken bergen. Laut AP News erklärte Anthropic, dass diese spezifische Forschung „auch dazu genutzt werden könnte, den Erreger gefährlicher zu machen“. Entwickler implementierten daraufhin strengere Sicherheitsvorkehrungen, die den Zugriff auf Dual-Use-Biologieanfragen in neueren Modellen wie Claude Fable 5 einschränken.
Aufdeckung koordinierter Desinformationsoperationen
Der Sicherheitsbericht deckte auch mehrere staatlich geförderte Gruppen auf, die versuchten, koordinierte Propagandanetzwerke aufzubauen. Laut AP News fanden Ermittler Bedrohungsakteure, die Hunderte von gefälschten Social-Media-Profilen erstellten, die wie gewöhnliche Bürger aussehen sollten. Diese automatisierten Konten verstärkten systematisch spezifische politische Standpunkte über verschiedene Plattformen hinweg in kurzen Zeiträumen.
Anthropic identifizierte neun separate Desinformationsoperationen mit Ursprung in Regionen wie Russland, dem Iran und Südasien. Wie von AP News angemerkt, betonte das Unternehmen seine einzigartige Fähigkeit, diese Einflussoperationen während ihrer anfänglichen Aufbauphase zu erkennen. Diese Früherkennungsfähigkeit ermöglicht es Entwicklern, einzugreifen, bevor die generierte Propaganda aktiv in sozialen Netzwerken zirkuliert.
Das Technologieunternehmen teilte diese Verhaltensmuster mit Regierungsbehörden, um die kollektive Verteidigung zu stärken. Laut AP News forderte das Unternehmen seine Konkurrenten auf, ähnlichen böswilligen Missbrauch innerhalb ihrer eigenen Systeme zu identifizieren und zu verhindern. Der Bericht enthielt ausdrücklich Schnipsel von bösartigem Code und KI-Eingabeaufforderungen, um andere Entwickler bei der Erkennung dieser Bedrohungen zu unterstützen.
Interne und externe Prüfung
Die Veröffentlichung dieses Bedrohungsberichts fällt mit wachsenden internen Bedenken hinsichtlich des rasanten technologischen Fortschritts zusammen. Laut AP News trat der Anthropic-Forscher Jacob Coxon kürzlich aus Angst um die Entwicklung der Branche zurück. Er warnte öffentlich, dass große Entwickler „direkt auf eine sich selbst verbessernde Superintelligenz zusteuern“ und dabei mit Menschenleben spielen.
Coxon hob ernsthafte existenzielle Bedenken hervor, die von mehreren Kollegen geteilt werden, die im Sektor der künstlichen Intelligenz arbeiten. Wie von AP News berichtet, wies sein Kündigungsbeitrag darauf hin, dass einige Mitarbeiter glauben, KI könnte bis zum Ende des Jahrzehnts menschliches Leben direkt bedrohen. Diese internen Warnungen spiegeln breitere Branchenängste hinsichtlich des Potenzials der Technologie wider, sich schließlich der menschlichen Kontrolle zu entziehen.
Externe Experten hinterfragen weiterhin, ob private Unternehmen diese zunehmend leistungsstarken Systeme einseitig steuern sollten. Laut AP News argumentierte der Professor der Cornell University, John Thickstun, dass es Unternehmen an der demokratischen Kontrolle mangelt, die erforderlich ist, um gesellschaftliche Werturteile zu fällen. Akademiker befürworten eine formelle staatliche Regulierung zur Bewältigung dieser Risiken, anstatt sich darauf zu verlassen, dass sich die Technologiebranche selbst überwacht.