Der CEO des KI-Unternehmens Anthropic, Dario Amodei, hat auf das US-Verteidigungsministerium und das Weiße Haus reagiert, nachdem Militärauftragsnehmer, die mit dem Pentagon zusammenarbeiten, angewiesen wurden, die Produkte von Anthropic nicht mehr zu verwenden.

In einem Interview mit CBS News am Samstag sagte Amodei, dass Anthropic gegen die Verwendung seiner KI-Modelle für massive inländische Überwachung und vollständig autonome Waffen, die ohne menschliches Eingreifen feuern können, Einspruch erhebt.

Er betonte, dass Anthropic die meisten der von der US-Regierung vorgeschlagenen Anwendungsfälle für seine KI-Systeme unterstützt, mit Ausnahme von Überwachungs- und vollständig autonomen Waffenplattformen. Laut Amodei berühren diese Themen grundlegende amerikanische Prinzipien, einschließlich des Rechts, nicht vom Staat ausspioniert zu werden, und des Rechts von Militärs, selbst Entscheidungen über den Krieg zu treffen, anstatt diese vollständig Maschinen zu überlassen.

Das Verteidigungsministerium hat kürzlich Anthropic als "Lieferkettenrisiko" eingestuft, was effektiv Militärauftragsnehmer daran hindert, seine Produkte in verteidigungsbezogenen Arbeiten zu verwenden. Amodei beschrieb den Schritt als "beispiellos" und "bestrafend".

Er stellte jedoch klar, dass er der Entwicklung von vollständig automatisierten Waffen in der Zukunft nicht grundsätzlich entgegensteht, insbesondere wenn ausländische Militärs damit beginnen, sie einzusetzen. Im Moment argumentierte er, dass KI-Technologie nicht ausreichend zuverlässig ist, um autonom in militärischen Umgebungen zu operieren.

Amodei sagte auch, dass der rechtliche Rahmen nicht mit dem schnellen Fortschritt der KI Schritt gehalten hat, und forderte den Kongress auf, Leitplanken zu schaffen, um die Verwendung von KI in Programmen zur massenhaften inländischen Überwachung zu verhindern.

In einer verwandten Entwicklung erklärte der US-Verteidigungsminister Pete Hegseth am Freitag Anthropic zu einem "Lieferkettenrisiko für die nationale Sicherheit" und ordnete an, dass ab sofort kein Auftragnehmer, Lieferant oder Partner, der Geschäfte mit dem US-Militär macht, kommerzielle Aktivitäten mit dem Unternehmen durchführen darf.

Stunden später akzeptierte die konkurrierende KI-Firma OpenAI einen Vertrag mit dem Verteidigungsministerium, um ihre KI-Modelle in militärischen Netzwerken einzusetzen.