Anthropic-Mitgründer und CEO Dario Amodei sagte US-Gesetzgebern, dass die Entwicklung von Open-Source-KI in eine Phase übergehe, die er als „sehr gefährlichen Weg“ bezeichnete. Er warnte, dass die Veröffentlichung hochleistungsfähiger KI-Modelle als Open Source die Aufsicht darüber verringern kann, wie sie eingesetzt werden.

Laut Odaily sagte Amodei, dass Entwickler möglicherweise die effektive Kontrolle über ihren Einsatz verlieren, sobald leistungsstarke KI-Modelle in Open-Source-Form veröffentlicht werden. Dazu gehöre auch die Fähigkeit, Missbrauch zu überwachen, den Zugriff zu entziehen oder Sicherheitsvorkehrungen dynamisch zu aktualisieren.

Er fügte hinzu, dass im Vergleich zu geschlossenen Modell-Systemen vollständig offene Modelle schwieriger unter laufender Sicherheitsaufsicht zu verwalten seien und Risiken für einen missbräuchlichen Einsatz schaffen könnten, die sich nur schwer rückgängig machen lassen.