Lauge Risom Koch 
OpenAI-Leiterin für Menschenrechte Sarah Yager warnte vor der raschen militärischen Übernahme von künstlicher Intelligenz und autonomen Waffen.
Sarah Yager ist vor Kurzem als erste Leiterin für Menschenrechte und verantwortungsvollen Einsatz zu OpenAI gestoßen. Laut Fortune bringt sie 30 Jahre Erfahrung ein, um sich auf militärische Anwendungen künstlicher Intelligenz zu konzentrieren. Yager erörterte ihre tiefen Bedenken hinsichtlich der militärischen Übernahme während einer kürzlich abgehaltenen Technologiekonferenz in New York.
Die Managerin übernahm diese Position kurz nachdem das Unternehmen einen großen Regierungsauftrag erhalten hatte. Im Februar stimmte OpenAI zu, fortschrittliche Systeme für das Kriegsministerium in geschützten Umgebungen einzusetzen. Diese Vereinbarung folgte auf einen aufsehenerregenden Streit zwischen Militärbeamten und dem konkurrierenden Entwickler Anthropic.
Yager zögerte zunächst, die Position anzunehmen, da sie befürchtete, ein einflussloses Aushängeschild zu werden. Sie schloss sich der Organisation schließlich an, um Einfluss darauf zu nehmen, wie Entwickler diese Technologien bauen und einsetzen. Militärs weltweit integrieren künstliche Intelligenz derzeit in autonome Waffen und gezielte Drohnensysteme.
Modelltests und rechtliche Rahmenbedingungen
Seit ihrem Eintritt in das Unternehmen hat Yager direkt mit Ingenieuren zusammengearbeitet, um die Sicherheitsbarrieren des Systems zu verbessern. Sie lud internationale Experten ein, die digitalen Modelle anhand von Prompts für hochbrisante militärische Einsätze zu testen. Entwickler passten die Software anschließend an, um sicherzustellen, dass die Antworten mit etablierten internationalen humanitären Gesetzen übereinstimmen.
Yager betont, dass Entwickler Modelle so programmieren müssen, dass sie die Genfer Konventionen von 1949 respektieren. Sie argumentiert, dass Technologieunternehmen nicht versuchen sollten, die grundlegende menschliche Moral oder gesellschaftliche Werte neu zu definieren. Bestehende Menschenrechtsrahmen müssen als absolute Grundlage für jede Entwicklung künstlicher Intelligenz dienen.
Die Führungskraft sprach auch laufende Debatten im Silicon Valley darüber an, ob digitale Agenten gesetzliche Rechte verdienen. Yager wies dieses Konzept entschieden zurück und forderte gleichzeitig, dass sich die Branche wieder vollständig auf die Menschenrechte konzentriert. Sie räumte ein, dass die Gesellschaft letztendlich bestimmen muss, wie sich autonome Agenten in bestehende Arbeitsstrukturen einfügen.
Branchendemografie und staatliche Aufsicht
Yager äußerte Bedenken hinsichtlich der isolierten demografischen Gruppen, die derzeit grundlegende Systeme der künstlichen Intelligenz entwickeln. Sie hob einen kürzlich abgehaltenen Sicherheitsgipfel in Washington hervor, bei dem fast alle teilnehmenden Technologie-Manager Männer waren. Dieser Mangel an Vielfalt bleibt problematisch, da künstliche Intelligenz die globalen Machtstrukturen grundlegend verschiebt.
Die rasche staatliche Übernahme dieser Technologien erfordert strikte Rechenschafts- und Aufsichtsmechanismen. Yager unterstützt derzeit bundesstaatliche Aufsichtsbehörden beim Aufbau von Instrumenten zur Überwachung der staatlichen Nutzung künstlicher Intelligenz. Zu den Behörden, die diese Überwachungsinstrumente nutzen, gehören das Government Accountability Office und das Office of Inspector General.
Die Entwicklung dieser robusten Rechenschaftsmechanismen bleibt eine wesentliche Voraussetzung für die Bewahrung demokratischer Institutionen. Die Führungskraft warnte davor, dass es Chaos schaffen würde, wenn man der Technologiebranche die Festlegung moralischer Standards überließe. Sie setzt sich weiterhin dafür ein, dass die Entwicklung künstlicher Intelligenz der menschlichen Sicherheit Vorrang vor einem unkontrollierten Einsatz einräumt.