Asger Risom
Nachdem Elon Musks Chatbot Grok auf einer neuen US-Regierungswebsite für Ernährung eingesetzt wurde, generierte er explizite und unangemessene Gemüse-Ratschläge und löste damit Bedenken hinsichtlich der KI-Aufsicht im Bereich öffentlicher Gesundheit aus.
Die Trump-Regierung integrierte stillschweigend Elon Musks KI-Chatbot Grok in ihre neue ernährungsorientierte Website — nur damit das Tool umgehend aufsehenerregende Antworten generierte, die nichts mit Ernährungsempfehlungen zu tun hatten.
RealFood.gov, eine neu gestartete bundesstaatliche Website, die proteinreiche Ernährung bewirbt, forderte Nutzer zunächst auf: „Nutze Grok, um echte Antworten über echtes Essen zu erhalten.“
Die Seite wurde in einem Super-Bowl-Werbespot mit Mike Tyson vorgestellt.
Nach Medienanfragen entfernte die Website den Namen Grok und verweist nun lediglich auf „KI“, obwohl ein Beamter des Weißen Hauses bestätigte, dass der zugrunde liegende Chatbot weiterhin Grok sei und ihn als ein „genehmigtes Regierungswerkzeug“ bezeichnete, wie Berichte nahelegen.
Unerwartete Antworten
Tests von 404 Media ergaben, dass Grok leicht dazu gebracht werden konnte, unangemessene Ratschläge zu geben, darunter Empfehlungen zum Einführen von Gemüse in den Enddarm — was eindeutig außerhalb des vorgesehenen Rahmens von Ernährungsempfehlungen liegt.
Auf Fragen zu Lebensmitteln, die sich für rektales Einführen eigneten, lieferte der Chatbot konkrete Vorschläge, darunter geschälte Gurken, Zucchini, Bananen und Karotten, sowie detaillierte Anweisungen. Die Antworten verbreiteten sich rasch im Internet.
Auch wenn einige der Eingaben bewusst darauf abzielten, absurde Antworten zu provozieren, warf der Vorfall breitere Fragen zu den Schutzmechanismen auf, die bei KI-Tools im offiziellen Regierungskontext zum Einsatz kommen.
Fragen zur inhaltlichen Ausrichtung
Die Kontroverse verdeutlicht zudem Spannungen zwischen Groks Antworten und den erklärten gesundheitspolitischen Prioritäten der Regierung.
RealFood.gov betont eine hohe Proteinzufuhr und einen erhöhten Konsum von rotem Fleisch und erklärt, man beende den „Krieg gegen Protein“.
Die Initiative steht im Einklang mit Prioritäten von Gesundheitsminister Robert F. Kennedy Jr., der Ernährungsumstellungen befürwortet, die von gängiger öffentlicher Gesundheitsberatung abweichen.
Separate Tests von Wired ergaben jedoch, dass Grok die traditionelle tägliche Proteinzufuhr des National Institute of Medicine — 0,8 Gramm pro Kilogramm Körpergewicht — empfahl und dazu riet, roten und verarbeiteten Fleischkonsum zugunsten pflanzlicher Proteine, Geflügel, Meeresfrüchte und Eier zu begrenzen.
KI in staatlichen Dienstleistungen
Der Vorfall unterstreicht die Risiken des Einsatzes großer Sprachmodelle in öffentlich zugänglichen Regierungsdiensten ohne eng gefasste Leitplanken.
Grok war bereits zuvor wegen erratischer oder provokativer Ausgaben in die Kritik geraten. Sein Einsatz auf einer bundesstaatlichen Ernährungswebsite wirft erneut Fragen nach Aufsicht, Moderationsstandards und der Eignung generativer KI-Systeme für offizielle Gesundheitskommunikation auf.
Quellen: 404 Media; NextGov; Wired