Google zieht KI-Übersichten bei einigen medizinischen Suchanfragen stillschweigend zurück

Google hat seine KI-generierten Übersichten für eine Reihe medizinischer Suchanfragen deaktiviert, nachdem eine Untersuchung ergeben hatte, dass die Funktion irreführende — und in einigen Fällen gefährliche — Gesundheitsinformationen lieferte.

Anfang dieses Monats berichtete The Guardian, dass Googles KI-Übersichten bei gängigen gesundheitsbezogenen Suchanfragen falsche medizinische Ratschläge ausgaben. In einem von Experten als „wirklich gefährlich“ bezeichneten Beispiel empfahl die KI Menschen mit Bauchspeicheldrüsenkrebs, fettreiche Lebensmittel zu meiden — genau das Gegenteil der gängigen medizinischen Leitlinien. Ärzte warnten, dass ein solcher Rat das Sterberisiko erhöhen könne.

In einem weiteren Fall lieferte das System falsche Informationen zu Leberfunktionstests, was dazu führen konnte, dass Menschen mit schweren Lebererkrankungen ihre Ergebnisse fälschlicherweise als unauffällig einstuften.

Medizinische Suchanfragen ohne KI-Zusammenfassungen

Seit heute erscheinen bei Fragen wie „Was ist der Normalbereich für Leberbluttests?“ keine KI-Übersichten mehr. Stattdessen greift Google wieder auf klassische Suchergebnisse ohne KI-generierte Zusammenfassung zurück.

Google wollte die Änderungen gegenüber The Guardian nicht direkt kommentieren. In einer Stellungnahme gegenüber The Verge erklärte der Sprecher Davis Thompson, das Unternehmen investiere „erheblich in die Qualität von KI-Übersichten, insbesondere bei Themen wie Gesundheit“, und fügte hinzu, dass interne Mediziner die angesprochenen Beispiele geprüft hätten.

Nach Angaben von Google seien viele der beanstandeten Antworten durch „hochwertige Websites“ gestützt gewesen. Zugleich räumte das Unternehmen ein, dass KI-Übersichten den Kontext verfehlen können, und betonte, dass man bei Bedarf im Rahmen der eigenen Richtlinien eingreife.

Ein wachsendes Muster von Problemen bei KI-Suchen

Der Rückzug ist der jüngste Vorfall in einer Reihe von Kontroversen rund um Googles KI-Suchfunktionen. Seit der Einführung haben KI-Übersichten unter anderem dazu geraten, Klebstoff auf Pizza zu geben, Steine zu essen oder anderen offensichtlich unsicheren Empfehlungen zu folgen. Die Funktion wurde zudem in mehreren Klagen thematisiert.

Gesundheitsbezogene Suchanfragen sind besonders sensibel, da Nutzer Suchergebnisse häufig als autoritativ betrachten. Schon kleine Ungenauigkeiten können erhebliche Folgen haben, wenn sie medizinische Entscheidungen beeinflussen.

Vorerst scheint Google einen vorsichtigen Schritt zurückzugehen — zumindest bei bestimmten gesundheitsbezogenen Suchanfragen — während die Kritik an KI-generierten Antworten weiter zunimmt.

Quellen: The Guardian; The Verge; Google