Silicon Valleys KI-Vision wirft Fragen über die Zukunft der Menschheit auf

Künstliche Intelligenz wird häufig als praktische Revolution vermarktet. Unternehmen versprechen schnellere Forschung, bessere Software, Fortschritte in der Medizin und Systeme, die repetitive Arbeiten übernehmen können.

Doch hinter einigen der lautesten Versprechen verbirgt sich ein weitaus ungewöhnlicheres Ziel. In Teilen des Silicon Valley wird KI nicht nur als Technologie betrachtet, sondern als Weg, das Menschsein selbst zu verändern.

Wir könnten auf eine Zukunft zusteuern, in der Tech-Führungskräfte, Investoren und Theoretiker sich Welten vorstellen, in denen Menschen mit Maschinen verschmelzen, biologische Grenzen überwinden oder dabei helfen, eine nachfolgende Intelligenz zu erschaffen, schreibt der Journalist Eduardo Porter in einem Meinungsbeitrag für The Guardian.

Sam Altman, CEO von OpenAI, dem Unternehmen hinter ChatGPT, erklärte, Menschen könnten die erste Spezies sein, „die ihre eigenen Nachkommen entwirft“. Altman hat wiederholt darüber gesprochen, dass künstliche Intelligenz eines Tages menschliche Fähigkeiten übertreffen und die Zivilisation grundlegend verändern könnte.

Elon Musk bezeichnete die Menschheit als „einen biologischen Bootloader für digitale Superintelligenz“ und deutete damit an, dass Menschen letztlich lediglich eine Übergangsphase in der Entwicklung fortschrittlicherer Maschinenintelligenz darstellen könnten.

Der Traum ist nicht nur digital

Die Sprache mag fern und unrealistisch wirken, voller Vorstellungen von hochgeladenem Bewusstsein, Superintelligenz und Zivilisationen, die sich über die Erde hinaus ausbreiten.

Doch die Menschen, die solche Ideen vertreten, sind keine Randgestalten. Sie führen Unternehmen, beeinflussen Märkte und nehmen Einfluss auf Regierungen.

Ihre Visionen unterscheiden sich. Einige konzentrieren sich auf Gehirn-Computer-Schnittstellen. Andere sprechen von digitalem Bewusstsein, Besiedlung des Weltraums oder künstlichen Intelligenzen, die menschliche Grenzen hinter sich lassen.

Gemeinsam ist diesen Ideen die Annahme, dass das gewöhnliche menschliche Leben nicht das Endstadium darstellt. Der Körper wird zu einer Plattform, die verbessert, ersetzt oder hinter sich gelassen werden kann.

Deshalb geht die Debatte weit über Software hinaus. Sie stellt die Frage, ob die nächste Entwicklungsstufe der Technologie den Bedürfnissen der Menschen dienen soll – oder ob Menschen zu Rohmaterial für eine Zukunft werden, die von einer kleinen Elite bestimmt wird.

Die Kosten zeigen sich bereits vor Ort

Eduardo Porter argumentiert, dass diese Ambitionen keine harmlosen Fantasien sind. Sie tragen dazu bei, einen technologischen Wettlauf zu rechtfertigen, der bereits heute Land, Strom, Wasser, Geld und politische Aufmerksamkeit verbraucht.

Die Auswirkungen zeigen sich in lokalen Auseinandersetzungen um Rechenzentren. Im kalifornischen Coachella protestierten Anwohner gegen den von Stronghold Power Systems vorgeschlagenen Coachella Valley Technology Campus, ein rund 180 Hektar großes Projekt mit bis zu sechs großen Rechenzentren.

Kommunalpolitiker erwogen einen Entwicklungsstopp, nachdem Bedenken hinsichtlich Wasserverbrauch, Umweltverschmutzung, Energiebedarf sowie der Nähe zu Wohngebieten und Schulen geäußert worden waren, berichtet Business Insider.

Der Traum mag zu den Sternen weisen, doch die Belastungen könnten sich zunächst in Form von Planungsstreitigkeiten, einer Überlastung des Stromnetzes oder Konflikten um die Wassernutzung bemerkbar machen.

Porters Sorge ist, dass Zukunftsversprechen die heutigen Zielkonflikte unbedeutend erscheinen lassen. Wenn das Ziel darin besteht, eine posthumane künstliche Intelligenz zu erschaffen, könnten Einwände von Arbeitnehmern, Anwohnern oder Aufsichtsbehörden lediglich als Hindernisse betrachtet werden.

Ein Glaubenssystem entsteht

Porter bringt die Ambitionen der KI-Elite mit Transhumanismus, Longtermismus, effektivem Altruismus und Akzelerationismus in Verbindung. Diese Denkrichtungen sind nicht identisch, lenken die Aufmerksamkeit jedoch häufig auf gewaltige Zukunftsmöglichkeiten statt auf gegenwärtige Verpflichtungen.

Der Ökonom Daron Acemoglu warnte in einem Interview mit Business Insider:

„Die Handvoll Menschen, die diese Technologie auf die Welt loslassen, wird von einer Ideologie der Kontrolle (über die Menschheit) und von der Überzeugung geleitet, dass Maschinen den Menschen grundsätzlich überlegen sind.“

Die Frage ist nicht nur, ob KI leistungsfähiger wird. Es geht auch darum, ob ihre Entwickler gewöhnliche Menschen als die eigentlichen Nutznießer betrachten – oder lediglich als vorübergehende Figuren in einer größeren, maschinenzentrierten Geschichte.

In seiner Kolumne beschreibt Porter Teile des Silicon Valley zudem als eine Suche nach Sinn durch Technologie. An die Stelle traditioneller Erlösung treten Größe, Intelligenz, Expansion und die Flucht vor den Grenzen des menschlichen Körpers.

Selbst Insider wirken unsicher

Porter verweist außerdem auf eine Warnung des Anthropic-Mitgründers Dario Amodei, der erklärte: „Wir verstehen nicht, wie unsere eigenen KI-Schöpfungen funktionieren“, und diesen Mangel an Verständnis als „im Wesentlichen beispiellos in der Geschichte der Technologie“ bezeichnete.

Dieses Eingeständnis ist bedeutsam. KI-Systeme halten Einzug in Büros, Schulen, Behörden, Sicherheitsdienste und militärische Planungsprozesse, während selbst Experten erhebliche Wissenslücken einräumen.

Die Frage lautet nicht, ob Innovation gestoppt werden sollte. Sie lautet vielmehr, ob Systeme mit weitreichenden gesellschaftlichen Auswirkungen hauptsächlich von Führungskräften, Investoren und Ingenieuren mit begrenzter demokratischer Kontrolle gestaltet werden sollten.

Die Öffentlichkeit hat weiterhin ein Mitspracherecht

KI kann echte Vorteile in Bereichen wie Medizin, Barrierefreiheit, Logistik und wissenschaftlicher Forschung bringen. Diese Chancen sollten nicht ignoriert werden.

Doch mögliche Vorteile beantworten nicht die Machtfrage.

Wer bezahlt die Infrastruktur?

Wer trägt das Risiko?

Wer darf mitentscheiden, wenn ein Projekt Arbeitsplätze, Schulen, Energiepreise oder lokale Ressourcen betrifft?

Die Gefahr besteht nicht nur darin, dass die kühnsten Träume des Silicon Valley scheitern könnten. Sie besteht auch darin, dass die Jagd nach diesen Zielen die Gesellschaft nach den Prioritäten jener umgestaltet, die wohlhabend genug sind, sie zu verfolgen.

Eine kleine Gruppe von Tech-Führungskräften baut nicht nur Maschinen. Sie versucht auch festzulegen, was die Menschheit werden soll. Diese Entscheidung ist zu bedeutend, um sie denjenigen zu überlassen, die am meisten von ihr profitieren könnten.

Quellen: Meinungsbeitrag von Eduardo Porter in The Guardian, Business Insider, darioamodei.com