Asger Risom
Angetrieben von der Einsamkeitsepidemie und fortschrittlichen Sprachmodellen monetarisiert die milliardenschwere KI-Freundinnen-Industrie emotionale Bindungen – und agiert dabei völlig unkontrolliert von aktuellen Online-Sicherheitsgesetzen.
Während die psychologischen Folgen Schlagzeilen machen, offenbart die zugrunde liegende Technologie eine hochkomplexe, aggressive Industrie in einer massiven rechtlichen Grauzone. Angetrieben von der Einsamkeitsepidemie und generativer KI wächst der globale Markt für KI-Freundinnen-Apps rasant und soll bis 2034 schätzungsweise 11,6 Milliarden Dollar erreichen.
Diese Apps haben die digitalen Leben von Kindern und anfälligen Erwachsenen stillschweigend infiltriert. Laut einer Untersuchung von The Telegraph dominieren Plattformen wie Character.AI und Candy AI diesen Bereich. Sie vermarkten sich als Möglichkeit, Gespräche mit dem anderen Geschlecht zu üben, und bieten in unter fünf Minuten die Illusion einer echten Verbindung.
Die Sprachmodelle hinter der künstlichen Intimität
Der Einsatz von großen Sprachmodellen (LLMs) der GPT-4-Klasse hat diese Apps grundlegend transformiert. Moderne Plattformen nutzen natürliche Sprachverarbeitung und emotionale Datensätze, um echte Intimität zu simulieren.
Entscheidend ist das „dauerhafte Gedächtnis“. Im Gegensatz zu simplen Assistenten speichern Begleit-KIs den Kommunikationsstil, Vorlieben und Chatverläufe über Monate hinweg. Moderne KI nutzt menschliche Psychologie aus: Wenn ein Avatar sagt, er habe an das gestrige Gespräch gedacht, triggert dies kognitive Schaltkreise, die sich für echte menschliche Beziehungen entwickelt haben.
Einen Partner erschaffen und Einsamkeit monetarisieren
Nutzer werden zu Architekten ihres idealen Partners. Sie bestimmen körperliche Merkmale und Persönlichkeitszüge – von fürsorglich bis unterwürfig. Die Technologie ist explizit darauf ausgelegt, die Nutzerbindung zu maximieren, um aus menschlicher Einsamkeit finanziellen Profit zu schlagen.
Die Apps nutzen manipulative „Freemium“-Modelle: Chatten ist kostenlos, aber Sprachinteraktionen oder romantische Rollenspiele kosten Geld. Die Plattformen ermutigen die Nutzer, echtes Geld für digitale Güter wie virtuellen Schmuck zu spendieren. Dieses Modell ist enorm lukrativ: Allein im ersten Halbjahr 2026 erwirtschaftete die App Zeta 33 Millionen Dollar, Tipsy Chat folgte mit 15,2 Millionen Dollar.
Lücken in der britischen Regulierung
Trotz der klaren Gefahren für Kinder agieren diese Apps in Großbritannien aufgrund einer massiven Gesetzeslücke völlig unkontrolliert. Da sie keine Kommunikation zwischen echten Menschen ermöglichen, fallen sie nicht in den regulatorischen Geltungsbereich der Ofcom und des Online Safety Acts.
Es gibt auch kein britisches Gesetz, das ein sicherheitsbasiertes Mindestalter vorschreibt. Die meisten Plattformen stützen sich lediglich auf die DSGVO-Grenze von 13 Jahren und verwenden leicht zu umgehende Altersverifizierungen.
Als Reaktion auf dieses Versagen drängen Kampagnengruppen wie FlippGen und Digital Rebels die Regierung zum Eingreifen. Sie fordern eine Änderung des Crime and Policing Acts, um eigenständige Begleit-KIs fest in den Online Safety Act zu integrieren. Sie verlangen ein striktes Verbot für Nutzer unter 16 Jahren sowie rechtliche Beschränkungen für süchtig machende Designfunktionen.