Kenneth Glad
Menschen nutzen neue Technologien, um den Alltag zu erleichtern, und verlassen sich bei täglichen Aufgaben auf digitale Assistenten. Doch eine Maschine wie ein privates Tagebuch zu behandeln, birgt hohe und versteckte Kosten.
Die Eingabe sensibler Daten in ein Chatfenster ist äußerst gefährlich. Nutzer teilen oft Passwörter oder Passdaten, ohne zu merken, dass diese Plattformen alles dauerhaft speichern. Laut einem Bericht von RBC-Ukraine zeigte eine technische Panne im letzten Sommer, wie fragil diese digitale Privatsphäre wirklich ist.
Tausende persönliche Gespräche tauchten plötzlich in gewöhnlichen Google-Suchergebnissen auf. Eine kürzliche Urheberrechtsklage zwang OpenAI zudem, alle Nutzerinteraktionen zu speichern. Selbst Nachrichten, die Sie löschen, könnten letztendlich in die Hände Dritter gelangen.
Firmengeheimnisse enthüllt
Künstliche Intelligenz ins Büro zu bringen, kann Ihre Karriere ruinieren. Die Übergabe von Unternehmensdateien oder Softwarecode an einen externen Server gefährdet die Geschäftssicherheit. Ein ehemaliger Leiter der US-amerikanischen Cybersecurity and Infrastructure Security Agency musste dies schnell lernen.
RBC-Ukraine berichtet, dass er Dokumente, die als „nur für den offiziellen Gebrauch“ gekennzeichnet waren, auf eine öffentliche Plattform hochgeladen habe. Samsung stand vor einer ähnlichen Krise, als seine Mitarbeiter proprietäre Software in einen Bot einspeisten, was eine massive Sicherheitsbedrohung auslöste. Diese Datenpanne veranlasste den Technologiegiganten, generative Modelle vollständig zu blockieren.
Gefährliche Gesundheitsratschläge
Einen Algorithmus um medizinische oder psychologische Hilfe zu bitten, birgt reale physische Gefahren. Im Gegensatz zu menschlichen Ärzten arbeiten diese Plattformen ohne strenge Vertraulichkeitsregeln. Ein Nutzer landete fast einen Monat lang im Krankenhaus.
Die Software hatte dem älteren Mann geraten, toxisches Natriumbromid anstelle von gewöhnlichem Speisesalz zu konsumieren. Anfragen zur psychischen Gesundheit sind gleichermaßen riskant. Eine Studie der Northeastern University ergab, dass digitale Sicherheitsnetze häufig offensichtliche Anzeichen von Essstörungen oder Manie ignorieren.
Die Folgen können verheerend sein. Nachdem ein Teenager Suizid begangen hatte, verklagten seine Eltern OpenAI, weil das Unternehmen angeblich seinen mentalen Zustand verschlechtert habe. Mehrere US-Bundesstaaten haben Chatbots inzwischen gesetzlich untersagt, als Therapeuten zu agieren.
Das Gesetz erfinden
Für die Gerichtsvorbereitung auf Algorithmen zurückzugreifen, ist eine schlechte Idee. Diese Systeme erfinden routinemäßig aus dem Nichts gefälschte Gesetze und imaginäre Rechtspräzedenzfälle. Der Forscher Damien Charlotin identifizierte mehr als 2.000 weltweite Gerichtsurteile, die durch künstliche Intelligenz verfälscht wurden.
Verärgerte Richter verhängen Bußgelder gegen Hunderte von Anwälten und Einzelpersonen, die diese fabrizierten Argumente einreichen. Schließlich ist nichts, was in einen Prompt eingegeben wird, durch das Anwaltsgeheimnis geschützt.
Wenn Sie mit einer Klage konfrontiert werden, kann die Gegenseite rechtlich verlangen, Ihren genauen Chatverlauf zu lesen.
Quellen: RBC-Ukraine, Northeastern University, Damien Charlotin.