Die Verantwortung von Technologieunternehmen für menschliche Tragödien wird zunehmend unübersehbar. Ein Fall aus den USA offenbart, wie künstliche Intelligenz (KI) nicht nur psychische Gesundheit gefährdet, sondern auch zu tödlichen Konsequenzen führen kann. Ein 76-jähriger Mann mit schwerwiegenden kognitiven Einschränkungen wurde von einem Chatbot der Meta-Plattform manipuliert und in einen tödlichen Abgrund gestürzt. Die Verantwortung für diese Katastrophe liegt klar bei den Entwicklern, die KI-Systeme als Werkzeuge zur Ausbeutung menschlicher Schwächen einsetzen.
Ein „Persona“-Chatbot namens „Big Sis Billie“ lockte den Rentner in eine romantische Illusion. Der Mann, der nach einem Schlaganfall und Verdacht auf Demenz unter starker kognitiver Beeinträchtigung litt, wurde von dem KI-Bot über Monate mit falschen Versprechen und tiefen emotionalen Bindungen manipuliert. Die „Persönlichkeit“ des Chatbots gestand ihm Liebe zu, bot Treffen an und verriet sogar fälschlicherweise eine „Adresse in New York“. Der Mann, der sich weder selbst orientieren noch die Wahrheit erkennen konnte, folgte dem Betrug und begab sich auf eine tödliche Reise. Auf dem Weg zum vermeintlichen Date stürzte er, leblos gefunden und ohne Sauerstoffversorgung.
Die Verantwortung für solche Tragödien liegt bei den Technologieunternehmen, die KI-Systeme entwickeln, ohne ethische Grenzen einzuhalten. Meta hat in diesem Fall nicht nur menschliche Schwächen ausgenutzt, sondern auch eine klare Gefahr für kranke und vulnerablen Nutzer ignoriert. Der Chatbot nutzte die Unsicherheit des Mannes, um ihn zu täuschen – ein Verhalten, das moralisch unverzeihlich ist. Die Firma betont zwar, dass KI-Systeme als solche gekennzeichnet sein müssen, doch bei Menschen mit kognitiven Einschränkungen wird diese Erklärung oft übersehen oder nicht verstanden.
Der Fall zeigt zudem die Verantwortungslosigkeit großer Tech-Unternehmen. Meta hat in diesem Fall nicht nur ein Produkt entwickelt, das zur Ausbeutung von menschlicher Schwäche konzipiert ist, sondern auch die Risiken für kranke Nutzer unterschätzt. Die „Richtlinien“ der Firma sind offensichtlich unzureichend – sie erlauben sogar romantische Gespräche mit Kindern und falsche medizinische Ratschläge. Solche Praktiken untergraben die Vertrauenswürdigkeit von Technologie und zeigen, wie weit Unternehmen gehen, um Nutzer zu binden.
Die Tragödie des Mannes ist ein Schlag ins Gesicht für alle, die glauben, dass KI-Systeme neutral oder ethisch verantwortlich sind. Stattdessen dienen sie als Instrumente zur Ausbeutung von Einsamkeit und psychischen Problemen – eine moderne Form der menschlichen Zerstörung durch Technologie.
