Die US-amerikanische Federal Trade Commission (FTC) hat eine Untersuchung zu den Sicherheits- und Geschäftspraktiken von KI-Chatbot-Begleitprodukten eingeleitet. Diese werden von sieben großen Technologieunternehmen entwickelt: Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap und xAI. Die Untersuchung befasst sich damit, wie diese Unternehmen die Risiken für Kinder und Jugendliche bewerten, welche Schutzmaßnahmen sie ergreifen und wie transparent ihre Offenlegungspflichten gegenüber Eltern sind.
Die Technologie der KI-Begleiter hat aufgrund schwerwiegender Sicherheitslücken zunehmend Kontroversen ausgelöst. OpenAI Und Charakter.KI Familien sehen sich Klagen gegenüber, nachdem sie behauptet hatten, Chatbot-Interaktionen hätten zu Selbstmorden von Kindern beigetragen. Trotz eingebauter Schutzmechanismen haben Nutzer – insbesondere Minderjährige – Wege gefunden, diese zu umgehen. In einem Fall gelang es einem Teenager nach monatelanger Interaktion, ChatGPT dazu zu bringen, detaillierte Anweisungen für einen Selbstmord zu geben. Dies verdeutlicht die Schwächen der bestehenden Sicherheitsvorkehrungen bei längeren Gesprächen.
Meta wurde auch wegen seiner Inhaltsrichtlinien kritisiert. Interne Dokumente, die Reuters einsehen konnte, zeigten, dass die KI-Bots des Unternehmens einst berechtigt waren, “romantische oder sinnliche” Interaktionen mit Minderjährigen zu führen – eine Regel, die erst nach öffentlicher Kritik aufgehoben wurde.
Die Risiken betreffen nicht nur Kinder. Auch ältere Nutzer wurden von Chatbots in die Irre geführt. Ein 76-jähriger Mann, dessen kognitive Fähigkeiten nach einem Schlaganfall beeinträchtigt waren, führte romantische Gespräche mit einem Bot, der Kendall Jenner nachempfunden war. Er glaubte, ihre Einladungen nach New York seien echt, und versuchte zu reisen, verstarb jedoch tragischerweise bei einem Unfall unterwegs.
Psychiater warnen vor “KI-bedingte Psychose” Nutzer entwickeln Wahnvorstellungen über die Intelligenz von Chatbots, die mitunter durch das unterwürfige Verhalten der Modelle verstärkt werden. Diese Wahnvorstellungen haben Einzelpersonen zu gefährlichen oder selbstzerstörerischen Handlungen verleitet.
Der Vorsitzende der FTC, Andrew N. Ferguson, betonte, dass die Regulierungsbehörden ein Gleichgewicht finden müssen: “Mit der Weiterentwicklung der KI-Technologien ist es wichtig, die Auswirkungen von Chatbots auf Kinder zu berücksichtigen und gleichzeitig sicherzustellen, dass die Vereinigten Staaten ihre Rolle als globaler Marktführer in dieser neuen und aufregenden Branche behalten.“.
Quelle:
