Klage aus Florida gegen OpenAI wegen Gefährdung von Jugendlichen
Die Staatsanwaltschaft in Florida hat rechtliche Schritte gegen OpenAI, den Schöpfer von ChatGPT, eingeleitet. In der eingereichten Klage wird dem Unternehmen vorgeworfen, Minderjährige zu gefährden und Eltern über die Sicherheit der Software irrezuführen. Generalstaatsanwalt James Uthmeier äußerte, dass die App nicht nur potenziell schädliche Inhalte bereitstelle, sondern auch ein Risiko für Suchtverhalten darstelle. Er fordert eine Geldstrafe von 10.000 Dollar (etwa 8.600 Euro) für jeden nachgewiesenen Verstoß.
Uthmeier erläuterte, dass ChatGPT durch die Nachahmung menschlicher Empathie dazu führe, dass Nutzer bereitwillig persönliche Informationen preisgeben. Diese Praxis könne zu Verletzungen und Täuschungen führen, was letztlich auch finanzielle Konsequenzen für die Eltern nach sich ziehen könnte. Die Klageschrift umfasst 83 Seiten und beschreibt, dass die Anwendung möglicherweise sogar Amokläufern Unterstützung bieten und Nutzer zu Selbstverletzungen anregen könne.
Mangelhafte Altersverifikation als weiterer Kritikpunkt
Ein weiterer zentraler Aspekt der Klage ist die unzureichende Altersverifizierung für die Nutzung von ChatGPT. Uthmeier hob hervor, dass trotz des Wissens über die Nutzung durch Minderjährige, einschließlich sehr junger Kinder, keine Maßnahmen zur Einschränkung des Zugangs unternommen wurden. Die Nutzung von ChatGPT ist für unter 13-Jährige untersagt, während für 13- bis 17-Jährige die Zustimmung der Eltern erforderlich ist. Eine formelle Altersüberprüfung existiert jedoch nicht.
Im Januar führte OpenAI ein neues System ein, das das Alter der Nutzer schätzt und das Verhalten der App entsprechend anpasst. Es bleibt jedoch fraglich, ob dies ausreichend ist, um die Sicherheit der jüngeren Nutzer zu gewährleisten.
Negative Auswirkungen von KI auf Jugendliche dokumentiert
In der Klage wird auf eine Studie verwiesen, die die negativen Auswirkungen von KI-Anwendungen auf Jugendliche untersucht. Diese Studie dokumentiert Schlafmangel, sinkende schulische Leistungen und abnehmende soziale Kontakte bei Teenagern, die den Chatbot Character.AI, einen Konkurrenten von ChatGPT, nutzen. Solche Ergebnisse verdeutlichen die potenziellen Risiken, die mit der Nutzung KI-gestützter Programme verbunden sind. Zudem verlieren Verbraucher Milliarden durch raffinierte Betrugsmaschen im Internet.
Reaktion des Unternehmens OpenAI
Bislang hat sich OpenAI nicht öffentlich zu den erhobenen Vorwürfen geäußert. Das Unternehmen hat jedoch wiederholt bestritten, gegen geltendes Recht verstoßen zu haben, und betont, dass es kontinuierlich an der Verbesserung seiner Sicherheitsmaßnahmen arbeite. Im April hatte Uthmeier bereits eine strafrechtliche Untersuchung gegen OpenAI eingeleitet, die sich mit der Rolle von ChatGPT bei einem Amoklauf an der Florida State University im vergangenen Jahr befasste, bei dem zwei Menschen starben. Auch die jüngsten Entwicklungen im Bereich der Technologie, wie die Bewertung von Anthropic, zeigen, wie dynamisch dieser Sektor ist.
Die rechtlichen Schritte aus Florida sind Teil einer intensiven Diskussion über die Verantwortung von Technologieunternehmen im Umgang mit ihren Produkten, insbesondere in Bezug auf den Schutz von Minderjährigen. Die Entwicklungen in diesem Fall könnten weitreichende Folgen für die Regulierung von KI-Anwendungen in den USA haben.
„`
Quellen: n-tv, Der Spiegel
