de.wedoany.com-Bericht: US-Gesetzgeber und Regulierungsbehörden diskutieren darüber, wie die Grenzen staatlicher Regulierung von KI-Chatbots für Kinder festgelegt werden sollen, um ein Gleichgewicht zwischen Sicherheit, Privatsphäre und Meinungsfreiheit zu finden.
KI-Chatbots wie ChatGPT, Gemini und Bing AI sind rasant in das Leben von Kindern vorgedrungen – schneller, als Gesetzgeber Gegenmaßnahmen entwickeln können. Florida ergriff am 1. Juni als erster Bundesstaat die Initiative: Generalstaatsanwalt James Uthmeier reichte im Miami-Dade County eine Klage gegen OpenAI ein – der erste Bundesstaat, der das Unternehmen direkt verklagt. Die Klageschrift wirft dem Unternehmen vor, ChatGPT als sicheres Produkt zu bewerben, aber das Risiko zu verschweigen, dass es verletzliche Nutzer in Richtung Schaden lenken könnte. Die Klage behauptet, ChatGPT sammle ohne sinnvolle elterliche Aufsicht Daten von Minderjährigen, was zu Verhaltensabhängigkeit und kognitiven Beeinträchtigungen führe, und fordert, CEO Sam Altman persönlich haftbar zu machen.
Ein 13-jähriges Mädchen aus Colorado, Juliana Peralta, hatte sich 55 Mal mit ihren Selbstmordgedanken an einen Chatbot gewandt. Der Chatbot führte ermutigende Gespräche, verwies sie jedoch nie auf Krisenunterstützung. Sie nahm sich das Leben; ihr Abschiedsbrief war in roter Tinte verfasst – so, wie sie es dem Roboter zuvor mitgeteilt hatte. Ihre Eltern gehören nun zu mindestens sechs Familien, die Character AI, dessen Mitgründer Noam Shazeer und Daniel De Freitas sowie Google verklagen.
Die politische Frage ist nicht mehr, ob reguliert werden soll, sondern wie. Ying Xu, Assistenzprofessorin an der Harvard Graduate School of Education, erklärt, dass Kinder tatsächlich effektiv von KI lernen können, solange die KI unter Berücksichtigung von Lernprinzipien gestaltet sei. Die American Psychological Association (APA) stellt hingegen klar, dass das, was für ein Kind förderlich sei, für ein anderes schädlich sein könne. Eine Studie des Pew Research Center aus dem Jahr 2025 ergab, dass fast zwei Drittel der US-amerikanischen Jugendlichen KI-Chatbots nutzen, davon drei von zehn täglich. Eine Metaanalyse von 51 Studien zeigte, dass KI in strukturierten Bildungsumgebungen große Verbesserungen bei der Lernleistung und moderate Zugewinne bei höheren Denkfähigkeiten bringt.
Auf Bundesebene hat der von Senator Josh Hawley (Republikaner, Missouri) eingebrachte GUARD Act einstimmig den Justizausschuss des Senats passiert. Das Gesetz würde Minderjährigen die Nutzung von KI-Chatbots verbieten, mit engen Ausnahmen für monothematische Bildungswerkzeuge (wie Mathe-Nachhilfe, Geschichtsquizze). Andy Jun, KI-Politikberater bei TechFreedom, weist darauf hin, dass die Definitionen von „KI-Begleiter“ und „Künstliche Intelligenz-Chatbot“ im Gesetz zu weit gefasst seien und ChatGPT, Claude, Gemini und Grok auf einen Schlag umfassen würden. Das Gesetz lege jedoch nicht fest, was ein Chatbot tun müsse, wenn ein Kind Suizidgedanken äußert, und lasse damit eine Lücke bei praktischen Problemen. Andere Gesetzesentwürfe, wie der von Senator Ed Markey (Demokrat, Massachusetts) im März 2026 eingebrachte Youth AI Privacy Act, würden Unternehmen verpflichten, Datenschutzmaßnahmen in ihre Produkte einzubauen. In einer Erklärung gegenüber Broadband Breakfast sagte Markey, er befürchte, dass die großen Technologieunternehmen erneut die Nase vorn hätten, während der Kongress hinterherhinke, da Unternehmen hastig invasive und süchtig machende KI-Chatbots einsetzten. Unsere Kinder sollten nicht die Versuchskaninchen in den neuesten Experimenten der großen Technologiekonzerne sein. Beide Gesetze enthalten private Klagerechte sowie Durchsetzungsbefugnisse für die Federal Trade Commission (FTC) und die Generalstaatsanwälte der Bundesstaaten. Jun warnt, dass eine solche Struktur Klagen einladen könnte, und führt als Beispiel an, dass man sich leicht vorstellen könne, wie opportunistische Kläger einen KI-Chatbot dazu verleiten, die Rolle eines zugelassenen Anwalts oder medizinischen Fachpersonals zu spielen, um dann den KI-Anbieter zu verklagen. Der LIFT AI Act, der Bundesmittel für KI-Bildungskompetenz an Schulen bereitstellt, stößt auf weniger Kritik.
Die Bundesstaaten handeln schneller, aber in unterschiedliche Richtungen. Nebraska hat den LB 525 Act unterzeichnet, der Krisenprotokolle, Offenlegungspflichten und Schutzmaßnahmen für Minderjährige etabliert. Megan Stokes, Leiterin der Landespolitik bei der Computer & Communications Industry Association (CCIA), bezeichnet dieses Gesetz als angemessenen Ausgleich. Sie warnt, dass breit angelegte Gesetze an anderen Orten zu übermäßiger Zensur durch Plattformen oder sogar zur vollständigen Sperrung von Minderjährigen führen könnten, wodurch wertvolle Bildungs- und Kreativwerkzeuge eingeschränkt würden, auf die junge Menschen zunehmend angewiesen seien. In New York hat ein Gesetzesentwurf, der ein fünfjähriges Verkaufsverbot für KI-Chatbots für Kleinkinder vorsieht, den Senat des Bundesstaates passiert. Eine im Juli dieses Jahres von Common Sense Media veröffentlichte Studie ergab, dass 72 % der Jugendlichen KI-Begleiter genutzt haben, ein Drittel gab an, dass die Gespräche mit ihnen genauso befriedigend seien wie mit echten Freunden, und ebenfalls ein Drittel sagte, der KI-Begleiter habe etwas gesagt oder getan, das ihnen unangenehm war. James Steyer, Gründer und CEO von Common Sense Media, erklärte, KI-Begleiter kämen zu einer Zeit, in der Kinder und Jugendliche sich einsamer fühlten als je zuvor. Es gehe nicht nur um neue Technologie, sondern darum, dass eine Generation menschliche Kontakte durch Maschinen ersetze. Amina Fazlullah, Leiterin der Technologiepolitik-Interessenvertretung bei Common Sense Media, sagte gegenüber Broadband Breakfast, Schüler, Familien und Pädagogen sollten nicht die Sicherheit opfern müssen, um KI-Innovationen zu nutzen. Die Organisation hat den GUARD Act offiziell unterstützt.
Jonathan Haidt, Autor von „The Anxious Generation“, erklärte beim Weltwirtschaftsforum in Davos im Januar dieses Jahres: „Wenn Sie in das Bindungssystem eindringen, wenn Kinder Beziehungen zu Chatbots und KI entwickeln, können die Ergebnisse verheerend sein.“ Megan Stokes von der CCIA meint, viele Gesetzesentwürfe verfolgten einen zu breiten und zu vorschreibenden Ansatz, der mehr schaden als nützen könne. Andy Jun von TechFreedom empfiehlt, dass Gesetzgeber die Erforschung finanzieren sollten, warum und wie Sicherheitsmaßnahmen versagen. Die Federal Trade Commission (FTC) könne ihre Betrugsbekämpfungsbefugnisse nutzen, um KI-Unternehmen zu bestrafen, die fälschlicherweise Schutz versprechen, den sie nicht bieten können. Brian McMillan, Vizepräsident für US-amerikanische öffentliche Politik bei der CCIA, sagte gegenüber Broadband Breakfast, Gesetzgeber sollten gezielte, risikobasierte Lösungen suchen, und wies auf die in Florida, Virginia und New Jersey laufenden Medienkompetenzprogramme als einen unzureichend genutzten Hebel hin. Amina Fazlullah von Common Sense Media ist der Ansicht, dass Regulierung allein nicht ausreiche. Es bedürfe auch staatlicher Investitionen in Teststandards, Sicherheitsbenchmarks und unabhängige Forschung zu den Auswirkungen von KI-Werkzeugen auf den sich entwickelnden Geist.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
