Eltern, die wissen wollen, ob ChatGPT für ihre Kinder sicher ist, hatten bisher wenig unabhängige Belege. OpenAIs jüngster Schritt zielt auf diese Lücke: Das Unternehmen hat 2 Millionen Dollar für ein Forschungsnetz zugesagt, das untersucht, wie KI Sicherheit, Wohlbefinden und Entwicklung von Kindern beeinflusst, und beim Pariser Friedensforum eine Charta für sicherere KI für Kinder unterzeichnet. Für OpenAI ist das wenig Geld, doch wer Schaden misst und wie, betrifft jede Familie, die diese Werkzeuge nutzt.
Die Einzelheiten stammen aus der Berichterstattung über die Ankündigung, da OpenAIs eigene Seite nicht lesbar war. Das Geld geht an das Forschungsnetz der Koalition für Kinderrechte und Kinderschutz im Zeitalter der KI, einer von Frankreich geführten Initiative, und ist für gemeinsame Messarbeit gedacht: Werkzeuge, mit denen Forschende Risiken und Chancen vergleichbar bewerten können. Berichten zufolge erklärte OpenAI, unabhängige Forschende behielten die Kontrolle über ihre Ergebnisse, auch negative oder unklare, und Forschungsförderung müsse mit stärkerem rechtlichem Schutz für Kinder einhergehen, die KI-Produkte nutzen. Empfänger oder einen Zahlungsplan hat OpenAI nicht genannt.
Die Zusage ist Teil eines größeren Pakets. Das Pariser Friedensforum teilte mit, KI-Entwickler wie OpenAI und Anthropic würden gemeinsam mit Kinderschutzorganisationen 8 Millionen Euro, rund 8,9 Millionen Dollar, für Forschung zu KI und kindlicher Entwicklung bereitstellen. Auch Anthropic, Microsoft und Black Forest Labs unterstützten die Charta. Unabhängig davon stellten sich mehr als 50 Staaten hinter eine Children First Declaration zu Gesundheit, Bildung, Schutz und Wohlbefinden im digitalen Zeitalter mit Zielen für 2045, und Präsident Emmanuel Macron sagte, keine KI solle Kinder erreichen, bevor sie getestet, bewertet und zugelassen sei.
Die Geschichte ist die Lücke zwischen Rhetorik und Mechanismus. Tech Times hält fest, dass kein Bericht nennt, wer die Tests durchführen oder eine Zulassung verweigern würde, dass der Élysée die Zusagen als freiwillig beschreibt und dass die Firmen, deren Produkte getestet würden, zu den Geldgebern der Forschung gehören. Unabhängige Prüfer haben in einem Brief mit mehr als 100 Unterzeichnern argumentiert, glaubwürdige Aufsicht brauche Prüfer, die den Laboren weder gehören noch von ihnen kontrolliert werden.
Offen ist, ob sich dadurch die Produkte ändern. ChatGPT, Gemini und Claude werden von Jugendlichen genutzt, und keiner dieser Dienste veröffentlicht derzeit kinderspezifische Testergebnisse, die Eltern nachschlagen könnten. Solange es keinen Standard und keine Zulassungsstelle gibt, ist ein finanziertes Forschungsnetz ein Anfang für Belege, keine Sicherheitsgarantie.