Google konfrontiert mit forderungen von experten für kindgerechte inhalten
Google steht unterDruck, um Inhalte, die von künstlicher Intelligenz (KI) generiert werden, auf seinen Plattformen wie YouTube und YouTube Kids an Kinder zu zeigen oder zu empfehlen, zu verbieten. Dieser Druck folgt einem historischen Prozess gegen Meta und Google, in dem die Unternehmen wegen möglicher Suchtverhaltens ihrer Plattformen vorgeworfen werden.
Forderungen an google gerichtet
Über 200 Experten für Kinder, Interessenverbände und Schulen haben einen offenen Brief an Google-CEO Sundar Pichai und YouTube-CEO Neal Mohan gerichtet. Darin werden die Sorgen über die Qualität und Substanz vieler von KI generierter Inhalte aufgeführt, die sich als pädagogisch präsentieren, aber tatsächlich schwache Inhalte darstellen.
Die Kritiker warnen auch vor der Vermehrung von KI-generierten Inhalten, die von Erwachsenen für Gewinn gemacht werden und sich an leicht beeinflussbare Kinder richten. Sie fürchten, dass diese Inhalte die Konzentration und Fähigkeit von Kindern, Realität von Fiktion zu unterscheiden, beeinträchtigen. Stattdessen sollten Kinder in der realen Welt aktiv sein, um ihre sozial-emotionale Entwicklung voranzutreiben.
„Wir wissen nicht genug über die Auswirkungen von KI-generierten Inhalten auf Kinder“, schreiben die Unterzeichner. „YouTube beteiligt sich an diesem Experiment ohne Kontrolle, indem es KI-generierten Inhalt ohne Forschungen zu dessen Vorteilen und ohne Berücksichtigung von Entwicklungskriterien für Kinder fördert, die uns sagen, dass es wahrscheinlich überwiegend schädlich ist.“
Unterzeichner sind unter anderem der Sozialpsychologe Jonathan Haidt, dessen Buch „Die Angst der anderen Generation“ weltweites Aufsehen erregte, als es die Auswirkungen von Social-Media-Plattformen und Smartphones auf junge Menschen thematisierte, sowie Gruppen wie Fairplay und die Nationale Allianz für Jugendgesundheit.
Die Gewerkschaft der Erzieher und Schulen hat den Brief gemeinsam unterzeichnet. Der YouTube-Sprecher Boot Bullwinkle erklärte, dass das Unternehmen hohe Standards für Inhalte auf YouTube Kids hat, darunter die Limitierung von KI-generiertem Inhalt auf ein kleines, qualitativ hochwertiges Kanal-Portfolio. Zudem bieten Eltern die Möglichkeit, Kanäle zu blockieren.
YouTube priorisiert die Transparenz bei KI-generierten Inhalten, indem es diese als solche eindeutig kennzeichnet und von Erzeugern fordert, die Herkunft des Inhalts offenzulegen. Bullwinkle betonte, dass das Unternehmen sein Vorgehen ständig anpasst, um sich den Veränderungen im Ecosystem anzupassen.
KI-generierte Inhalte werden auf YouTube immer populärer, insbesondere solche, die sich an Babys und Kleinkinder richten. Einige Erzeuger haben festgestellt, dass die Außungemeines dieser Aufgabe an einen KI-System einfacher und kostengünstiger ist, weshalb sie sogar Tutorials darüber teilen, wie man ein Geschäft auf Basis der Produktion von Baby- und Kindervideos aufbauen kann.
Bullwinkle betonte, dass die massenhafte Produktion von schlechter Qualität nicht eine kommersiell sinnvolle Strategie auf YouTube darstellt, da die Systeme und Monetarisierungs-Politiken des Unternehmens darauf ausgerichtet sind, solchen Spam zu bestrafen.
YouTube-CEO Mohan erklärte im Januar, dass „die Fehler bei der KI-Steuerung“ und das „Verwahren, dass YouTube ein angenehmes Ort bleibt, um Zeit zu verbringen“ eine absolute Priorität für die Firma im Jahr 2026 darstellt.
Dennoch betont YouTube, dass nicht alle von KI generierten Inhalte von schlechter Qualität sind und dass sie, wenn sie richtig gemacht werden, sogar positiv sein können. YouTube fordert die Erzeuger auf, den Inhalt als „alteriert und synthetisch“ zu kennzeichnen.
Die Unterzeichner argumentieren in ihrer Erklärung, dass es „wahrscheinlich unwahrscheinlich ist, dass diese Etiketten von nicht-alphabetisierten Kindern verstanden werden, die das Ziel vieler dieser KI-Geschmacklosigkeit sind“.
In März gab Google die Investition in Animaj, ein Animationsstudio mit KI-Schwerpunkt, bekannt, das sich auf die Erstellung von Inhalten für Kinder auf YouTube konzentriert. Ein Google-Manager beschrieb es als „wirklichen Vorbild für die Zukunft“, während Kritiker Google und Animaj dafür verwarfen, Babys und Kleinkinder, die keine Zeit vor dem Bildschirm sollten, in solchen Inhalten zu zeigen. Sie forderten YouTube auf, jegliche Investitionen in KI-generierte Inhalte für Kinder zu stoppen.
Die Unterlagenarrivierten an einem Zeitpunkt, an dem es auch andere Initiativen gibt, um das Funktionieren von YouTube zu ändern. Im März fand ein historischer Prozess vor einem Jury über die Suchtentwicklung von Social-Media-Plattformen statt, in dem Google und Meta Platforms Inc. wegen möglicher Suchtentwicklung ihrer Produkte verantwortlich gemacht wurden. Beide Unternehmen kündigten an, gegen das Urteil Berufung einzulegen. Unterzeichner, Verbraucherschützer und Politiker drängen darauf, dass die Unternehmen bestimmte Funktionen ändern, darunter auch ihre Algorithmen für Inhalte.