Deutsche Medienregulierer warnen vor Risiken für Kinder durch den Einsatz von Künstlicher Intelligenz (KI). Es gebe dringenden Handlungsbedarf zum Schutz von Minderjährigen, teilte die Kommission für Jugendmedienschutz (KJM) in den Landesmedienanstalten am Mittwoch der Deutschen Presse-Agentur mit. Sie beruft sich dabei auf ein eigens in Auftrag gegebenes Gutachten beim Institut für Europäisches Medienrecht (EMR). 

Die KJM führte aus, aktuell bestehe die Gefahr, dass KI-generierte Inhalte, Bilder oder Videos zu einer Desorientierung von Minderjährigen beitragen und die Polarisierung der Gesellschaft befördern. Daher sei es wichtig, dass diese Risiken rechtzeitig durch Gesetzesänderungen adressiert werden. KI-Anbieter müssten auch in die Pflicht genommen werden.

KJM: Gefährdungslage richtig einordnen

Im Gutachten heißt es im Ausblick unter anderem: «Ein wirksamer Kinder- und Jugendmedienschutz kann in digitalen Kontexten einschließlich der Herausforderungen durch KI nur gewährleistet werden, wenn man die Gefährdungslage für die Entwicklung Minderjähriger erkennt und richtig einordnet.» Dafür bedürfe es genauerer Kenntnisse über die Auswirkungen des Einsatzes digitaler Technologien auf die verschiedenen Dimensionen des rechtlich gebotenen Schutzes. 

KI bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software Datenmengen nach Übereinstimmungen durchforstet und Schlussfolgerungen zieht.

Die KJM ist nach eigenen Angaben die zentrale Aufsichtsstelle für den Jugendschutz im privaten Rundfunk und bei Angeboten im Netz. Sie achtet auf die Einhaltung von politisch festgelegten Jugendschutzbestimmungen.