​“Empowering Education to Combat Harmful AI-Generated Content on Safer Internet Day 2025″ 

Die wichtigsten Neuigkeiten im Überblick:
Neue Forschungsergebnisse zur Online-Sicherheit: Die Global Online Safety Survey 2025 zeigt, dass 88 % der Befragten Bedenken gegenüber generativer KI haben – ein Anstieg gegenüber 83 % im Vorjahr. Bei deutschen Eltern lag die Sorge bei Szenarien, in denen KI zum Einsatz kommt, bei 70% oder mehr. Zu den zentralen Risiken, denen Kinder in Deutschland ausgesetzt sind, gehören Fehl- und Desinformation (47%), persönliche Risiken wie Mobbing (42%) und gewalttätige Inhalte (28%).
Schulungsmaterialien gegen KI-Missbrauch: Microsoft arbeitet mit der britischen Organisation Childnet zusammen, um neue Lernressourcen zu entwickeln. Diese sollen Kinder und Familien dabei unterstützen, sich vor Risiken wie Deepfakes und nicht einvernehmlichen intimen Bildern (NCII) zu schützen.
„Dig Deeper“ in Minecraft: Mit dem neuen interaktiven Lernspiel vermittelt Microsoft Kindern spielerisch den sicheren Umgang mit KI. Durch spannende Rätsel und Herausforderungen lernen sie, ethische Fragen zu KI-Technologien zu verstehen.
Der folgende Beitrag ist eine Übersetzung des Blog-Artikels von Courtney Gregoire, Chief Digital Safety Officer, den Sie hier im Original lesen können: Safer Internet Day 2025: Tackling abusive AI-generated content risks through education and empowerment – Microsoft On the Issues
Der Safer Internet Day bietet jedes Jahr einen guten Anlass, um über den aktuellen Stand der Sicherheit im Internet nachzudenken – darüber, wie weit wir gekommen sind und was wir weiter verbessern können. Microsoft nutzt dieses Datum seit fast einem Jahrzehnt dazu, Forschungsergebnisse darüber zu veröffentlichen, wie Menschen aller Altersgruppen Online-Risiken im Internet wahrnehmen.
Letztes Jahr haben wir den wachsenden Einfluss von KI hervorgehoben. Dieses Jahr, in unserem neunten Global Online Safety Survey, sind wir tiefer in diese Materie eingetaucht, um zu verstehen, wie Menschen diese Technologie sehen, sie einsetzen und wie sicher sie KI-generierte Inhalte identifizieren können.
Unsere Ergebnisse zeigen, dass einerseits die Zahl aktiver KI-Nutzer*innen weltweit gestiegen ist, dass aber andererseits auch die Bedenken gegen diese Technologie zugenommen haben: 88 Prozent der Befragten hatten Bedenken gegenüber generativer KI, verglichen mit 83 Prozent im vergangenen Jahr. Darüber hinaus zeigen unsere Daten, dass viele es schwierig finden, KI-generierte Inhalte zu erkennen, was das mit ihnen verbundene Risiko erhöht.
Neue Ressourcen zur Förderung verantwortungsvoller KI-Nutzung angekündigt
Microsoft will sicherstellen, dass KI ethisch und sicher eingesetzt wird: Unsere Bemühungen um verantwortungsvolle KI zielen darauf ab, dass KI der Menschheit zugutekommt, während unsere Bemühungen um Vertrauen und Sicherheit darauf abzielen, unsere Nutzerinnen und Nutzer zu schützen. Leider wissen wir, dass KI missbraucht werden kann, um schädliche Inhalte zu erstellen. Wir versuchen, dieses Problem zu löse