Think Tank Medien und Informatik

Kinder und Künstliche Intelligenz – Wie können wir Kinder schützen?

Zum ersten Mal in der Geschichte wächst eine Generation von Kindern in einer Welt auf, die von künstlicher Intelligenz (KI) geprägt ist. KI lässt sich in sozialen Medien finden, in Videospielen, intelligenten Spielzeugen und Lautsprechern und sie bestimmt, welche Videos sich Kinder online ansehen. KI kann sich positiv auswirken doch birgt sie auch Risiken.

KI ist eine Reihe von leistungsstarken Algorithmen, die Daten sammeln und interpretieren, um auf der Grundlage der in den Daten gefundenen Muster Vorhersagen zu treffen und Vorschläge für ihre Nutzer:innen zu machen. KI-Produkte verwenden Sensoren und Eingänge, um Informationen über die Benutzer:innen zu sammeln. Zu den Informationen, die sie sammeln, gehören Bilder, Videos, Nutzungsmuster und andere Daten.

KI-Produkte haben Vorteile. Sie können zum Beispiel Inhalte empfehlen die den Nutzer:innen gefallen könnten. Aber KI-Produkte bergen auch Risiken – sie könnten Informationen sammeln, die ihre Nutzer:innen nicht verwenden oder speichern wollen. Diese Risiken fallen umso mehr ins Gewicht, wenn es sich bei den Nutzer:innen um Kinder handelt, die möglicherweise noch nicht in der Lage sind, Entscheidungen über ihre digitalen Rechte zu treffen, oder die die Auswirkungen der KI auf ihr Leben nicht vollständig kennen oder verstehen.

Um Kinder und Jugendliche zu schützen hat das Weltwirtschaftsforum (engl. World Economic Forum) das Toolkit «Artificial Intelligence for Children» erstellt, um Unternehmen zu helfen, vertrauenswürdige KI für Kinder und Jugendliche zu entwickeln. Das Toolkit wurde in Zusammenarbeit von Jugendlichen, Technolog:innen, Akademiker:innen und Führungskräften ausgearbeitet und soll auch Eltern, Erziehungsberechtigten, Kindern und Jugendlichen dabei helfen, KI-Produkte verantwortungsbewusst zu kaufen und sicher zu nutzen.

Das zentrale Arbeitsinstrument im Toolkit ist eine Checkliste mit dem Akronym „FIRST“:

Checkliste: Vertrauenswürdigen Umgang mit KI für Kinder und Jugendliche (World Economic Forum, 2022, S.4)

Die Checkliste zielt darauf ab, dass eine KI-Technologie so gestaltet wird, dass sie sowohl innovativ als auch verantwortungsvoll ist.

Verantwortungsvolle KI ist sicher, ethisch vertretbar, transparent, fair, zugänglich und integrativ. Die Entwicklung einer verantwortungsvollen und vertrauenswürdigen KI ist gut für Verbraucher:innen, Unternehmen und die Gesellschaft.

Was steht auf dem Spiel? KI wird die Zukunft von Spiel, Kindheit, Bildung und Gesellschaft bestimmen. Eltern, Erziehungsberechtigte und Erwachsene sind dafür verantwortlich, ethisch einwandfrei gestaltete KI-Produkte sorgfältig auszuwählen und Kinder bei der sicheren Nutzung zu unterstützen – so dass die KI das ganze positive Potenzial entfalten kann und Risiken auf einem Minimum gehalten werden.

Quellen:

World Economic Forum (2022). Artificial Intelligence for Children. URL: https://www3.weforum.org/docs/WEF_Artificial_Intelligence_for_Children_2022.pdf [15.4.22]