Seit den 1960ern ist Künstliche Intelligenz (KI) populär geworden und erlangte neuen Aufschwung mit der Veröffentlichung des Chatbots ChatGPT. Heute kontrollieren vorwiegend grosse US-Unternehmen diese Technologie und bieten sie über ihre Services an.
Die im Jahr 2020 veröffentlichte interdisziplinäre TA-SWISS Studie (Stiftung für Technologiefolgen-Abschätzung) «Wenn Algorithmen für uns entscheiden: Chancen und Risiken der Künstlichen Intelligenz» untersucht die Vor- und Nachteile von KI in fünf Bereichen: Arbeit, Bildung, Einkauf, Verwaltung und Medien. Sie berücksichtigt dabei technische, rechtliche und ethische Gesichtspunkte und betrachtet deren Effekte in den genannten Bereichen.
Im ersten Schritt stützt sich die Untersuchung auf eine umfassende Analyse von Fachliteratur. Diese dient als Basis, um in der nächsten Phase Expert*innen mehrmals zu verschiedenen identifizierten Problemfeldern und Thesen zu befragen. Die Erkenntnisse aus der Literaturprüfung und den Expert*innenbefragungen führten zu Ratschlägen für unterschiedliche Zielgruppen.
Methodisch beruht die Studie in einem ersten Schritt auf einer breit angelegten Literaturanalyse. Diese lieferte die Grundlage, um in einer zweiten Phase Fachleute in mehreren Durchgängen nach ihrer Einschätzung der herausgearbeiteten Problemfelder und Thesen zu befragen. Die Ergebnisse aus Literaturanalyse und Umfragen mündeten in Empfehlungen für verschiedene Adressaten.
Künstliche Intelligenz in der Bildung
Die individuelle Förderung von Schüler*innen ist bereits ein wichtiges Thema in der Bildungspolitik. Künstliche Intelligenz bietet technologische Lösungen, um dieses Ziel zu unterstützen. Verschiedene Start-ups haben bereits Tools entwickelt, die darauf abzielen, Schüler individuell an ihre Bildungsziele heranzuführen.
In der Studie von TA-Swiss werden verschiedene Werkzeuge vorgestellt, welche in Zukunft das Lehren und Lernen unterstützen könnten. In der folgenden Darstellungen sind sechs Szenarien aus der Studie abgeleitet, inwiefern Künstliche Intelligenz Eingang in den Bildungsbereich finden könnte.
Individualisierte Lehrpläne: Ein Schritt in die richtige Richtung
Die Mehrheit der Fachleute, die im Rahmen der TA-SWISS Studie befragt wurden, begrüssen die Fähigkeit von Künstlicher Intelligenz, den Unterricht individuell auf die Schüler*innen zuzuschneiden. Durch diese Individualisierung kann gezielt auf die speziellen Bedürfnisse und Herausforderungen jedes Einzelnen eingegangen werden. Allerdings gibt es trotz der positiven Einschätzung auch Bedenken. Ein kritischer Punkt ist der wachsende Einfluss von Privatunternehmen auf das Schulsystem. Expert*innen warnen, dass Schulen in eine Abhängigkeit zu diesen Anbieter*innen geraten könnten.
Lösungsvorschläge: Verträge und Datenschutz
Ein komplettes Verbot von privat entwickelten KI-Systemen wird jedoch nicht als sinnvoll erachtet. Stattdessen empfehlen die Fachleute, präzise und verbindliche Vereinbarungen mit den Anbietern auszuhandeln. Diese sollten insbesondere klare Datenschutzrichtlinien enthalten. Es herrscht Uneinigkeit darüber, ob die Entwicklung und Verwaltung schulischer KI-Systeme vollständig in die Hände von Behörden gelegt werden sollte. Dennoch wird die Zusammenarbeit zwischen öffentlichen Verwaltungen und privaten Anbietenden als sehr wünschenswert betrachtet.
Die Mehrheit der Fachleute plädiert für eine behördliche Überprüfung der KI-Anwendungen in Schulen, um sicherzustellen, dass diese den pädagogischen und ethischen Standards entsprechen.
Insgesamt zeigt die TA-SWISS Studie, dass Künstliche Intelligenz das Potenzial hat, die Bildung zu revolutionieren, aber auch, dass es entscheidend ist, verantwortungsvoll und durchdacht vorzugehen.
Empfehlungen
In der Kurzfassung «Kopflos klug» der Studie werden schliesslich Empfehlungen formuliert, wie mit KI-Systeme umgegangen werden soll. Der Einsatz von KI-Systemen erstreckt sich über eine Vielzahl von Bereichen, die jeweils spezifische rechtliche Herausforderungen mit sich bringen. Ein allumfassendes «KI-Gesetz» zur einheitlichen Regulierung aller KI-Anwendungen wird nicht empfohlen. Insgesamt werden folgende Empfehlungen für einen verantwortungsvollen Umgang mit KI-Systemen vorgeschlagen:
Spezifische Anwendungen ausleuchten: Es braucht ein Abwägen der Chancen und Risiken von KI-System, bevor sie zum Einsatz kommen.
Hohe Anforderungen an die Behörden: Wenn der Staat KI verwendet, muss er grundsätzlich höheren Ansprüchen genügen als private Anwender*innen.
Transparenz und verdaubare Information: Nutzende von KI-Systemen müssen in verständlicher Weise darüber informiert werden, dass sie ein KI-System gebrauchen.
Gütesiegel statt generelle Marktzulassungen: Aufgrund der Vielfalt von KI-Systeme ist der Vorgang einer generellen Marktzulassung nicht sachgerecht – begrüssenswert sind private Initiativen, welche Gütesiegel für KI entwickeln.
Nicht bloss auf technische Fragen fokussieren: Entwickler*innen von KI Systeme müssen sich neben technischen Fragen auch mit ethischen und juristischen Themen in Bezug auf KI auseinandersetzen. K
Quellen:
TA-SWISS (2020). Künstliche Intelligenz. Wenn Algorithmen für uns entscheiden: Chancen und Risiken der KI. [7.9.2023]