Diese Fragen und Unsicherheiten können Hürden sein, KI-Chatbots mit den Schüler*innen zu benutzen. Datenschutzkonforme KI-Angebote wie fobizz, SchulKI, tutor.new bieten dafür Lösungen an. Sie versprechen, den Datenschutz ernst zu nehmen, sich an und keine unerlaubte Daten zu verarbeiten oder weiterzugeben. Doch was steckt genau dahinter? Was meint eigentlich eine Datenschutzkonform KI-Anwendung?
Datenschutzkonforme KI: Welche gibt es?
Die DSGVO ist eine Verordnung der Europäischen Union, die festlegt, wie persönliche Daten verarbeitet und geschützt werden müssen. Sie gilt für viele Unternehmen und Behörden, die mit solchen Daten arbeiten. Ihr Ziel ist es, die Daten von Menschen in der EU besser zu schützen und gleichzeitig den sicheren Austausch von Daten innerhalb der EU zu ermöglichen (vgl. Wikipedia).
Immer mehr Bildungsplattformen setzen entweder von Grund auf auf Künstliche Intelligenz oder integrieren KI-Anwendungen in ihre Angebote. Ein zentrales Qualitätskriterium dabei ist der verantwortungsvolle Umgang mit Daten. Die verschiedenen Plattformen unterscheiden sich in ihren Funktionen, Stärken und Schwächen. Im Folgenden stellen wir einige Beispiele vor, die auf unterschiedliche Weise KI nutzen, um Lernen und Lehren zu unterstützen. Es handelt sich dabei um eine Auswahl, die keine vollständige Übersicht über alle Angebote bietet.
Ein Tool das bereits Bekanntheit geniesst ist fobizz. Die Plattform fobizz bietet Lehrpersonen sowie Schüler*innen eine Sammlung digitaler Werkzeuge und KI‑gestützter Dienste, die speziell für den schulischen Einsatz entwickelt wurden. Dabei kann z. B. im Chat das bevorzugte KI-Modell ausgewählt werden und zwischen Optionen wie Mistral, Claude, GPT, Gemini, Llama, DeepSeek oder Qwen entschieden werden. Auf der Unterseite «Datenschutz und Sicherheit im Umgang mit Künstlicher Intelligenz an Schulen» informiert fobizz über den Umgang mit Daten und KI-Tools.
Tutor.new ist eine KI-gestützte Lernplattform, die durch personalisierte Bildung und Erklärungen im (Voice-)Chat Schüler*innen kostengünstig Zugang zu Lernen ermöglichen möchte. Der Einstieg ist unkompliziert: Arbeitsblätter können hochgeladen oder gezielte Fragen gestellt werden. Die KI unterstützt den Lernprozess durch interaktive Visualisierungen, automatische Mitschriften und Quizze. Gemäss eigenen Angaben werden alle personenbezogenen Daten im Einklang mit den geltenden Datenschutzgesetzen, einschliesslich der DSGVO, verarbeitet. Weitere Infos gibt es in unserem Blogpost: «Tutor.new: Eine KI-Nachhilfelehrperson für alle».
Brian ist ein KI-Tutor, mit dem Lehrpersonen aus eigenen Materialien interaktive und adaptive Lernumgebungen erstellen können. Die KI unterstützt Lernende beim Bearbeiten von Aufgaben, gibt direkt Feedback und passt Schwierigkeitsgrad sowie Hilfestellungen an den individuellen Lernstand an. Ziel ist es, selbstgesteuertes Lernen zu fördern und Lehrpersonen durch automatisierte Auswertungen und Rückmeldungen zu entlasten. Für die KI-Funktionen nutzt Brian in Europa gehostete Modelle über die API von Azure OpenAI; dabei werden keine personenbezogenen Daten verarbeitet oder für das Training von Modellen verwendet (vgl. Brian)
To‑teach.ai ist eine KI-Plattform für Lehrpersonen, die bei der Erstellung und Anpassung von Unterrichtsplänen, Übungen und Arbeitsblättern unterstützt. Eigene oder fertige Materialien lassen sich einfach bearbeiten, um sie an Lernziele und Niveau der Schüler*innen anzupassen. Die Datenschutzregeln richten sich nach der EU-Datenschutz-Grundverordnung (DSGVO) und anderen internationalen Gesetzen, zum Beispiel dem Schweizer Datenschutzgesetz (vgl. to-teach.ai).
SchulKI ist eine speziell für Schulen entwickelte KI-Plattform, die Lehrpersonen und Schüler*innen ermöglicht, KI‑Werkzeuge datenschutzkonform im Unterricht einzusetzen. Die Umgebung ist auf die Anforderungen des Bildungsbereichs zugeschnitten, etwa durch Hosting auf europäischen Servern, jugendgerechte Voreinstellungen und einfache Zugänge für Klassen ohne komplexes Account-Management. SchulKI nutzt verschiedene KI-Modelle, darunter Claude und GPT und tritt gegenüber den KI-Anbietern als alleiniger Nutzer auf, wodurch keine personenbezogenen Daten wie die IP-Adresse der eigentlichen Endnutzer an die Dienste übermittelt werden (vgl. SchulKI)
FelloFish ist ein KI-gestütztes Tool, das Lehrpersonen beim Feedback zu Schüler- und Studententexten unterstützt. Aufgaben können auf der Plattform erstellt oder Texte hochgeladen werden. Die KI analysiert die Arbeiten anhand definierter Kriterien und generiert strukturierte Rückmeldungen zu Inhalt, Aufbau und Sprache. Ziel ist es, schnelleres und kontinuierliches Feedback zu ermöglichen und Lehrpersonen bei der Korrekturarbeit zu entlasten. Laut Anbieter wird die Verarbeitung der Daten unter Berücksichtigung geltender Datenschutzbestimmungen durchgeführt (vgl. FelloFish).
Paddy ist eine Plattform, die speziell für den Einsatz von KI entwickelt wurde. Sie hilft Lehrpersonen bei vielen Schritten im Unterricht – von der Planung über die Erstellung von Materialien bis zur Überprüfung. Bestehende Inhalte können angepasst und neue Aufgaben erstellt werden. Paddy nutzt Inhalte von Drittanbietern wie Mistral AI und Anthropic. Durch einen Proxy-Server werden dabei keine persönlichen Daten der Nutzer*innen weitergegeben. Paddy weist darauf hin, dass persönliche Daten nur dann verarbeitet werden, wenn sie direkt in einer Anfrage enthalten sind (vgl. paddy).
KI-Schulgenie ist eine KI-Plattform für Lehrpersonen, die die Unterrichtsvorbereitung, -planung und -durchführung vereinfachen soll. Statt selbst lange Prompts zu schreiben oder sich tief in KI-Technik einzuarbeiten, wählen Lehrpersonen Tools aus, wie etwa Lückentext-Ersteller oder Kreuzwort-Generator, die mit wenigen Klicks passgenaue Materialien erzeugen. Alle Ergebnisse lassen sich bearbeiten, speichern und wiederverwenden, sodass Materialien angepasst und organisiert werden können. KI-Schulgenie orientiert sich ebenfalls am Schweizer Datenschutzgesetz (DSG) und den EU-Datenschutzregeln (DSGVO) (vgl. KI-Schulgenie)
Wie funktioniert das genau?
Hinter den datenschutzfreundlichen KI‑Anwendungen steckt häufig das Prinzip einer API‑Schnittstelle (Application Programming Interface). Eine API ist eine technische Verbindung, über die zwei Programme miteinander kommunizieren können – etwa die Schulplattform und ein KI‑Modell wie ChatGPT. Bei einem API‑basierten Ansatz nimmt die Plattform die Eingaben der Nutzer*innen entgegen, schickt diese an den Server des KI‑Anbieters und erhält die Antworten zurück, ohne dass die Plattform selbst die KI‑Modelle «von innen» kennen muss. Diese Art der Vermittlung erlaubt es, Kommunikations‑ und Sicherheitsregeln einzuhalten, zum Beispiel indem Metadaten wie IP‑Adressen abgeschnitten werden, bevor die Anfrage weitergeleitet wird. Kurz: Die API ist der unsichtbare Vermittler, der die Kommunikation zwischen der Lernplattform und OpenAI regelt.
In schulischen Anwendungen wie fobizz etc. übernimmt die Plattform diese Rolle: Sie steht zwischen den Schüler*innen‑Eingaben und dem KI‑Anbieter. Dieses Vorgehen minimiert die Risiken der Übermittlung personenbezogener Daten und sorgt dafür, dass bei der KI‑Bearbeitung keine Rückschlüsse auf einzelne Schüler*innen möglich sind. Eine Ausnahme ist in der Regel die Eingabe persönlicher Informationen in die Konversation.
Ein Vergleich zwischen öffentlichen Chatbots und spezialisierten Bildungschatbots zeigt: Öffentliche Angebote wie ChatGPT oder andere frei zugängliche KI‑Dienste erfordern in der Regel die Anmeldung und Eingabe von persönlichen Daten, während Bildungschatbots speziell für den Schulbetrieb zugeschnitten sind und den Datenschutz stärker berücksichtigen, indem sie anonymisierte Zugänge und zusätzliche Filter nutzen.
Kurz gesagt sind Bildungsplattformen wie fobizz etc. nur die Hülle – die eigentliche KI‑Sprachverarbeitung passiert im Hintergrund über eine API‑Verbindung zu einem KI-Sprachmodell (LLM) wie ChatGPT.
Die Darstellung zeigt wie die fobizz KI mithilfe einer API-Schnittstelle auf das KI-Sprachmodell zugreift. Klar wird, dass keine Metadaten an das KI-Sprachmodell weitergeleitet werden und die Daten nicht für den Trainingszweck der Modell benutzt werden. Zudem brauchen Schüler*innen keinen eigenen Account sondern melden sich mit einem Pseudonym an.
fobizz versucht noch einen Schritt weiter zu gehen: Ein zusätzlicher Sicherheitsfilter erkennt mögliche Eingaben von personenbezogenen Daten und zeigt in diesem Fall einen Warnhinweis an. Dadurch werden Nutzer*innen darauf aufmerksam gemacht, dass solche Daten nicht eingegeben werden sollten.
Allgemeine Handhandhabung: Keine Eingabe personenbezogener Daten
Unabhängig davon, wie datenschutzkonform ein KI-Tool gestaltet ist, dürfen grundsätzlich keine personenbezogenen Daten eingegeben werden. Das gilt auch dann, wenn keine Metadaten weitergeleitet werden oder die Eingaben nicht zu Trainingszwecken genutzt werden. Sobald Nutzer*innen jedoch selbst Namen oder persönliche Informationen in eine Konversation mit einem KI-Chat eingeben, werden diese Inhalte an das System übermittelt.
Problematisch wird es vor allem bei personenbezogenen und sensiblen Informationen. Beispielsweise könnte eine Lehrperson eingeben:
- «Formuliere eine E-Mail an die Eltern von Max Müller aus der 7b, der wegen ADHS grosse Probleme im Unterricht hat.»
- Auch aus Sicht von Schüler*innen könnten heikle Eingaben entstehen, etwa: «Schreibe eine Nachricht an meine Lehrerin Frau Meier, warum ich wegen meiner Depression die Hausaufgaben nicht geschafft habe.»
Deshalb sollten bei der Nutzung von KI im Unterricht immer anonymisierte oder allgemeine Formulierungen verwendet werden, zum Beispiel:
- «Formuliere eine E-Mail an Eltern über Lernschwierigkeiten eines Kindes» oder
- «Welche Tipps gibt es für Schüler*innen, die sich wegen psychischer Belastung im Unterricht überfordert fühlen?»
Auf der sicheren Seite ist man allgemein, wenn man grundlegende Vorsichtsmassnahmen bzw. Datenschutzregeln im Umgang mit KI-Chatbots einhält. Besonders wichtig ist, dass demensprechend keine personenbezogenen Daten eingegeben werden. Dazu zählen zum Beispiel Namen, Adressen, Geburtsdaten, Fotos oder andere Informationen, durch die eine Person identifiziert werden könnte.
- Lehrpersonen müssen Schüler*inne aufklären: Wie darf KI genutzt werden und was darf in den KI-Chatbot eingegeben werden? Die Nutzung sollte nur über datenschutzkonforme Zugänge erfolgen, bei denen möglichst keine Metadaten an externe Anbieter weitergegeben werden und die eingegebenen Inhalte nicht zum Training der KI verwendet werden.
- Klare Nutzungsregeln für den Unterricht: Es braucht klare Regeln wie KI-Tools im Unterricht genutzt werden dürfen. Lehrpersonen sollten die Möglichkeit haben, die Eingaben der Schüler*innen zu überprüfen, um einen verantwortungsvollen Umgang mit den Tools sicherzustellen.
Quellen:
Datenschutzbeauftragte des Kanton Zürich (o.J.). Datenschutzgrundverordnung der Europäischen Union (DSGVO). [16.3.26]
Educa (o.J.). Künstliche Intelligenz aus Datenschutzsicht. [2.2.25]
Educa (o.J.). Datenschutzkonforme Schule. [2.2.25]
fobizz (o.J.). Datenschutz und fobizz KI. [16.3.26]
Kanton Bern (o.J.). Datenschutzrechtliche Begriffe. [2.2.25]
KI-Wiki der PH Zürich (2024). Datenschutz. [16.3.25]
OpenAI (2026). EU-Datenschutzrichtlinie. [17.3.26]
OpenAI (o. J.). Schutz, Sicherheit und Compliance für Geschäftsdaten. [17.3.26]
SchulKI (o. J.). Datenschutz. [16.3.26]