Das Merkblatt stellt eine zentrale Ressource für alle Mitarbeitenden dar, die mit KI-Tools arbeiten oder dies in Zukunft planen. Besonders in der Verwaltung, wo der Umgang mit Daten von höchster Sensibilität ist, bietet es wertvolle Richtlinien und Handlungsempfehlungen. Es dient als Hilfsmittel, um die Chancen von KI zu nutzen und gleichzeitig potenzielle Risiken zu minimieren.
Was beinhaltet das Merkblatt?
Das Merkblatt bietet einen strukturierten Überblick über den sicheren Einsatz von generativer KI und geht auf verschiedene Themen ein, darunter:
Dateneingabe: Sensible Informationen wie Personendaten oder klassifizierte Informationen dürfen nicht ungefiltert in KI-Tools eingegeben werden. Dies schützt die Privatsphäre und verhindert mögliche Verstösse gegen das Amtsgeheimnis.
Zulässige und nicht zulässige Anwendungsfälle: Von der Textzusammenfassung bis zur Unterstützung bei der Programmierung zeigt das Merkblatt, wo KI-Tools einen echten Mehrwert bieten können. Es warnt jedoch auch vor unzulässigen Anwendungen, wie z.B. der Nutzung für rechtsverbindliche Entscheidungen.
Ergebnisse überprüfen: KI generiert ihre Antworten auf Grundlage statistischer Modelle und Trainingsdaten, was zu Fehlern oder Verzerrungen führen kann. Das Merkblatt betont daher die Notwendigkeit einer sorgfältigen Überprüfung der KI-Ergebnisse.
KI als Unterstützung – nicht als Ersatz
Es wird klar hervorgehoben, dass KI-Tools wie ChatGPT oder Copilot nicht «denken» können. Sie basieren auf Wahrscheinlichkeitsberechnungen, die aus ihren Trainingsdaten hervorgehen. Daher wird auch empfohlen, diese Ergebnisse mit menschlicher Sorgfalt zu überprüfen und sicherzustellen, dass keine diskriminierenden oder ungenauen Aussagen verbreitet werden.
Wie der Kanton Bern die Zukunft sieht
Der Kanton Bern strebt an, die Potenziale der KI-Technologie für Verwaltung, Wirtschaft und Gesellschaft zu nutzen. Das Merkblatt ist ein erster Schritt in diese Richtung und soll kontinuierlich aktualisiert werden, um den neuesten Entwicklungen und Anforderungen gerecht zu werden.
Das Merkblatt zur generativen Künstlichen Intelligenz des Kantons Bern wurde ursprünglich für den Arbeitskontext der Kantonsverwaltung erstellt, um den professionellen Einsatz von KI innerhalb der öffentlichen Verwaltung zu unterstützen. Dennoch bietet es auch weit über diesen Bereich hinaus wertvolle Orientierung. Personen, die in anderen Branchen oder Bildungsinstitutionen mit KI-Tools arbeiten oder sich für deren Anwendung interessieren, finden darin nützliche Hinweise für den sicheren und effizienten Umgang mit KI. Es dient als wichtige Ressource, um sowohl die Chancen als auch die Risiken dieser Technologie verantwortungsbewusst zu nutzen. Der Kanton Bern hat zusätzlich zum Merkblatt auch einen KI-Leitfaden herausgebracht, der sechs Grundsätze formuliert, an denen sich die Kantonsverwaltung im Umgang mit Künstlicher Intelligenz orientiert.
Mehr Informationen und das Merkblatt zum Download finden Sie hier.
Quellen:
Kanton Bern (o.J.). Künstliche Intelligenz (KI). [23.10.24]