Entwurfsfassung
der KI-NutzungsordnungStand 24.03.2025

Bewusstsein für KI-Nutzung

• Alle Beteiligten müssen wissen, dass sie mit einem KI-System interagieren. Es muss klar als solches gekennzeichnet werden.
• Alle Beteiligten müssen verstehen, dass KI-Antworten Fehler enthalten können und nicht immer vollständig sind.

Datenschutz und Privatsphäre

• Es sollten keine persönlichen Daten von sich oder anderen in das KI-System eingegeben werden.
• Der Zugang zu den verschiedenen KI-Tools von Fobizz wird den Schülerinnen und Schülern ausschließlich von der Lehrkraft über einen anonymen und geschützten Zugang ermöglicht werden. Private Accounts zu KI-Tools sind von der schulischen Nutzung ausgeschlossen.
• Ein Neustart des verwendeten Endgerätes sollte nach jeder Sitzung erfolgen.

Verantwortungsvolle Nutzung

• Das KI-System darf nur für die vorgesehenen Lernzwecke verwendet werden.
• Fragen oder Anweisungen, die zu unangemessenen oder schädlichen Inhalten führen könnten, müssen vermieden werden.
• Die Nutzungsordnung „KI-Nutzungsordnung-BSK“ muss bei der Verwendung eingehalten werden.

Transparenz und Nachvollziehbarkeit

• Wichtige KI-Interaktionen sollten dokumentiert werden, besonders wenn diese für Aufgaben oder Projekte genutzt werden.
• Die Nutzung des KI-Systems in den Hausaufgaben muss offengelegt werden.

Kritisches Denken

• Die Antworten des KI-Systems müssen hinterfragt und wichtige Informationen überprüft werden. Die bekannten LLM berücksichtigen überwiegend alte Informationsstände. Sie sind darüber hinaus bekannt für das Phänomen der „Halluzination", bei der die KI scheinbar richtig und logisch erscheinende, aber falsche Aussagen erfindet.
• Das KI-System darf als Unterstützung, nicht als Ersatz für eigenes Denken und Lernen genutzt werden.

Fairness und Nichtdiskriminierung

• Möglicherweise sind KI-Antworten voreingenommen. Problematische Inhalte sollten nicht verwendet werden.
• Das KI-System darf nicht verwendet werden, um unfaire Vorteile gegenüber Mitschülern zu erlangen. Auch ohne direkten Personenbezug können Informationen diskriminierend sein. Eine KI könnte folgende Empfehlung geben: „Den Chemieleistungskurs sollten überwiegend Jungen und nur ausnahmsweise Mädchen belegen.

Urheberrecht und geistiges Eigentum

• KI-generierte Inhalte müssen entsprechend gekennzeichnet sein.
• Urheberrechtlich geschützte Werke sollten nicht ohne weiteres in das KI-System eingefügt werden (rechtlich ist die Verwendung noch nicht geklärt).

Feedback und Verbesserung

• Schülerinnen und Schüler sollten angeleitet werden, Rückmeldungen zur KI-Nutzung an ihre Lehrkräfte zu geben.
• Probleme oder Bedenken bezüglich des KI-Systems sollten umgehend besprochen werden.

Grenzen der KI-Nutzung

• Die von der Schule gesetzten Grenzen für die KI-Nutzung müssen respektiert werden.
• KI-Systeme sollten nicht für Prüfungen oder Bewertungen verwendet werden, es sei denn, es ist ausdrücklich erlaubt.

Kontinuierliches Lernen

• Es sollten regelmäßige Informationen über Aktualisierungen und neue Funktionen des KI-Systems geben.
• Schulungen zur KI-Nutzung sollten angeboten werden.

Menschliche Interaktion

• Das KI-System sollte als Ergänzung, nicht als Ersatz für den Austausch mit Lehrkräften und Schülerinnen und Schülern genutzt werden.
• Lehrkräfte müssen bei wichtigen Fragen oder Problemen Ansprechpartner bleiben.

Ethik in der KI-Nutzung

• Schülerinnen und Schüler sollten über die ethischen Implikationen der KI-Nutzung informiert werden, einschließlich der Auswirkungen auf die Gesellschaft und die möglichen Risiken.
• Diskussionen über die Verantwortung im Umgang mit KI und deren Einfluss auf Entscheidungsprozesse sollten gefördert werden.

Interdisziplinärer Ansatz

• Die Integration von KI in verschiedene Fächer sollte gefördert werden, um ein umfassendes Verständnis der Technologie zu ermöglichen.
• Projekte, die KI in Fächer wie Mathematik, Naturwissenschaften, Sozialwissenschaften und Kunst einbeziehen, sollten entwickelt werden.

Zusammenarbeit mit Fachleuten

• Schulen sollten Kooperationen mit Experten und Unternehmen im Bereich KI anstreben, um Workshops und Schulungen anzubieten.
• Gastvorträge von Fachleuten aus der KI-Branche können den Schülerinnen und Schülern wertvolle Einblicke und Inspiration bieten.

Förderung von Kreativität

• Schülerinnen und Schüler sollten ermutigt werden, kreative Anwendungen von KI zu erkunden, z.B. in der Kunst, Musik oder beim Programmieren.
• Projekte, die den kreativen Einsatz von KI fördern, können die Innovationsfähigkeit der Schülerinnen und Schüler stärken.

Unterstützung bei der Medienkompetenz

• Der Leitfaden sollte auch die Bedeutung der Medienkompetenz betonen, um Schülerinnen und Schüler darauf vorzubereiten, Informationen kritisch zu bewerten und verantwortungsvoll mit digitalen Inhalten umzugehen.
• Schulungen zur Erkennung von Fehlinformationen und zur verantwortungsvollen Nutzung von KI-Tools sollten angeboten werden.

Entwicklung von Problemlösungsfähigkeiten

• Die Nutzung von KI sollte auch dazu dienen, Problemlösungsfähigkeiten zu fördern. Schülerinnen und Schüler sollten lernen, wie sie KI-Tools effektiv zur Lösung komplexer Probleme einsetzen können.
• Projekte, bei denen Schülerinnen und Schüler reale Probleme mit Hilfe von KI angehen, können das praktische Lernen fördern.

Feedback und Evaluation des Leitfadens

• Der Leitfaden sollte regelmäßig evaluiert und aktualisiert werden, um sicherzustellen, dass er den aktuellen Entwicklungen im Bereich KI entspricht.
• Schülerinnen und Schüler sowie Lehrkräfte sollten in den Evaluationsprozess einbezogen werden, um ihre Erfahrungen und Vorschläge zur Verbesserung des Leitfadens zu berücksichtigen