4. Welche Konsequenzen ergeben sich aus der Nutzung von KI-Systemen für Schülerinnen und Schüler im Rahmen von Leistungsfeststellungen unter Bezugnahme auf die rechtlichen Grundlagen, über die sie wie informiert werden?
Vielen Dank, Herr Wolf. Und für die Landesregierung antwortet das Ministerium für Bildung, Jugend und Sport. Herr Prof. Speitkamp, bitte schön.
Herr Präsident, meine Damen und Herren, die Mündliche Anfrage des Abgeordneten Wolf beantworte ich namens der Landesregierung wie folgt:
Die Herausforderungen, Chancen und Risiken von KI-Systemen der Schulen waren bereits Gegenstand der Sitzung des Ausschusses für Bildung, Jugend und Sport am 31. März 2023. Gern beantworte ich nun auch im Rahmen der Fragestunde noch einmal Ihre Anfragen, die bereits Gegenstand der Erörterung in der Ausschusssitzung waren.
Zu Frage 1: Wie bereits in der Sitzung des Ausschusses ausgeführt, lassen sich generell Chancen und Risiken generativer Softwaremodelle, die auf künstlicher Intelligenz basieren, für den Bildungsbereich aktuell nur grob abschätzen. Es handelt sich um eine hochdynamische und rasant fortschreitende Entwicklung. Generative KI-Modelle können unter anderem Texte in einer Qualität erzeugen, dass oftmals nicht zu erkennen ist, ob sie von einem Menschen produziert wurden oder nicht. Seitdem Ende November 2022 das generative KI-Modell ChatGPT veröffentlicht wurde und frei zugänglich ist, ergeben sich auch für den schulischen Alltag viele Fragen. Das Thüringer Ministerium für Bildung, Jugend und Sport vertritt die Auffassung, dass Schülerinnen und Schülern im Unterricht fundierte und nachhaltige Kompetenzen vermittelt werden sollen, die ihnen einen konstruktiven und produktiven Umgang mit generativen KI-Modellen ermöglichen. Es ist festzustellen, dass ein grundsätzliches Verbot des Einsatzes von generativen KI-Modellen in den Schulen realitätsfern und nicht durchsetzbar ist. Vielmehr kommt es darauf an, einen kompetenten Umgang mit generativen KI-Modellen für eine erfolgreiche Anwendung in Ausbildung, Beruf und Alltagswelt zu entwickeln. Dem kann und
wird sich Schule nicht verschließen. Den Rahmen gibt die 2018 erstellte Digitalstrategie Thüringer Schule vor. Hier ist die verantwortungsvolle Unterrichtsgestaltung durch die Thüringer Lehrkräfte und ihre kontinuierliche Fortbildung und Professionalisierung festgelegt. In diesem Sinn setzen sich die Thüringer Lehrkräfte mit positiven Wirkungen gleichermaßen auseinander wie mit negativen, um das Lernen und den Kompetenzaufbau der Kinder- und Jugendlichen für die Zukunft zu sichern. Es besteht die Notwendigkeit einer gemeinsamen Anstrengung von Schule, Schulaufsicht, der Lehreraus- und ‑fortbildung, das Thema auch für die Schulen weiter zu erschließen. Für die Auseinandersetzung mit dem Themenfeld ist die Lehrkräftefortbildung zentral.
Neben den bisherigen Aktivitäten des Thüringer Instituts für Lehrerfortbildung, Lehrplanentwicklung und Medien besteht die Initiative „KI in der schulischen und außerschulischen Bildung“. Hier entwickeln Vertreterinnen und Vertreter des ThILLM, der Landesmedienanstalt, der Stiftung für Technologie, Innovation und Forschung Thüringen, also STIFT, und weitere Partner ein umfangreiches Fortbildungsangebot zum Thema.
Zu Frage 2: Im Zusammenhang mit dem Einsatz von generativen KI-Modellen im Unterricht sind verschiedene rechtliche Aspekte zu beachten und insbesondere im Hinblick auf die Verarbeitung, Auswertung und gegebenenfalls Weitergabe von personenbezogenen Daten, die derzeit noch nicht abschließend bewertet werden können. Das ist auch deswegen nicht möglich, weil die jeweiligen Anwendungsmöglichkeiten und Nutzungsbedingungen von generativen KI-Modellen unterschiedlich sein können. Unabhängig davon gilt, dass der Einsatz von generativen KI-Modellen im Unterricht wie bei der Nutzung einer Online-Plattform oder einer App auch nur unter Beachtung der geltenden datenschutzrechtlichen Vorgaben erfolgen darf. Die Verantwortung für die Einhaltung des schulischen Datenschutzes trägt die Schulleitung. Dabei ist sorgfältig zu prüfen, inwieweit personenbezogene Daten der Nutzerinnen und Nutzer anfallen und gegebenenfalls technische und organisatorische Maßnahmen zu deren Schutz zu ergreifen sind. Hinweise darauf, welche Daten der Anbieter eines generativen KI-Systems verarbeitet, finden sich insbesondere in der Datenschutzerklärung und den allgemeinen Geschäftsbedingungen. Dies können zum Beispiel Daten sein, die zur Nutzung grundsätzlich erforderlich sind wie bei der Erstellung eines Kontos – hier sind eventuell Altersgrenzen zu beachten –, aber auch solche Daten, die bei der konkreten Nutzung automatisch entstehen. Wichtig ist daher, dass ein Anbieter transparent über seine Da
Mit Blick auf verschiedene Nutzungsszenarien in Schule und die bisherigen Erkenntnisse über die Nutzungsbedingungen generativer KI-Modelle wie zum Beispiel ChatGPT lassen sich die getroffenen Aussagen weiter untersetzen und Hinweise ableiten. Mit dem Ziel, diese Informationen leicht zugänglich zur Verfügung zu stellen, hat das TMBJS den Handlungsleitfaden „Umgang mit generativen KI-Modellen“ soeben am 25. April 2023 unter bildung.thueringen.de veröffentlicht.
Zu Frage 3: Zunächst sei hier auf die Antwort zu Frage 2 verwiesen. Die Rechtsgrundlage für die skizzierte datenschutzrechtliche Einordnung generativer KI-Modelle ist die Datenschutz-Grundverordnung. Die Datenschutz-Grundverordnung kommt bereits jetzt umfänglich bei der datenschutzrechtlichen Bewertung zur Anwendung. Weitere rechtliche Bewertungen hängen zum Beispiel davon ab, unter welchen Rahmenbedingungen die generativen KI-Modelle zum Einsatz kommen und welche Aufgaben damit bearbeitet werden, siehe auch gleich die Antwort auf Frage 4. Beispielsweise können bezogen auf die Gestaltung von Hausaufgaben im Hinblick auf generierende KI-Modelle wie zum Beispiel ChatGPT Anknüpfungspunkte in der Thüringer Schulordnung gefunden werden. Die hochdynamische Entwicklung rund um die Verwendung von generativen KI-Modellen wird seitens des TMBJS genau verfolgt und die weitere Auseinandersetzung auch in Abstimmung mit anderen Ländern im Rahmen etablierter und neu gegründeter Arbeitsgruppen der Kultusministerkonferenz begleitet.
Und zu Frage 4: Pauschale Antworten lassen sich an dieser Stelle nicht geben. Die rechtlichen Konsequenzen hängen davon ab, welche Rahmenbedingungen für die Erledigung der jeweiligen Aufgabe gestellt sind. Die rechtlichen Rahmenbedingungen sind zunächst durch die Vorschriften des Thüringer Schulgesetzes und der jeweiligen Schulordnung, zum Beispiel bei einer Täuschung, umrissen. Sollte es zu Täuschungshandlungen kommen, ergibt sich das Verfahren aus den Grundsätzen der Leistungsbewertung § 48 Thüringer Schulgesetz in Verbindung mit den jeweils einschlägigen Vorschriften der Schulordnungen. Um solche sowohl für Schülerinnen und Schüler als auch für Lehrkräfte belastende Situationen zu vermeiden, sollten die Rahmenbedingungen für die Erledigung der jeweiligen Aufgabe vorher deutlich kommuniziert und die Aufgaben bereits präventiv möglichst so gestellt werden, dass sie nicht ausschließlich mit Hilfe von generativen KI-Modellen erledigt werden können.
Im Handlungsleitfaden „Umgang mit generativen KI-Modellen“, der, wie gesagt, am 25. April 2023 auf unserer Homepage veröffentlicht wurde, werden Lehrkräften Hinweise gegeben, welche Vereinbarungen zur Kenntlichmachung der Verwendung von generativen KI-Modellen mit den Schülerinnen und Schülern getroffen werden können. Auch wenn diese Hinweise keine abschließenden Klärungen sein können, sind sie ein belastbarer erster Zugang.
Vielen Dank, Herr Staatssekretär. Gibt es eine Nachfrage? Das ist nicht der Fall. Es war aber auch eine sehr umfangreiche Antwort. Die verbleibenden Mündlichen Anfragen und nicht beantworteten Zusatzfragen sind gemäß § 91 Abs. 2 Satz 1 bzw. § 91 Abs. 4 Satz 4 der Geschäftsordnung schriftlich innerhalb von einer Woche ab dem Tag der Fragestunde durch die Landesregierung zu beantworten. Ich schließe diesen Tagesordnungspunkt.
Ich rufe erneut – ich bitte mal ein bisschen um Ruhe, Herr Kollege Montag, auch Sie sind gemeint – die Tagesordnungspunkte 15 und 20 auf, um die Wahlergebnisse bekannt zu geben.
Wahl eines Vizepräsidenten des Thüringer Landtags Wahlvorschlag der Fraktion der AfD - Drucksache 7/7807 -
Abgegebene Stimmzettel 71, ungültige Stimmzettel 0, gültige Stimmzettel 71. Auf den Wahlvorschlag entfallen 24 Jastimmen, 46 Neinstimmen, es liegt 1 Enthaltung vor. Damit ist die Mehrheit der abgegebenen gültigen Stimmen nicht erreicht.
Nachdem der Wahlvorschlag auch in einer ersten Wahlwiederholung nicht die notwendige Stimmenmehrheit erreicht hat, würde eine weitere Wahlwiederholung mit dem vorgeschlagenen Wahlbewerber eine Vorbereitung in einem Gremium außerhalb des Plenums erforderlich machen, beispielsweise im Ältestenrat.
Wahl eines Mitglieds des Kuratoriums der Stiftung für Technologie, Innovation und Forschung Thüringen (STIFT)
Abgegebene Stimmzettel 71, ungültige Stimmzettel 0, gültige Stimmzettel 71. Auf den Wahlvorschlag entfallen 27 Jastimmen, 40 Neinstimmen, es liegen 4 Enthaltungen vor. Damit ist die Mehrheit der abgegebenen gültigen Stimmen nicht erreicht.
Nachdem der Wahlvorschlag auch in einer ersten Wahlwiederholung nicht die notwendige Stimmenmehrheit erreicht hat, würde eine weitere Wahlwiederholung mit der vorgeschlagenen Wahlbewerberin eine Vorberatung in einem Gremium außerhalb des Plenums erforderlich machen, beispielsweise im Ältestenrat. Ich schließe diesen Tagesordnungspunkt.
a) Zweites Gesetz zur Änderung des Thüringer Kindergartengesetzes Gesetzentwurf der Fraktionen DIE LINKE, der SPD und BÜNDNIS 90/DIE GRÜNEN - Drucksache 7/6574 - dazu: Beschlussempfehlung des Ausschusses für Bildung, Jugend und Sport - Drucksache 7/7837 -
dazu: Finanzielle Mehrbelastungen der Kommunen ausgleichen Entschließungsantrag der Fraktion der CDU und der Parlamentarischen Gruppe der FDP - Drucksache 7/7852 -
dazu: Änderungsantrag der Fraktionen DIE LINKE, der SPD und BÜNDNIS 90/DIE GRÜNEN - Drucksache 7/7884 -
b) Zweites Gesetz zur Änderung des Thüringer Kindergartengesetzes Gesetzentwurf der Fraktion der CDU - Drucksache 7/6783 -
dazu: Änderungsantrag der Fraktionen DIE LINKE, der SPD und BÜNDNIS 90/DIE GRÜNEN - Drucksache 7/7885 -
Das Wort erhält Abgeordneter Schaft aus dem Ausschuss für Bildung, Jugend und Sport zur Berichterstattung zu beiden Tagesordnungspunkten. Bitte schön.
Vielen Dank, Herr Präsident. Werte Kolleginnen, liebe Zuschauerinnen auf der Tribüne und am Livestream, es liegen zwei Gesetzentwürfe vor. Das ist einerseits der Gesetzentwurf von Die Linke, SPD und Bündnis 90/Die Grünen, der eine gesetzliche Übernahme des Modellprojekts der praxisintegrierten Erzieherinnenausbildung vorsieht sowie eine Anpassung bezüglich geänderter arbeitsrechtlicher Regelungen nach TVöD. Der Gesetzentwurf der Koalitionsfraktionen wurde im November im Landtag zur ersten Lesung beraten und dann an den Bildungsausschuss überwiesen.
Ebenso liegt vor: der Gesetzentwurf der CDU mit der Änderung des § 23 Kindergartengesetz, Anpassung der Sachkostenpauschale sowie der Beträge zur Anerkennung der Förderleistungen von Kindertagespflegepersonen. Der Gesetzentwurf wurde nach seiner ersten Lesung dann im Dezember an den Ausschuss überwiesen.
Beide Gesetzentwürfe wurden in der 52. Sitzung des Ausschusses für Bildung, Jugend und Sport am 15. Dezember 2022 mit Beschluss einer schriftlichen Anhörung sowie in der 53. Sitzung des Ausschusses für Bildung, Jugend und Sport am 20. Dezember und in der 56. Sitzung am 25. April beraten. Die Anzuhörenden begrüßten überwiegend die vorgelegten Gesetzentwürfe. Die vorgelegten Änderungsanträge zu den Gesetzentwürfen wurden aufgrund ihrer kommunalen Relevanz auch noch mal den kommunalen Spitzenverbänden sowie auch den entsprechenden Vertreterinnen, wie der LIGA der Freien Wohlfahrtspflege, erneut zur Anhörung vorgelegt.
In der Ausschusssitzung am 25. April 2023, also der 56. Ausschusssitzung des Ausschusses für Bildung, Jugend und Sport, wurde dann mit Mehrheit die Annahme des Gesetzentwurfs von Die Linke, SPD und Bündnis 90/Die Grünen unter Berücksichtigung der vorliegenden Änderungsanträge aus der Vorlage 7/5001 sowie der mündlich vorgetragenen Änderungsanträge empfohlen. Ebenso hat der Ausschuss in der genannten Sitzung am 25. April die Annahme des Gesetzentwurfs der CDU unter Berücksichtigung der vorliegenden Änderungsanträge aus der Vorlage 7/5002 sowie der mündlich vorgetragenen Änderungsanträge empfohlen. Vielen Dank.
Vielen Dank, Herr Kollege Schaft. Jetzt habe ich zunächst die Frage, ob das Wort zur Begründung zu dem Entschließungsantrag gewünscht wird.
Herr Präsident, meine sehr geehrten Damen und Herren, Bildung kostet Geld und Bildung gibt es nicht kostenlos, deshalb haben natürlich auch bei diesem Gesetzgebungsverfahren die finanziellen Auswirkungen eine große Rolle gespielt. Einige finanzielle Auswirkungen haben wir schon mit dem Haushalt für dieses Schuljahr sehr deutlich abbilden können, bei anderen – das will ich hier am Pult noch mal so deutlich sagen – gab es durchaus sehr intensive Debatten im Beratungsverfahren, denn der Gemeinde- und Städtebund hat uns in der Anhörung darauf hingewiesen, dass die Verbesserung der Personalschlüssel bei dem Tarifabschluss, den sie damals gemacht haben, den Kommunen für das Jahr 2023 ungefähr 16,1 Millionen Euro Mehrkosten verursacht.
Ich bin der FDP-Fraktion dankbar, dass wir gemeinsam einen Entschließungsantrag hier in den Landtag eingebracht haben – der hoffentlich eine breite Mehrheit finden wird –, der noch mal feststellt, dass Bildung und gerade dieses Gesetz mit Mehrkosten verbunden sind, aber dass wir vor allem die Landesregierung bitten und auffordern, dem Bildungsausschuss relativ zeitnah, nämlich bis zum 23. Juni, zu berichten, wie die einzelnen Kosten berücksichtigt werden, auch mit Blick auf die Tarifsteigerungen, die in der letzten Woche geschehen sind, was da eventuell der Landtag auch noch vornehmen