KI‑Erkennungstools in neuseeländischen High Schools führen zu falschen Anschuldigungen

KI‑Erkennungstools in neuseeländischen High Schools werden unzuverlässig eingesetzt, was zu falschen Anschuldigungen von KI‑Betrug führt und Schüler sowie deren Familien in unnötige Konflikte und lange Beschwerden verwickelt.

Einführung des Problems

NSW‑Public‑Schools nutzen KI‑Erkennungstools, um angeblichen KI‑Betrug zu melden. In vielen Fällen klassifizieren diese Tools legitime Schülerarbeiten fälschlicherweise als AI‑generiert.

Fallbeispiel Gabe Jones

18‑jähriger Gabe wurde mehrmals wegen angeblichem KI‑Betrug aus dem Unterricht gezogen und musste den Nachweis seiner Unschuld erbringen. Seine Eltern wurden zunächst über die Vorwürfe nicht informiert.

Umgang mit Beschwerden

Eltern (Trevor Jones) klagen bei der NSW Department of Education und dem Ombudsmann, jedoch ohne klare Entschließung. Der Prozess dauerte bis zu sechs Monate, mit mehrfachen Schritten (Schulaufsicht, Department, Ombudsmann). Der Ombudsmann konnte zunächst nichts tun, weil die Department noch untersuchen müsse; spätere Entschuldigung für Verspätung.

Regulatorische Unsicherheit

Die NSW-Regierung gibt keine klare Richtlinie für KI‑Erkennungs‑Tools in Schulen vor. Früher war auf der Website eindeutig vermerkt, dass keine Tools verlässlich seien; dies wurde später entfernt, was für Verwirrung sorgte.

Weitere betroffene Schüler

Sophie McDonald (Armidale Secondary College) erhielt automatische Nullpunkte, weil ein KI‑Tool 100 % AI‑Verwendung meldete; sie konnte Prüfungen erneut ablegen, jedoch mit sehr eingeschränkten Rahmenbedingungen. Multiple Schulen haben ein System implementiert, bei dem bei KI‑Fälschung ein sofortiges „Auto‑Zero“ geschaltet wird.

Auswirkungen auf Schüler

Schüler verspüren stigmatisierende Behandlungen, werden öffentlich als „Cheater“ bezeichnet, und erleben erhebliche psychische Belastungen. Viele fühlen sich in den Gerichts‑ bzw. Prüfungsprozess gedrängt, obwohl die Beweislage unklar bleibt.

Expertenmeinung

Professor Jason Lodge kritisiert die Trial‑and‑Error‑Herangehensweise und fordert eine Paradigmen‑Veränderung: weniger Fokus auf Täuschungserkennung, mehr auf Lernbeleg. Er fordert koordinierte nationale Maßnahmen und erhebliche Investitionen; bislang hat die Bundesregierung keine konkreten Schritte angekündigt.

Gesamtbild

KI‑Erkennungs‑Tools werden ohne eindeutige Schulrichtlinien eingesetzt, führen zu falschen Beschuldigungen, und die Beschwerdewege sind langwierig und ineffizient. Schüler und Lehrer benötigen klarere, zuverlässige Verfahren, die den Fokus von „Verwandlung von AI‑Betrug“ zu „Beweis von Lernen“ verschieben.

Quelle: ABC News