KI-Erkennungstools in neuseeländischen High Schools: Falsche Anschuldigungen und ihre Folgen

KI-Erkennungstools werden in vielen neuseeländischen High Schools eingesetzt, um angeblichen KI‑Betrug zu melden. Doch die Technologie ist oft unzuverlässig und führt zu falschen Anschuldigungen. Das Resultat ist eine Kette aus Konflikten, langen Beschwerdeprozessen und psychischen Belastungen für Schüler und ihre Familien.

Fallbeispiel Gabe Jones

Der 18‑jährige Gabe Jones wurde mehrfach wegen angeblichem KI‑Betrug aus dem Unterricht gezogen. Erst nachdem er seine Unschuld nachgewiesen hatte, wurden die Vorwürfe zurückgenommen. Seine Eltern wurden erst später informiert und mussten selbst Klagen beim NSW Department of Education und dem Ombudsmann einreichen.

Umgang mit Beschwerden

Der Prozess dauerte bis zu sechs Monate und umfasste mehrere Schritte – Schulaufsicht, Department, Ombudsmann. Zunächst konnte der Ombudsmann nichts tun, weil die Department noch untersuchen musste. Erst später entschuldigte er sich für die Verzögerung.

Regulatorische Unsicherheit

Die NSW-Regierung gibt keine klare Richtlinie für KI‑Erkennungs‑Tools in Schulen vor. Früher wurde deutlich vermerkt, dass solche Tools unzuverlässig seien; diese Mitteilung wurde später entfernt, was zu Verwirrung führte.

Weitere betroffene Schüler

• Sophie McDonald (Armidale Secondary College) erhielt automatische Nullpunkte, weil ein KI‑Tool 100 % AI‑Verwendung meldete. Sie konnte Prüfungen erneut ablegen, jedoch mit sehr eingeschränkten Rahmenbedingungen.
• Mehrere Schulen haben ein System implementiert, bei dem bei KI‑Fälschung ein sofortiges „Auto‑Zero“ geschaltet wird.

Auswirkungen auf Schüler

Schüler werden öffentlich als „Cheater“ bezeichnet, erleben erhebliche psychische Belastungen und fühlen sich in Gerichts‑ bzw. Prüfungsprozesse gedrängt, obwohl die Beweislage unklar bleibt.

Expertenmeinung

Professor Jason Lodge kritisiert die Trial‑and‑Error‑Herangehensweise und fordert eine Paradigmen‑Veränderung: weniger Fokus auf Täuschungserkennung, mehr auf Lernbeleg. Er fordert koordinierte nationale Maßnahmen und erhebliche Investitionen.

Gesamtbild

KI‑Erkennungs‑Tools werden ohne klare Schulrichtlinien eingesetzt, führen zu falschen Beschuldigungen und machen die Beschwerdewege langwierig und ineffizient. Schüler und Lehrer brauchen klarere, zuverlässige Verfahren, die den Fokus von „Verwandlung von AI‑Betrug“ zu „Beweis von Lernen“ verschieben.

Quelle: ABC News