I Set A Trap To Catch My Students Cheating With AI. The Results Were Shocking.

Super clickbait title, so in case you just want the conclusion here it is: "To my students and to anyone who might listen, I say: Don’t surrender to AI your ability to read, write and think when others once risked their lives and died for the freedom to do so."

But to anyone that might want stop at the title and the tl;dr, i highly recommend to take some time and read the article. It is a well written short story that talks about delegating critical thinking and problem solving to a cheap cop-out and philosophize about the disruptive effects of the technology for students.

And it has some memorable parts, like "The essays produced by ChatGPT, for instance, are soulless, boring abominations. Words, phrases and punctuation rarely used by the average college student — or anyone for that matter (em dash included) — are pervasive."

It's so upsetting and frustrating to see this tech utterly sabotage education. It of course sounds like the ageless echo of elders decrying new technology for "corrupting the youth". Maybe it is, maybe we're all utterly wrong, but this feels fundamentally different than books, television, the internet, etc. Students are not learning in new ways, or learning any skills to improve or expand their knowledge - they are copy-pasting and accepting whatever slop they get without further critique or oversight. They are turning their crucial education into a button press and not giving it a second thought. That's never going to lead to intellectual improvement.

Bearbeitung: wegen der Sprache im Artikel hatte ich nicht bemerkt, dass dies eine deutschsprachige Gesellschaft ist. Ich hab gerade kein bock genau zu übersetzen, aber der Kern ist also: Ich benutze KI, um meine exekutive Dysfunktion zu umgehen, aber ich mache mir Sorgen, dass ich dadurch noch ein heftigeres Problem mit exekutiver Dysfunction entwickle, wobei das eigentlich unproblematisch sein könnte, wenn KI überall bleibt. Trotzdem ist das viel Wasser zu verschwenden, um mir Anweisungen zu schreiben und ich hab sowieso ein schlechtes Gewissen

I feel awful for using AI every time I do. I have used it for the kind of braindead shit people worry about because my brain’s executive functioning is theoretical at best, and sometimes I do need to break things down into very small steps, but I get overwhelmed by the number of small steps in normal activities, so I can’t think about reasonable ways to break them down.

I’m torn, because on the one hand, that’s the reasonable use case- I’m correcting for a dysfunction. On the other hand, it can’t be helping my executive function in general to outsource all of the instructions. On the first hand again (sorry), if LLM-based AI is here to stay, I might just be worried about the equivalent of not knowing my times tables (it’s important to know, but anyone can look it up at any time and I’m not holding it against people with dyscalculia if they don’t).

Don’t surrender to AI your ability to read, write and think when others once risked their lives and died for the freedom to do so.

Haben wir die Fähigkeit zu lesen, zu schreiben und zu denken nicht schon vor 20 Jahren dem mächtigen Algorythmus geopfert?

Die Studenten mogeln, aber gab es das nicht schon immer? Ob ich irgendwo einen Spickzettel habe, einen Freund die Arbeit schreiben lasse oder jetzt KI - gelernt habe ich dabei nichts (naja ev. beim Spickzettel Schreiben selbst).

Witzigerweise geht der Autor selbst noch auf die Ursache ein:

Students are afraid to fail, and AI presents itself as a savior. But what we learn from history is that progress requires failure.

Warum haben die Angst zu Versagen? Steht auch im Artikel:

A college degree is not just about a job afterward — you have to be able to think, solve problems and apply those solutions, regardless of the field.

Nur dass man halt ohne Abschluss schlechter da steht. Mit Abschluss kriege ich wenigstens die Chance auf einen solchen Job. Klar kann ich dort versagen (und die Wahrscheinlichkeit ist höher, wenn ich nur dank KI/Mogeln durchgekommen bin) - aber ohne Abschluss krieg ich diese Chance gar nicht erst. Auch wenn ich beispielsweise in der "Praxis" meine Leistung erbringen kann aber das Studium selbst mir einfach nicht liegt.

Aber auch darauf geht der Author knapp ein:

a very different cultural conversation we need to have

Also wie immer bei KI: Es ist ein Werkzeug, und das kann halt mehr oder weniger sinnvoll eingesetzt werden (und ja, viele aktuelle Anwendungszwecke sind mehr als fragwürdig). Es zeigt aber auch Probleme in unserer Gesellschaft auf, welche ohne KI einfach als "gegeben" hingenommen werden. Vielleicht sollten wir damit anfangen, diese Umstände zu hinterfragen, statt einfach alles auf "KI böse" zu schieben.