KI Werkzeuge sind meistens weit über den Status reiner Chatbots mit Large Language Modellen (LLM) hinaus gewachsen. Zusätzliche Funktionalitäten halten Einzug, wie zum Beispiel Dokumente und Bilder analysieren, sprachliche Ein- und Ausgaben oder die Verknüpfung mit einer Internet Suche.
KI-Assistenten als Spezialisten
Ein vielversprechendes Experimentierfeld ist die Bereitstellung sogenannter KI-Assistenten (Agents). Im Prinzip wird der KI hier im Vorfeld eine benutzerdefinierte Anweisung (custom instructions) und eventuell spezielle Quellen oder Fähigkeiten, wie Internet Recherche mitgegeben und das KI Tool für Spezialaufgaben vorzubereiten.
So kann man bei den gängigen Anbietern mit historischen Persönlichkeiten chatten, Hilfe bei der Rechtschreibung bekommen, Texte umformulieren, passende Bilder erstellen lassen und vieles mehr.
Besonders heikel kann es werden, wenn der Output dieser Assistenten zu direkten Aktionen in der realen Welt führen kann. Es gibt Korrekturhilfen (siehe auch KI Korrekturhilfe auf dem Prüfstand – ein geeignetes Tool für Lehrkräfte? – LernSachen), Feedback Assistenten mit Bewertungsvorschlägen, Assistenten zur Zeugniserstellung, Diagnostik Tools und vieles mehr.
Human in the Loop
Dabei sollte immer beachtet werden, dass automatisierte Systeme nie selbstständig die finale Entscheidung über wichtige Angelegenheiten treffen dürfen (Siehe auch Key Issue 4: Human Oversight – EU AI Act).
Man kann sich von der KI helfen und inspirieren lassen, muss aber als menschlicher Faktor immer im Entscheidungsprozess aktiv und final kompetent bleiben. Dies wird als Prinzip auch unter dem Stichwort human in the loop (Human-in-the-loop – Wikipedia) oder von Jöran Muuß-Merholz als Ping-Pong Metapher (Ping-Pong-Denken mit der KI – Zusammenarbeit von Mensch und Maschine – J&K – Jöran und Konsorten) bezeichnet.
One-Trick-Pony
Bei der Verwendung solcher Assistenten muss man aber sehr aufpassen. Die meisten KI Tools können nämlich nur eine Sache richtig gut:
KI Systeme simulieren menschliche Gedankengänge und formulieren ihren Output so, dass das Ergebnis stimmig aussieht.
KI-Detektor
Der Anbieter SchulKI bewarb zuletzt so einen Assistenten. Der KI-Detektor soll herausfinden können, ob ein Text von einem Mensch oder von einer Maschine verfasst wurde. Möglicherweise als Hilfestellung für gestresste Lehrkräfte gedacht, die sich nicht mehr sicher sein können, ob die Hausaufgabe von den Schülerinnen und Schülern selbst erdacht wurde, oder ein beliebiges KI-Modell hier zum Einsatz kam.
Nur falsche Ergebnisse
Ein bisschen skeptisch war ich schon, ob man so einen Tatbestand technisch mit einem Klick identifizieren kann. Noch dazu, wenn der KI-Output ja auch noch durch menschliche Interaktion modifiziert worden sein könnte.
Ich habe also eine Pressemitteilung des Heise-Verlags über einen neuen Roboter (UBTech zeigt humanoiden Roboter Una in Form einer Frau | heise online) über das KI Tool Perplexity mit dem R1 Modell von DeepSeek in eine Zusammenfassung umwandeln lassen. Diesen reinen KI Output habe ich ohne weitere Nachbearbeitung in das KI-Detektor Tool (https://schulki.de/media/create/plagiarism) gegeben.
Ergebnis: 99,7% menschlich
Ich habe den Versuch mehrmals mit unterschiedlichen Quellen wiederholt. Das Tool war sich immer mit nahezu 100% sicher, dass der Text von einem Menschen verfasst wurde.
Fazit
Was sind solche Tools also Wert? Ähnliche Erfahrungen konnten wir schon beim KI-Korrektur Tool (KI Korrekturhilfe auf dem Prüfstand – ein geeignetes Tool für Lehrkräfte? – LernSachen) beobachten.
Es muss noch stärker das Augenmerk auf das kritische Reflektieren solcher KI Angebote gerichtet werden. Ich behaupte, dass nicht alle Lehrkräfte, die den Zugang zu solchen Assistenten bekommen, so tief in der Materie eingearbeitet sind, dass genug Zweifel aufkommen, ob die Ergebnisse solcher Helferlein uneingeschränkt genutzt werden können. Noch dazu, wenn die Anbieter immer wieder mit einfachen Lösungen und Zeitersparnis werben.
LernSachen 