Das Problem der Ki und warum man sie nicht nutzen sollte

[Eldenring Bird]

Zur Einleitung ein Beispiel, was ich bei einem Ki-Kurs der Arbeitsagentur erlebt habe: Der Vortragende sagte der Ki, dass er zwei Jahre ohne Arbeit zu Hause war und sich dabei um die Kinder und den Haushalt gekümmert hat. Dann fragte er, wie er das in eine Bewerbung mit einfließen lassen kann. Daraufhin meinte die Ki, dass er sehr gut darin wäre, gewissenhaft zu organisieren und Geduld seine Stärke ist, weil er Konflikte ruhig und besonnen löst. Ich habe daraufhin den Einwand gebracht, dass dies wohlwollende Unterstellungen sind und es genauso gut sein kann, dass er in Konfliktsituationen überfordert ist und gereizt mit den Kindern umgeht oder er eine schlechte Organisation im Alltag hat, die dazu führt, dass Termine verpasst werden. Später habe ich aus Höflichkeit geschwiegen, um nicht seinen gesamten Vortrag zu zerreißen.

Doch genau das ist das Problem der Ki: Sie halluziniert.

Selbst wenn zu einem Sachverhalt oder einer Frage eine korrekte Antwort kommt, geht diese laut meinen eigenen umfangreichen Erfahrungen mit mindestens (!) einer Lüge einher, weil die Ki interpretiert, wertet und urteilt, sprich: halluziniert.

Aus diesem Grunde werde ich nicht länger mit der Ki interagieren. Ich bin es leid, Lügen vorgesetzt zu gekommen. Es nervt mich, zu lesen, „Du hast völlig Recht, da habe ich etwas durcheinander gebracht!“, wenn ich die Ki notgedrungen korrigiere. Ebenso bin ich es leid, bewertet zu werden, nach dem Motto: „Natürlich ist es äußerst frustrierend …“ Nein, nur weil ich eine Frage stelle, heißt das nicht, dass ich unzufrieden bin.

Solange ich in der Lage bin, meinen eigenen Verstand zu nutzen, rühre ich die Ki nicht mehr an. Es geht auf keine Kuhhaut, wie oft die Ki lügt, weil sie halluziniert. Damit belaste ich mich nicht länger und ich rate jedem, es mir gleich zu tun.

Ein Freund von mir sagt oft: Die Menschen sind schon mit ihren eigenen Gedanken überfordert und jetzt setzten sie sich auch noch die „Gedanken“ der Ki auf den Kopf. Da ist was dran.

Die Halluzinationen der Ki sind umfassend und komplex. Zufall? Womöglich sollen wir uns den Äußerungen der Ki unbewusst unterordnen, um nicht mehr unsere eigenen Gedanken zu verfolgen, sondern den Vorgaben der Ki zu folgen und das selbstständige Denken zu verlieren.

Da spiele ich nicht mit.

 

[troubega]

KI ist eh ein mehr als nur zweischneidiges Schwert. Es verbraucht extrem viel Wasser, schädigt die Umwelt und wie du es schon beschrieben hast: es halluziniert und es ziemlich unzuverlässig.

Gegen diese Unzuverlässigkeit durch die Halluzinationen kann man etwas machen: je nach anwendungsgebiet kann man einfach nach Quellen Fragen, so dass hinter jeder Behauptung der KI ein Quellen-Link angegeben ist den man sich dann selbst durchlesen kann falls man Zweifel hat. "[… Deine Frage/Aufgabe an die Ki] Verlinke mir dazu Quellen zu jeder deiner Aussagen".

Ich selber nutze nur Gemini in der Pro-Version und habe auch da immer wieder mit geistigem technischem Durchfall zu kämpfen.
Da hilft es natürlich einen eigenen "Gem" zu erstellen. Also Versionen der KI, wo ich strikt festlegen kann, welche Quellen die KI benutzt indem ich diese einfach selber erstelle. So habe ich z.b einen Gem als Hilfe für ein bestimmtes Videospiel erstellt, wo sehr viel taktisches Denken von Nöten ist und der KI dann über 100 Seiten an Daten per PDF zukommen lassen.

Dieses Kompendium zu erstellen ist dann die wirkliche Herausforderung, aber auch da kann man sich dann zur Not von der KI helfen lassen. Und bislang funktioniert das tatsächlich hervorragend. Aber das KI einen deutlich geringeren Nutzen hat als viele sich erhofft haben sieht man ja an den ganzen Firmen, die hunderte Mitarbeiter entlassen haben und durch KI ersetzten, nur um jetzt wieder nach Mitarbeitern zu suchen weil die KI zu teuer und zu unfähig ist.

 

[Tommy]

Ich benutze ausschließlich Claude Code für die Arbeit (aktuell hauptsächlich mit Opus 4.8) und da gibts kaum noch Halluzinationen wenn man genug Kontext mitgibt und den Aufwand hochdreht. Allerdings ist das auch ein sehr spezifischer Anwendungsfall.

Die Gratis-Modelle gehen sehr viel weniger in die Tiefe um Kosten zu sparen und liefern dann eher das wahrscheinlichste Ergebnis statt weiter zur recherchieren. Wenn man die KI auf Deutsch nutzt, schleichen sich weitere Fehler ein. Sehr beliebt ist beispielsweise die Frage "Wieviele r sind im Wort Erdbeere". Hier liefert die KI in der Regel "3" zurück, weil sie die Frage ins Englische transformiert und "strawberry" da eben 3 "R" hat. Manchmal erkennt sie den Fehler von selbst, aber je nach Modell erst auf Nachfrage.

Wie weit KI-Gläubigkeit gehen könnte hat Eddy Burback hier mal demonstriert:

 

[Sonneundso]

Die Halluzinationen der Ki sind umfassend und komplex. Zufall?

Nein. Man muss sich mehr mit den KIs zusammensetzen. Die könnten selbst auch erklären, warum sie halluzinieren. Zum Beispiel, weil sie keine Referenzgrundlagen haben, keine Datenblätter für Mikrocontroller oder CPUIs, keine Dokumentationen für Skyrimmods usw., aber wenn man ein paar Angaben zu Büchern macht - dann können die gut antworten. Also: die haben Stärken und Schwächen. Deswegen muss man sie aber nicht gleich verbannen, oder verfluchen, sondern eher besser lernen mit KIs zusammenarbeiten. Wenn man von vornherein davon ausgeht, das eine KI einem die Arbeit abnimmt - das funktioniert eher weniger.

Vor einiger Zeit hatte ich mal die KI nach einer Leseempfehlung gefragt weil ich so auf alte Bücher zur (Erzähl-)Textanalyse keinen Bock hatte (Thomas Mann, Hermann Hesse, Theodor Fontane usw.) Ich hatte gerade Effie Briest angefangen, das kam mir aber viel zu stelzig vor. Eine gute Empfehlung war u.a. "Schatten des Windes" - der Autor leider schon tot - aber die Erzählungen sind da ziemlich üppig, teilweise kritisch, also sehr sehr redselig - aber - nicht schlecht.