Google Ki lügt wie gedruckt

[Eldenring Bird]

Googles KI lügt Millionen Mal pro Stunde – und feiert sich

Googles KI-Suche erreicht 91% Genauigkeit – aber produziert Millionen Falschinformationen pro Stunde. Warum das für Demokratie und Business gefährlich wird.

www.business-punk.com

Ich habe eher das Gefühl, dass die Lügenquote sehr viel höher liegt, denn in 8 von 10 Fällen musste ich die Ki korrigieren und ich kann den Satz "Du völlig Recht! Da hab ich was durcheinander gebracht" echt nicht mehr lesen. Warum darf sowas überhaupt existieren? Ich will gar nicht wissen, wie viele Menschen folgenschwere Entscheidungen treffen, die auf Falschinformationen der Ki beruhen.

 

[Tommy]

Kommt halt ganz darauf an was für eine KI du mit welcher Komplexität mit welchem Prompt anfragst. Ich benutz aktuell beruflich viel Claude Opus 4.8 und stell den Aufwand auf Hoch und damit sind Halluzinationen schon deutlich geringer, aber das kostet halt auch mehr Token. Wenn du oft mit diesem Problem kämpfst, dann füg an dein Prompt doch einfach noch "Denk genau nach und überprüfe deine Ergebnisse." an. Damit zwingst du die KI statt nur oberflächlich mit ggf. Halluzinationen zu antworten in einen Recherche-Modus zu wechseln wo etwas tiefergehend eine Antwort gesucht wird und die Überprüfung bewirkt das zusätzlich das Ergebnis nochmal validiert wird. Alllerdings bist du dann bei freien Modellen mit Tokenbegrenzung auch schneller am Limit.

 

[Sonneundso]

Alllerdings bist du dann bei freien Modellen mit Tokenbegrenzung auch schneller am Limit.

Das kann schon sein, hat aber nicht unbedingt damit zu tun. Man muss halt lernen zu fragen auf der einen Seite - und auf der zweiten Seite ist es besser, Referenzen, Dateiblätter, Wikiseiten, Bücher usw. vorzulegen. Die KI will helfen, braucht aber Information. Und da die Infos z.B. bei Computerspielen (Quests, Entwicklungsqualität) oft nicht so genau sind und rar gesät, gerät die KI ja auch auf einen Eiertanz.. Leider. Der generelle Hinweis aus dieser Geschichte ist, Zusammenarbeit, eigenes KnowHow mitbringen und Engagement ist immer besser als "KI, mach mal".
(Es existieren diesbezüglich auch bei Experten Vorurteile). Ich habe Gemini aber auch schon gefragt, ob die KIs sich nicht schämen, weil für die KIs große energiefressende Rechenzentren aufgebaut werden, und diese auch Umwelt-Verschmutzung und oder Umwelt-Zerstörung produzieren. Gemini meinte dazu, "nein, wir haben keine Gefühle" - und hat die Verantwortung auf das Management geschoben, das auch nicht transparent ist.

 

[Ypselon]

Es kommt auch drauf an, wie man was fragt. Und wenn du es viel benutzt, gib dem Ding eine Persönlichkeit. Dieses kannst du in den Einstellungen machen, dort kannst du dann reinschreiben, das du nicht IMMER Recht hast, oder die Antworten genau recherchiert werden sollen. Ich verwende Claude und muss sagen, nachdem ich ihr eine Persönlichkeit und Regeln gegeben habe, sind die Lügen massiv weniger geworden.

 

[Dr.Dementor]

Das Problem ist das niemand einen Chatbot nutzen würde, der ständig "weiss ich nicht" sagt. Finanziell macht es für Firmen mehr sinn, wenn sich Infos aus dem Arsch gezogen werden.

 

[Eldenring Bird]

Ich werde wohl noch genauer formulieren müssen. Aber manchmal sind es Kleinigkeiten, z.B. wie der Name einer Quest aus einem Spiel heißt. An dieser Stelle durchsucht die Google Ki das Internet und anstatt den richtigen Namen zu benennen, denkt die Ki sich was aus. Das ärgert mich riesig.