Grok – was kann da schon schiefgehen?

[Gunnar Bittersmann]

„Die jüngsten Ereignisse könnten jedoch darauf hindeuten, dass das Ziel nicht unbedingt darin liegt, eine besonders pragmatische Künstliche Intelligenz zu erschaffen, die Inhalte basierend auf Fakten generiert oder Daten neutral interpretiert. Stattdessen vertritt Grok auffallend oft das Weltbild von Elon Musk und handelt auch entsprechend.“

😱

Vom KI-Factchecker zum „MechaHitler“: Wieso Elon Musks Grok nicht nur ein weiterer Chatbot ist

🖖 Live long and prosper

[Rolf B]

Hallo Gunnar Bittersmann,

früher sagten wir: trau keiner Statistik, die Du nicht selber gefälscht hast.

Und heute trauen wir keinem Chatbot, den wir nicht selbst trainiert haben… Da das für Nadja Normalprogrammiererin aber an der Hardware scheitert, bleibt nur die Suche nach einem vertrauenswürdigen AI-Dompteur.

Oder auch nicht. Aus MEINER Sicht sind diese generalisierten LLM Bots etwas, das man mit der Kneifzange anfassen sollte - um die Stromleitung zu durchtrennen. Zu viele Menschen verlassen sich darauf, dass da etwas Sinnvolles und Belastbares herauskommt, und genau dieser Verlass besteht nicht. Statt dessen bekommt man Halluzinationen, Politisches Vorurteil und jede Menge Fake-Bilder und -Videos.

Ich habe schon von Leuten gehört, die große Teile ihrer Arbeit von ChatGPT machen lassen (z.B. Angebote erstellen). Respekt, dass das Ding das kann, aber ist dieses Angebot verlässlich? Wer prüft am Ende, ob Kollege LLM da nicht irgendeinen Posten hineinhalluziniert hat? Am Anfang vielleicht noch dieser mein Bekannter, der mir das stolz erzählte. Irgendwann verlässt er sich blind drauf. Bis jemand das Modell „optimiert“ und es kracht.

Oder ich bin einfach zu alt, um die Visionen der 60er Jahre SF in der Realität wiederfinden zu wollen. Viele davon waren zu dystopisch (wer erinnert sich an Colossus?) - an Skynet, das Gerüchten aus dem Jahr 1984 zufolge in 3 Jahren fertig sein soll, denke ich da noch gar nicht.

Rolf

[Ryuno-Ki]

Moin Rolf,

wir wissen seit ELIZA dass der Kram da Schmarrn ist.

Schade nur, dass auch Aspekte wie Materialforschung da reingemischt werden.

Gruß,

André

[klawischnigg]

Hi there,

Oder auch nicht. Aus MEINER Sicht sind diese generalisierten LLM Bots etwas, das man mit der Kneifzange anfassen sollte - um die Stromleitung zu durchtrennen. Zu viele Menschen verlassen sich darauf, dass da etwas Sinnvolles und Belastbares herauskommt, und genau dieser Verlass besteht nicht. Statt dessen bekommt man Halluzinationen, Politisches Vorurteil und jede Menge Fake-Bilder und -Videos.

Naja, das hängt davon ab, wofür man es nutzt. Ich hab da als Programmierunterstützung oder als allwissendes Handbuch bspw. für meine Synthesizer eigentlich nur gute Erfahrungen gemacht und unter anderem viel Zeit damit gespart. Dass nicht immer alles korrekt ist mag ja stimmen, aber das trifft auf jede Information oder auf jeden Erfahrungserwerb zu. Ein gewisser Gegencheck ist immer notwendig.

Die politische "Einstellung" der KI, deren Vorurteile oder sonst irgendwelche tendenziösen Attitüden sind mir persönlich genauso wurscht wie das Weltbild meines Rasenmähers. Für mich ist das kein Diskussionspartner für allfällige persönliche oder gesellschaftliche Probleme sondern ein Werkzeug, das sich dort gut einsetzen läßt, wo ich es benötige.

Oder ich bin einfach zu alt, um die Visionen der 60er Jahre SF in der Realität wiederfinden zu wollen. Viele davon waren zu dystopisch (wer erinnert sich an Colossus?) - an Skynet, das Gerüchten aus dem Jahr 1984 zufolge in 3 Jahren fertig sein soll, denke ich da noch gar nicht.

In jedem Fall wirst Du das so oder so nicht aufhalten können, egal ob Du KI nur mit der Kneifzange oder gar nicht anfasst...

[Rolf B]

Hallo klawischnigg,

In jedem Fall wirst Du das so oder so nicht aufhalten können

Das ist ja das Schreckliche. Die KI-System drängeln sich überall hinein, werden einem an jeder Ecke das das neue Non-Plus-Ultra-SuperDuperFeature angepriesen. Und es stimmt ja auch. Mein Brötchengeber schaut sich derzeit nach einem neuen Callcenter-System um, und die KI-Funktionen darin sind wirklich nützlich. Transkribierung eines Kundenanrufs ohne KI ist oft Gestammel, weil Spracherkennung je nach Sprechweise scheitern kann. Zusammenfassen eines Anrufs zur Dokumentation müssen die Agenten derzeit manuell tun. Generieren von Ansagen mit richtiger Betonung ohne KI ist oft arg daneben. Und die virtuellen Agenten mit KI können eine beeindruckende Menge an Standardaufgaben erledigen, ohne dass ein Mensch zuguckt. Hoffentlich tun sie es richtig. Und hoffentlich tun sie es auch im echten Leben und nicht nur in den Demos, die wir gezeigt bekommen.

Beim Programmieren mag es auch hilfreich sein, ich habe bisher einen Zwangsbogen drumherum gemacht (mein Brötchengeber blockt diese Kopiloten, weil Betriebsinterna abfließen könnten). Aber mein Sohn hat mit MatLab arbeiten müssen, ohne Ahnung davon zu haben, und der Copilot in VSCode hat ihm die Codefragmente nach Beschreibung säuberlich hinprogrammiert 😲.

Am Ende sind wir davon so abhängig geworden, dass wir ohne KI gar nichts mehr tun können. Oder wollen. Wenn dann die 🧟🧟🧟-Apokalypse kommt (so wie gestern in ST:SNW 3.3), oder der Strom ausfällt, sind wir unrettbar hilflos.

Rolf

[klawischnigg]

Hi there,

Am Ende sind wir davon so abhängig geworden, dass wir ohne KI gar nichts mehr tun können.

Ja, diese Gefahr ist wahrscheinlich real. Weil aufgrund mangelnden Bedarfs früher oder später die menschliche Expertise fehlen wird. Wir wissen, es ist nie die Frage, ob ein technisches System ausfällt sondern nur wann. Wenn in solchen Fällen der Plan B nicht zur Hand ist, dann kann das je nach Einsatzweck unter Umständen verheerende Folgen haben.

Was wir aber ebenso wissen ist, daß das nichts daran ändern wird, daß alles, was möglich ist, auch auf Teufel komm' raus umgesetzt werden wird. Die Fantastilliarden an Rationalisierungsgewinnen sind jetzt schon zu verlockend.

Oder wollen. Wenn dann die 🧟🧟🧟-Apokalypse kommt (so wie gestern in ST:SNW 3.3), oder der Strom ausfällt, sind wir unrettbar hilflos.

Naja, das Argument ist eher schwach - wenn der Strom ausfällt, dann war zumindest bei unseren Tätigkeiten schon vor Jahrzehnten Schicht im Schacht (also, sobald halt der Akku des letzten noch vorhandenen Notebooks seinen Geist aufgegeben hat)...😉