Ich habe gerade ein sehr interessantes, gehaltvolles und auch gut geschriebenes und designtes Buch gelesen, das u.A. erklärt, warum die LLMs manche Leute so obsessiv werden lassen:

Baldur Bjarnason, The Intelligence Illusion, ISBN 978-9935-449-16-0 (Link)

Kurz gesagt sind es:

• Anthropomorphisierung, also die menschliche Tendenz, anderen Dingen und auch Maschinen ein Bewusstsein / Eigenleben zuzuschreiben (“MS Word will heute nicht”)
• Ausgabe von Sprache, bisher ein, äh, relativ Sicheres Anzeichen für Vorhandensein von Intelligenz
• die menschliche Tendenz, irgendwelche Aussagen mit Bezug auf einen selber zuzustimmen
• Barnum Effect / Forer Effect , ein Merkmal z.B. von Horoskopen und Hellsehern
• die Tendenz Aussagen zu machen die so allgemein sind dass sie immer irgendwie stimmen
• die AI Assistenten wiedersprechen nie und haben immer eine Antwort - auch wenn sie für diese kompletten Unsinn fabrizieren
• Eliza Effect

Teils sind diese Eigenschaften prinzipbedingte Eigenschaften der “generativen AI”. Teils wohl auch gezieltes Design durch die Tech-Konzerne, ähnlich wie z.B. die Facebook-Software ganz bewusst als “addictive by Design” gestaltet ist.

Ingesamt führt dass bei den Betroffenen dazu, dass das LLM nicht nur als bewusst sondern superintelligent wahrgenommen wird. Die offensichtliche Unfähigkeit, die diese Systeme mit einfachsten logischen Aufgabenstellungen haben (“Ich will mein Auto waschen. Die Waschanlage ist 500 Meter weit weg. Soll ich zu Fuss gehen oder mit dem Auto fahren?”), wird übersehen. (Vielleicht weil bestimmte Computersysteme, wie Algebra-Expertensysteme, Schachcomputer, oder numerische Wettermodelle erstaunliche Leistungen vollbringen - diese aber mit generativer AI bzw. LLMs rein gar nichts zu tun haben)