Ein einfacher Trick
ELIZA suchte nach Schlüsselwörtern und formulierte Sätze um. Auf „Ich bin traurig“ antwortete sie „Warum bist du traurig?“. Sie verstand nichts, wirkte aber so, als höre sie zu.
Der ELIZA-Effekt
Weizenbaums Sekretärin soll ihn gebeten haben, den Raum zu verlassen, während sie sich mit dem Programm unterhielt. Das erschreckte den Autor, und er wurde zu einem Kritiker übertriebenen Vertrauens in Computer. Die Neigung, Maschinen Verständnis zuzuschreiben, heißt seitdem ELIZA-Effekt.
Von ELIZA zu ChatGPT
Heutige Sprachmodelle sind unvergleichlich leistungsfähiger, doch Weizenbaums Warnung gilt weiterhin: Auch eine überzeugende Antwort muss nicht wahr sein.