Un truco sencillo
ELIZA buscaba palabras clave y reformulaba las frases. A «Estoy triste» respondía «¿Por qué estás triste?». No entendía nada, pero daba la impresión de escuchar.
El efecto ELIZA
Se cuenta que la secretaria de Weizenbaum le pidió que saliera de la habitación mientras ella conversaba con el programa. Aquello asustó al autor, que se convirtió en un crítico de la confianza excesiva en los ordenadores. Desde entonces, la tendencia a atribuir comprensión a las máquinas se llama efecto ELIZA.
De ELIZA a ChatGPT
Los modelos de lenguaje actuales son incomparablemente más capaces, pero la advertencia de Weizenbaum sigue vigente: ni siquiera una respuesta convincente tiene por qué ser cierta.