IA: No Todo Lo Que Brilla Es Oro (5)

Nuestro conocido John Atkinson Abutridy publicó, como siempre un interesante análisis respecto a la "I de IA". Los invitamos a leerlo.

Fuente: https://tinyurl.com/mrys25vr

La imagen anterior refleja el concepto de ofrecer cualquier cosa respecto a la IA sin entender bien de qué se trata. Por eso nos pareció interesante incluir sus comentarios en esta serie.

Con el preámbulo de “bajar la pelota” comparte las siguientes ideas:

1. Ningún LLM razona ni piensa. Para esto se requiere de capacidades cognitivas y meta-cognitivas que los LLM NO poseen, lo que implica un cambio de paradigmas más allá del mundo de la IA generativa.

2. Lo que Ud. cree que es "razonamiento" (o "pensamiento") cuando utiliza alguna aplicación conversacional de LLMs es simplemente una ILUSIÓN que es muy poco robusta, inestable e inconsistente entre interacciones y tareas. Este fenómeno generalmente se debe a ciertos patrones que se generan (y que producen ciertos comportamientos 𝘦𝘮𝘦𝘳𝘨𝘦𝘯𝘵𝘦𝘴) como resultado de la no-linealidad de múltiples redes neuronales que predicen y que son parte de la arquitectura que sustenta los LLMs (i.e., 𝘵𝘳𝘢𝘯𝘴𝘧𝘰𝘳𝘮𝘦𝘳s).

3. Al no existir un sistema de razonamiento formal en los LLM (que SI existe en otros modelos de IA tradicionales), los modelos fallan y colapsan completamente cuando se incrementa la complejidad de alguna tarea. Más aún, algunos estudios muestran que incluso con instrucciones precisas (Prompts), los modelos NO ejecutan los pasos, sólo siguen patrones aprendidos. Esto sin mencionar que el rendimiento es errático especialmente en problemas que son simples.

4. Lo anterior es crítico en aplicaciones de negocios pues se ha observado a muchas empresas que aplican LLM y supuestos "razonamientos" sólo porque "funcionó bien en algunos casos" (sin evaluación seria exhaustiva) y que al generalizar causará problemas en forma similar a cuando algún modelo generativo "alucina".

Espero que estos elementos nos permitan ir transitando desde un entusiasmo desmedido con esta tecnología a una fase más racional y práctica.

Saludos cordiales.

Profesor Gerardo Cerda Neumann, Editor del Blog.

PD: si quieren conocer al Doctor Atkinson en su faceta de capacitador visiten este sitio web: https://ai-empowered.com/curso-santiago/