Nuestro nuevo Colaborador Patricio Anguita nos comparte estos primeros pecados de la IA en este interesante comentario.
Fuente: http://tinyurl.com/ynz2zjrs
Tengo algo que confesar.
Soy algo escéptico de la IA actual.
Porque veo mucho humo y poco resultado concreto.
Sin embargo, algunos han decidido lanzarse al vacío, y aceptar el riesgo.
Algunos grandes ganadores = TIK TOK con su algoritmo terriblemente absorbente.
Y bueno, pareciera que los GPT y COPILOT están dejando su marca en la sociedad.
Pero… ¿y cuáles son esos “primeros pecados”?
Hace una semana la CMS (Agencia de prestadores de salud de Medicare en EEUU) envió un MEMO (Nota del Editor: se refiere a un documento en papel que tenía un emisor y receptor(es) para informar algo considerado valioso).
En el que aclaraban que NO SE PUEDE denegar cobertura por el solo resultado de un algoritmo.
¡Porque esto es lo que estaba pasando!
Lamentablemente, miles de personas fueron afectadas por una IA sesgada.
Esto es NOTICIA. No un cuento de ciencia ficción.
Personas reales, de carne y hueso, que les llegó un aviso de denegación de cobertura de salud…
AUTOMÁTICAMENTE.
Ahora están organizando una demanda colectiva (Nota del Editor: se refiere a un conjunto de personas que hacen un trámite judicial que los representa a todos).
¿Cómo puede una máquina entender la complejidad y la variabilidad en la industria de Salud?
¿Cómo puede la IA abarcar el delicado balance entre la individualidad y las tendencias sanitarias de una población?
No es menor el desafío, en ninguna industria.
Estamos rodeados de “chatbots” horriblemente tontos.
No es IA. Es Tontera Artificial.
Una apología de lo absurdo.
Claramente la herramienta de IA no es perfecta.
Tiene limitaciones y desafíos en calidad de datos, transparencia del algoritmo, implicaciones éticas…
Pero es perfectible.
Y día a día, estamos viendo su evolución en nuestra sociedad.
Pareciera que el mayor pecado es dejarla “sola”.
No incluir el criterio humano, el llamado “human-in-the-loop” (Nota del Editor: se refiere a un modelo que necesita interacción humana).
Y con esto, podemos ver a la IA como debe ser hoy:
Una oportunidad, una solución, una inversión…
que no reemplaza el juicio humano, su creatividad, su compasión…
sino que lo amplifica, lo aumenta, lo empodera.
Una IA que selecciona casos “raros” para que un experto los mire con lupa.
O que busca patrones en los datos, para que un analista los explore.
O que alerta potenciales sesgos en las decisiones que se están tomando.
Y muchos otros usos al servicio de la sociedad.
Quizás no soy tan escéptico después de todo.
Definitivamente la IA es una herramienta maravillosa.
Pero poniendo en el centro al cliente, al paciente, a la estrategia de la organización.
No pilotear sólo porque es la novedad.
No creer ciegamente en sus recomendaciones.
Y cuidarnos de los datos.
Mantener al humano en el loop.
¿En qué áreas podríamos aplicar la IA, hoy y en concreto?
¿Cómo debería empezar?
¿Qué debo aprender para explorar sus usos?
¿Cómo logro que acepten mi proyecto de IA?
En realidad… ¿cómo logro que acepten cualquiera de mis ideas?
¿Te interesaría resolver estas preguntas? ¿Tienes otras reflexiones?
Nota de Editor: pueden conocer las otras publicaciones de Patricio en LinkedIn: