Ya en el 2021 la Comisión Europea propuso una primera legislación sobre IA. Los invito a conocer al respecto revisando una publicación del Sitio Web “The Political Room”.
Dentro de mis hobbies está el tema de defensa. De hecho estoy suscrito a varios canales que reviso constantemente. En uno de ellos se me invitó a suscribirme por 10 euros al año al Sitio de comentarios de estrategia y política internacional “The Political Room” (https://thepoliticalroom.com/):
En ese sitio, dentro de los artículos Premium/Destacado (son los que se accede solo al tener la suscripción) encontré el que quiero comentarles ya que lo consideré muy interesante.
Tal como mostré en la imagen inicial lleva por título “La UE establece la primera legislación del mundo sobre IA” y lo escribió Daniel (curiosamente no se indica el apellido).
Lo que se comenta es que generalmente las legislaciones van muy por detrás de los desarrollos tecnológicos (concuerdo con eso) lo que es fácil de entender. La creación de tecnología disruptiva se propaga debido a la aplicación de cientos o miles de empresas/emprendedores y en cambio la legislación necesita de alguna manera que el tema “se ponga en pausa o detenga”. Es como tratar de revisar un motor que está andando lo que es muy complejo.
¿De qué se trata entonces?
Que en el 2021 la Unión Europea (presentada como el “mayor poder regulatorio del mundo”, algo que no sabía) propuso su primera legislación sobre la IA, la que fue adoptada hace pocas semanas. Cabe destacar que esta lleva por nombre “Ley de Inteligencia Artificial” y que este reglamento:
“intenta aunar las preocupaciones respecto a la IA, especialmente en materia de privacidad y seguridad, con su enorme potencial económico que es visto como uno de los pilares de la competitividad europea en el futuro. Este es precisamente el objetivo declarado de la legislación, garantizar que las IA que operen en la Unión Europea sean seguras y respeten los derechos fundamentales al tiempo que se pretende estimular la inversión e innovación en el continente”
Creo que es un buen punto para la UE ya que hace unos años también se adelantaron al crear una legislación bastante razonable respecto a la privacidad de los datos que manejan las empresas.
Y ¿cómo lo hace la legislación? Simplemente mediante un “un sistema basado en riesgo clasificando a las IA según la amenaza que puedan suponer”.
> A mayores riesgos, normas más estrictas.
Es interesante el enfoque porque pre supone que las IA pueden ser muy riesgosas, algo que hasta el momento no se ha comentado mucho.
En el otro extremo, aquellas que sean más inocuas (como un Chatbot de atención a clientes, por ejemplo) “sólo deberán asumir obligaciones de transparencia como informar que su contenido está hecho por IA”.
> Se creará la etiqueta “Made By AI” la que será obligatoria.
Además se busca que “el marco jurídico sea favorable con medidas para promover los espacios de pruebas en condiciones reales o destinadas a reducir las cargas administrativas para las pymes que operen con esta tecnología”, lo que nuevamente parece un punto importante para la UE.
También se prohíben explícitamente algunos usos de la IA, como por ejemplo: “será ilegal la manipulación cognitiva conductual, el rastreo de imágenes faciales tanto provenientes de internet como de cámaras de seguridad, los sistemas de reconocimiento de emociones en el trabajo e instituciones de enseñanza, los sistemas de crédito social, la categorización biométrica para identificar datos sensibles como orientación sexual y algunos casos de vigilancia policial predictiva”.
Yo sé lo que están pensando 😊, ¿cómo diablos se puede saber si se incumplen o no estas normas?
Bueno, eso se verá en el tiempo ya que se deberá generar la jurisprudencia necesaria. Sin embargo la legislación parece marcar en la dirección correcta.
Cabe destacar que en Europa existen países que hacen uso extensivo de la vigilancia por cámaras (de hecho Londres es una de las ciudades del mundo que más tienen en relación a su cantidad de habitantes … sí, se que Gran Bretaña se retiró de la UE, pero siguiendo ese ejemplo muchos otros países hacen uso extensivo de dichas tecnologías). Por todo esto se decidió en el tema de vigilancia policial “una solución de compromiso. Se permitirá a las fuerzas policiales utilizar IA en sus laborales esenciales, pero con unos límites muy marcados”.
También parece razonable, aunque no será fácil eso de límites muy marcados. Nuevamente las experiencias que se acumulen y la jurisprudencia serán fundamentales.
¿Qué pasa con las herramientas más conocidas y de “múltiples usos” como ChatGPT?
En ese caso la legislación “los obliga a implementar medidas de transparencia en reglas generales e incluye una diferenciación para aquellos modelos con mayor potencial disruptivo que exige medidas más estrictas”. Suena un poco ambiguo pero esto no es necesariamente malo ya que permite una adaptación progresiva hasta que se clarifiquen/organicen estos modelos más disruptivos.
¿Y la parte de la vigilancia/castigo de las normas definidas?
Al respecto tres temas:
1. Para la vigilancia se ha creado una “Oficina de IA” que supervisará los modelos más avanzados y su riesgo. Para esto contará con un panel de Expertos Independientes. Nuevamente esto suena razonable aunque habrá que ver cuántos errores humanos se cometen. Sin embargo es inevitable que la IA esté bajo la tutela del viejo y conocido ser humano.
2. El “Comité de IA”, compuesto por los Estados miembros de la UE actuará como “una plataforma de coordinación y consultiva para la Comisión”. También se constituirá un “Foro Consultivo” que estará formado por “la sociedad civil, representantes de la industria, las pymes, start ups y el mundo académico para apoyar al Comité”.
3. Si las empresas no cumplen las normas establecidas se arriesgan a “sanciones económicas basándose en el porcentaje del volumen de negocios anual global de la empresa infractora en el año anterior o, si fuera superior, un importe fijo”. Si bien no es nada original parece ser un importante disuasorio ya que la multa es proporcional al volumen de las ventas o negocio. En otras palabras no debería ser rentable incumplir ya que el monto a pagar haría perder todo lo que se obtuvo de mala manera y más. El castigo social es un tema que se verá con el tiempo ya que si la falta es grave es probable que las personas simplemente boicoteen la empresa hasta hacerla quebrar. Esta práctica de castigo es más común en Europa que en nuestros países latinoamericanos.
Además “cualquier ciudadano podrá presentar una queja ante la autoridad competente”.
¿Qué les parece la propuesta? Para ser 100% de sentido común y como se dice siempre: el tiempo dirá respecto a su efectividad.
Por último: les comparto un vídeo de las RTVE (Televisión Española) que hace un buen resumen de la noticia: