Nuestro socio Javi Galué nos comparte el primer comentario que ha publicado en su flamante espacio llamado ""IA Actual. Los invito a aprender de lo mucho que tiene para enseñarnos.
Fuente: La batalla contra la desinformación generada por IA: ¿exageración o realidad? - IA Actual (ia-actual.com)
El temor a los deepfakes no se ha materializado como una gran amenaza gracias a la rápida respuesta de los medios y plataformas tecnológicas. Sin embargo, las teorías de conspiración y la desinformación en redes sociales siguen siendo un desafío importante.
En un mundo donde todo cambia en un abrir y cerrar de ojos, los temidos deepfakes y las falsedades generadas por inteligencia artificial (IA) no han sido la gran amenaza que se pensaba. Aunque la tecnología ha avanzado, también lo han hecho las estrategias para contrarrestar sus efectos negativos. Así que, ¿qué tan serio es realmente el problema?
Por qué esto importa
Las grandes plataformas tecnológicas y los medios de comunicación han mejorado significativamente en la detección y corrección rápida de desinformación generada por IA. A pesar del pánico inicial, las noticias falsas que se vuelven virales suelen ser el resultado de información fuera de contexto, no de imágenes o videos manipulados.
Un ejemplo claro
Consideremos el incidente reciente del intento de asesinato de Donald Trump. Varias agencias de noticias importantes, incluidas Reuters, AP, Político, BBC y CNN, desmintieron rápidamente una imagen alterada que mostraba a agentes del Servicio Secreto sonriendo mientras levantaban a Trump del suelo. FactCheck.org, Verify y PolitiFact también desestimaron la imagen utilizando técnicas estándar como la búsqueda inversa de imágenes.
Perspectiva ampliada
La campaña de Joe Biden demostró su confianza en las redes sociales al anunciar su retiro de la carrera presidencial primero en plataformas como X (anteriormente Twitter), Facebook, Instagram y Threads, antes de alertar a los medios tradicionales. Esta acción subraya la creciente confianza en la capacidad de las redes sociales para manejar la información precisa y en tiempo real.
Sin embargo…
Las fotos y videos manipulados aún pueden causar problemas si las plataformas tecnológicas no actúan con rapidez. Por ejemplo, la imagen falsa de los agentes del Servicio Secreto todavía circula en X, aunque ahora lleva una Nota Comunitaria. Estas notas son útiles, pero a menudo no se agregan lo suficientemente rápido como para detener la desinformación en su inicio.
Elon Musk ha transformado X en un espacio donde la desinformación puede florecer y ser propagada a plataformas más pequeñas, amplificando su alcance. Un video deepfake de PBS News, que mostraba a Biden maldiciendo, sigue circulando a pesar de que PBS desmintió rápidamente su autenticidad.
Lo más preocupante
Las teorías de conspiración, que a menudo no dependen de fotos o videos manipulados, son más difíciles de combatir. Tras el intento de asesinato de Trump, surgieron numerosas conspiraciones sobre el atacante y sus motivaciones, muchas de las cuales no estaban basadas en contenido manipulado.
Qué esperar
Aunque los deepfakes y otros contenidos generados por IA se pueden desmentir rápidamente, las respuestas automatizadas de los chatbots de IA ante noticias de última hora presentan un reto más complejo y menos controlable.
¿Cuál es nuestra opinión al respecto?
En «IA Actual», consideramos que, aunque la tecnología ha mejorado en la detección y mitigación de la desinformación, los desafíos persisten. La rapidez con la que los medios y las plataformas tecnológicas pueden verificar y corregir la información es crucial. Además, la educación del público en la identificación de contenido sospechoso es esencial para fortalecer la confianza en las noticias verificadas. La lucha contra la desinformación es una carrera continua donde la colaboración entre tecnología, medios de comunicación y usuarios es fundamental para mantener la integridad de la información.
¿Realmente estamos preparados para identificar lo que es cierto y lo que no?
Saludos
Javi Galué
Fundador de ia-actual.com , periódico especializado en Inteligencia Artificial
Comments