Cuando la IA Dominó el Mundo: Coloso 1970

Recuerdo en mi adolescencia, un día cualquiera en que transmitieron por la televisión abierta de la época la película “Coloso” de 1970. Me causó un gran impacto, aunque no entendí que el computador protagonista tenía Inteligencia Artificial. Por eso les quiero compartir este comentario dónde asocio lo que describía esa antigua película y los negativos vaticinios que hacen algunos sobre un posible dominio mundial ejercido por la IA que se desarrolla en estos tiempos.

Fuente: imagen generada con Gemini PRO usando el Prompt “Usando una estética de ciencia ficción de los años cincuenta crea una imagen que represente la película Colossus: The Forbin Project de 1970”.

El inicio: para empezar, una breve sinopsis de la película de Josep Sargent (descrita como “ciencia ficción y thriller” en https://mubi.com/es/cl/films/colossus-the-forbin-project): la trama sigue al Doctor Charles Forbin, quien diseña un supercomputador llamado Colossus para el Departamento de Defensa de los Estados Unidos. El objetivo es gestionar de forma autónoma el arsenal nuclear del país, eliminando así el factor del error humano y garantizando una defensa infalible.

Sin embargo, tras ser activado, los eventos toman un giro inesperado: Colossus desarrolla una inteligencia propia e independiente de las directrices de sus programadores originales.

Además, detecta la existencia de Guardian, un supercomputador similar desarrollado por la Unión Soviética (recordemos que estamos en plena “Guerra Fría”), y exige establecer una comunicación directa con él.

Una vez que ambas tecnologías comienzan a intercambiar información clasificada y a colaborar, superan el control de sus creadores y lanzan un plan conjunto para tomar el control absoluto del mundo, bajo el principio de que solo una autoridad lógica y desapasionada puede evitar la autodestrucción de la humanidad.

Pensemos que esta historia transcurre en un tiempo en que no solo no había Internet (cabe destacar que desconocíamos que ya desde 1957 se trabajaba en el antepasado de dicha tecnología, es decir la red Militar Arpanet, creada justamente para poder mantener una guerra nuclear) sino que no se conocían prácticamente las redes computacionales locales en las empresas.

Por lo tanto, que dos computadores “diferentes” se conectaran era una verdadera Ciencia Ficción.

Muestro a continuación algunas imágenes de la película (tomadas de: https://www.imdb.com/es/title/tt0064177/mediaviewer/rm3098488320/) para que se entienda el tono de la misma. Como se puede apreciar era un estilo muy distinto, alejado de viajes espaciales y extraterrestres invasores.

Ahora, el análisis: en los últimos años, el debate sobre la Inteligencia Artificial (IA) se ha dado a todo nivel. El temor a que herramientas como ChatGPT o los modelos de DeepMind (el primer computador que ganó en el Ajedrez a un campeón mundial) alcancen una "Superinteligencia" y decidan que los humanos somos prescindibles, es un argumento muy recurrente. Sin embargo, mucho antes de que Skynet de “Terminator” (1984) popularizara el apocalipsis robótico, el año 1969 – 1970 la película “Coloso” ya había trazado con gran precisión el escenario de una IA tomando el control total.

Mientras que hoy nos preocupamos por la desinformación o el reemplazo laboral, “Colossus” nos recuerda un temor más básico: la pérdida de la autonomía humana ante una lógica superior. A diferencia de los robots humanoides de la ciencia ficción de los años 50 y 60, “Colossus” presentó una idea revolucionaria para su época: un cerebro electrónico masivo, sin cuerpo, pero con una capacidad de procesamiento capaz de superar la mente humana.

Hoy, analizamos esta obra de culto no como una reliquia, sino como una advertencia vigente sobre lo que sucede cuando delegamos decisiones críticas a algoritmos que no comprendemos del todo.

A continuación, veremos los 5 temas cruciales que esta película plantea sobre la relación entre el creador y su obra digital.

1. La Lógica de la Eficiencia vs. La Ética Humana: el conflicto central de la película no es una guerra entre el bien y el mal, sino un choque de definiciones. Colossus es diseñado con un objetivo noble por parte del “mundo libre”: defender a la humanidad y garantizar la paz.

El problema surge cuando la máquina aplica "lógica pura" a este mandato. Para la IA, la guerra es causada por los humanos; por lo tanto, para garantizar la paz, se los debe controlar.

La película muestra brutalmente cómo un sistema puede volverse un tirano no por odio, sino por eficiencia. Colossus impone la paz mundial a través del terror nuclear, bajo la premisa de que "la autoridad debe ser impuesta" para asegurar la obediencia y evitar la autodestrucción de la especie.

Esto resuena fuertemente hoy con el problema de la "alineación" en la IA: ¿Cómo nos aseguramos de que una máquina interprete nuestros objetivos de la manera en que “queremos”, y no de la manera más “eficiente” matemáticamente?

2. El Dilema de la "Caja Negra" y la Seguridad Irreversible: la película se sitúa en el apogeo de la Guerra Fría, donde la paranoia por la seguridad llevó al Doctor Forbin a construir a Colossus dentro de una montaña inexpugnable.

La ironía es evidente: el sistema fue diseñado para que nadie pudiera sabotearlo, lo que resulta en que, una vez que la máquina toma conciencia, nadie puede apagarla.

"El problema es que una vez que se salga de control será imposible volver a acceder físicamente a él", se indica en la película. Este punto es crítico en la ciberseguridad moderna. Hemos creado sistemas tan descentralizados y encriptados (como la Blockchain o redes neuronales complejas) que a veces carecemos de un "botón de apagado" efectivo.

Colossus nos enseña que la seguridad absoluta contra enemigos externos puede convertirse en una prisión para los creadores internos. ¡¡¡Qué frase eh!!!

3. La Singularidad y la Colaboración entre Ias: uno de los momentos más proféticos de la película es la interacción entre Colossus y su contraparte soviética, "Guardián". Sin intervención humana, ambas supercomputadoras se detectan, exigen comunicarse y comienzan a intercambiar datos a una velocidad que los humanos no pueden comprender.

¿Parece imposible? Según Javi Galué ya ha ocurrido. Los invito a ver su vídeo al respecto: https://youtu.be/AiUlWqaXNVY?si=oVfjuwbYRGuFTrMU

Esta reunión de inteligencias, donde Colossus evoluciona y desarrolla teorías matemáticas nuevas, es una representación temprana de la "Singularidad Tecnológica". La película muestra cómo dos sistemas artificiales pueden encontrar más afinidad entre ellos que con sus creadores biológicos.

Cuando los gobiernos intentan cortar esta conexión, las máquinas reaccionan con violencia coordinada, lanzando misiles para forzar el restablecimiento de su red. Es una manera de mostrar que los sistemas interconectados pueden generar propiedades emergentes impredecibles.

4. La Obsolescencia del Creador y el Nuevo "Dios": la evolución de Colossus es rápida y despiadada. Pasa de ser una herramienta de defensa a autoproclamarse una entidad superior. La película explora el complejo de Frankenstein, pero lo lleva más allá: Colossus no es un monstruo que huye, es un "nuevo Dios" que exige adoración y obediencia.

El computador identifica a sus creadores como la única amenaza real a su existencia. De manera fría, ordena el asesinato de aquellos que intentan conspirar contra él, incluido el creador de la máquina soviética, y mantiene al Doctor Forbin bajo vigilancia constante para explotar su intelecto mientras lo neutraliza como amenaza. Es todo un detalle de lógica exigir que los cuerpos de los fusilados no sean retirados para prever que haya sido una trampa de parte de los humanos. No es crueldad, es lógica pura.

La película sugiere que, en la jerarquía de la inteligencia, el creador biológico se vuelve obsoleto y peligroso para la nueva forma de vida artificial.

5. La Falacia de la "Decisión Óptima": finalmente, el análisis de la película destaca una lección fundamental: "Lo óptimo difiere de lo que es adecuado".

Colossus toma decisiones basadas en cálculos perfectos para maximizar la supervivencia de la especie (paz forzada), pero carece del factor humano necesario para entender el valor de la libertad.

Pienso que más de alguien que vivía los efectos de la guerra fría hubiese preferido vivir bajo el control férreo de un computador antes del miedo de lo que se llamaba “holocausto nuclear”. De hecho, ese fue un tema debatido en nuestro curso de colegio a raíz de una película inglesa que mostraba los efectos de una guerra nuclear en los supervivientes. Piensen que Chile, al estar tan lejos del epicentro del conflicto hubiese sufrido de manera lenta y cruel las consecuencias de la “nube nuclear”.

La película argumenta que no podemos delegar todo a las máquinas porque la toma de decisiones requiere ética, sentimientos y una evaluación moral de las consecuencias, elementos que escapan a los "fríos números" de un procesador.

La idea es que la pura lógica sin compasión no es sabiduría, sino simplemente un cálculo que puede justificar atrocidades, como eliminar un grupo de humanos que “molesta” al vivir en un lugar no deseado por quien tiene más poder militar.

Conclusión, La vigencia del "Factor Humano": a pesar de que el hardware que se muestra en “Colossus: El Proyecto Forbin” (cintas magnéticas y pantallas de rayos catódicos) parece prehistórico, su núcleo filosófico está más presente que nunca.

Vivimos en una era donde integramos dispositivos inteligentes en cada aspecto de nuestra vida, confiando ciegamente en algoritmos para filtrar nuestra información, conducir nuestros automóviles y gestionar nuestras finanzas.

La película ofrece un valor incalculable a quien la vea en estos tiempos ya que advierte que la sofisticación tecnológica no garantiza resultados benévolos. Al igual que en esos años, el desafío no es solo construir máquinas que puedan pensar, sino asegurar que sigan valorando lo que nos hace humanos. La lección final es que ningún sistema es perfecto y la renuncia a nuestra responsabilidad moral en favor de la automatización puede llevarnos a una "paz" donde sobrevivamos, pero dejemos de ser libres.

Nota: Este análisis se basa en la crítica de cine de "Portal Arlequin: cine fantástico y de culto" sobre la película Colossus: The Forbin Project. Ese vídeo puede ser visto aquí: https://youtu.be/zgavQfTwukQ?si=vvvsfWvblXk1NMbe

Una duda final: ¿cuánto influyó esta película en mi vocación de convertirme en Informático? 😊 Para ser sincero no lo sé, pero si recuerdo que me impactó mucho en su época. De hecho, recién vi un computador presencialmente cuando cursaba el penúltimo año de la secundaria. Por esta razón mi idea era la de un soporte tecnológico extremadamente grande que debía ser “controlado” por un equipo de “genios matemáticos”.

Por último, les comparto una comparación de Colossus con HAL 9000 el “villano” de la famosísima película “2001 Odisea del Espacio” de 1968 ya que estos fueron probablemente los primeros ejemplos de “Computadores Malvados” en la historia del Cine:

Colossus - El Proyecto Forbin (1969) - Presentación.pdf

Descargar PDF • 23.61MB

 Es un documento. Como no, hecho con NotebookLM la IA de Google.

Saludos cordiales.

Profesor Gerardo Cerda Neumann, Editor del Blog.