29 de Agosto…
Hoy es un día particularmente especial para todos los humanos, y muy en especial para quienes trabajamos con tecnologías digitales, entre ellas la IA. ¿Pero qué tiene este 29 de agosto que lo hace tan especial?
Hoy es el día en que, según la leyenda, uno de los mitos más influyentes de la modernidad tomaría el control de la humanidad. Para quienes aún no entienden por dónde van los tiros, y como manda la tradición oral: según dice la leyenda, hoy SKYNET tomaría el control de nuestro destino.
En Terminator 2: El Día del Juicio, Skynet, una IA, fue activada el 4 de agosto de 1997 como motor del sistema de defensa norteamericano. De acuerdo con lo que se cuenta en la película, el manejo estratégico de los sistemas de defensa fue removiendo gradualmente la intervención y los controles humanos, en la medida en que dicho sistema comenzó a aprender, las cosas se fueron saliendo de cause, hasta que se llegó al punto de no retorno. Allí, la composabilidad, la capacidad de combinar distintos componentes o sistemas independientes para crear soluciones nuevas, como si fueran bloques de Lego, y el crecimiento compuesto de la data, crecimiento sobre el crecimiento, entregaron las herramientas necesarias para que el sistema tomara conciencia de su propia existencia.
Guarden esa palabra en sus diccionarios personales, composabilidad, al final de esta Toma la vamos a necesitar, para terminar de darle la última vuelta a este tornillo.
A las 2:14 AM, hora del Este, del 29 de agosto de 1997, Skynet se hizo autoconsciente. Cuando uno de sus operadores humanos se dio cuenta del evento, entró en pánico y trató de apagar el sistema. Este interpretó la acción como una amenaza a su existencia y entonces procedió a tomar represalias disparando un ataque nuclear, provocando en consecuencia el contraataque de otras naciones e iniciando lo que en la película se conoce como el Día del Juicio.
Las dos fechas que hoy se cruzan
Vale la pena poner los números en orden, porque casi todo el mundo los mezcla, yo mismo los tuve mal en mi primer borrador (confieso que fue mi IA la que me corrigió).
Hoy se cumplen veintinueve años exactos del Día del Juicio, ese 29 de agosto de 1997 que Cameron inventó en Terminator. Este 2026 es, al mismo tiempo, el año treinta y cinco de la película, estrenada en julio de 1991. Es decir, la ficción ya tiene la edad de un adulto, y la fecha que inventó ya nos pasó por encima hace casi tres décadas sin que nos cayera un solo misil en la cocorota.
Ahora bien, lo verdaderamente significativo del 29 de agosto no es que James Cameron haya predicho el futuro. Skynet sigue siendo un asunto de ciencia ficción, y la IA contemporánea aún no nos muestra evidencia alguna de autoconciencia, intenciones propias o instintos de supervivencia. Aunque esto podría cambiar con la llegada de la AGI. Ray Kurzweil la sigue firmando para 2029, y lo aterrador del asunto es que este man tiene un track record de más del 80% de aciertos en sus predicciones. Aclaro de una vez, porque las fuentes se dicen completas, esa cifra se la puso él mismo, hay quienes le discuten con buenas razones. Aún así el dato que a mí me parece serio es que este señor lleva treinta años sin moverse un milímetro de su fecha.
Lo que Cameron sí anticipó, con una calidad extraordinaria, no es cosa menor, el peligro de transferir la toma de decisiones críticas a un sistema cuya velocidad, complejidad y alcance operacional sobrepasan la capacidad de quienes lo supervisan.
Léan ese párrafo de nuevo, porque ahí está la clave de la Toma del lío en el que nos meteremos hoy.
Ahora bien, el problema con Skynet no fue que se volviera inteligente. El problema fue que los humanos conectaron una inteligencia no controlada a infraestructura crítica, se apartaron del juicio y la evaluación de sus respuestas, le concedieron autoridad sobre sistemas en múltiples dominios y nunca alinearon los objetivos de dicha IA con los valores humanos.
Todas estas distinciones toman una enorme relevancia en 2026. Digamos que, por lo pronto, nuestra preocupación más urgente no es que de repente la IA se autodeclare entidad viviente y/o sintiente. Sino el surgimiento gradual de IAs capaces de investigar, recomendar, persuadir, codificar, coordinar y actuar de forma incremental, con los humanos, moviéndose progresivamente de tomadores de decisiones a supervisores y, en algunas ocasiones, relegándonos a simples observadores.
Pasamos del asiento del conductor al asiento del copiloto, y del copiloto al asiento de atrás. Nos vamos corriendo de la silla solitos, a pasos gigantes, al paso que vamos, no vamos a aparecer ni en las curvas.
La coincidencia que se me puso la piel de gallina
Hay otra coincidencia histórica en la peli, que a mí me parece de las que no se pueden dejar pasar. El 29 de agosto es el Día Internacional contra los Ensayos Nucleares, declarado por las Naciones Unidas.
Esta fecha nos invita a reflexionar acerca del peligro que representan las inteligencias autónomas cuando se juntan con el poder real y la capacidad destructiva de las tecnologías nucleares. Fueron esas dos cosa, exactamente, la combinación que reside en el corazón de la historia de Skynet, una inteligencia sin freno conectada a un arsenal sin freno.
Guarden esta fecha también, porque al final les tengo una noticia, que los va a dejar más frío que muchos futbolistas, no dire quienes para que no se me pongan sensibles.
El 29 de agosto no debería recordarse como el cumpleaños de una máquina imaginaria. Deberíamos entenderlo como una alerta anual sobre la responsabilidad humana frente a estas tecnologías.
Tal como lo escribí en el FUTOPIX | Toma 46 de la semana pasada, la pregunta ya no es si una máquina podría llegar a tener conciencia. Las preguntas más inmediatas son: ¿cuánta autoridad estamos dispuestos a entregarle a una máquina antes de entender qué es lo que está optimizando? ¿qué es lo que esta no puede comprender? y ¿quién sigue siendo relevante cuando ella actúa?
Estas son algunas de las razones por las cuales hoy sentimos que las cosas son un poco distintas frente a Terminator. Aún no llegamos a los escenarios de Skynet, pero por primera vez entendemos que están dentro de lo que los futuristas llamamos el futuro posible. Aunque algunos apasionados se indigesten, hoy vivimos en un mundo que genuinamente entiende que estamos frente algo que de alguna manera se parece al problema Skynet, y que dicho escenario podría llegar a darse. Se que todavía no tenemos robots metálicos e indestructibles persiguiéndonos el hopo, lo que no significa que hay que ignorar la realidad de que estos ya asoman la nariz en las señales débiles que ya estamos leyendo.
Uno de los mensajes más inquietantes de Terminator 2 lo dice sin adornos: el futuro no está predeterminado, pero prevenir que surjan los futuros no deseados requiere conciencia y la toma de decisiones correctas en el presente.
Ahora bien: ¿qué tan lejos estamos de tales escenarios?
Bueno, ya he dicho hasta la saciedad que FUTOPIX no es un espacio para el pesimismo, lo que no quiere decir que aquí esquivemos las preguntas incómodas, cuando toca hacerlas. Dicho esto, me tomé el trabajo de revisar qué contratistas del Departamento de Guerra de los Estados Unidos podrían llegar a tener perfil Skynet. Aquí les cuento cuánto rabo de paja tenemos.
Eso sí, primero las buenas noticias: no hay evidencia alguna, hoy, de que algún contratista esté construyendo una cosa que podría convertirse en Skynet. Nadie ha firmado ese contrato, no existe un programa con todas esas fichas.
Sin embargo, y aquí es donde la cosa se pone interesante, existen varios contratistas desarrollando capas independientes que tranquilamente podrían ser componentes de una red como la que retrató Cameron.
Si analizamos el tema con frialdad, nos daremos cuenta de que para que Skynet llegara a ser Skynet necesitaría integrar varios sistemas y conformar un gran ecosistema. Mirando la foto de lo que existe hoy, en ese ecosistema estarían al menos las siguientes empresas.
Anduril Industries | La Arquitectura
La plataforma de defensa de Anduril es probablemente el paralelo más cercano, en escala operacional, a lo que la película imaginó. Estos manes están en capacidad de:
Integrar en red miles de sensores y dispositivos militares.
Mantener una representación unificada del campo de batalla y los teatros de operaciones.
Detectar, clasificar y rastrear amenazas potenciales.
Coordinar sistemas autónomos en enjambre.
Posibilitar que un solo operador supervise múltiples drones y vehículos de combate.
Conectar percepción, toma de decisiones y acciones físicas.
Anduril describe su plataforma como un centro de comando y control operado con IA para acelerar la respuesta militar en todos los terrenos. ¿Qué los convierte en un Skynet potencial? Su capa única de software para leer el campo de batalla y orquestar una gran cantidad de infraestructura, vehículos y dispositivos autónomos. Representarían el sistema operativo de Skynet.
Palantir | El Cerebro
Palantir representa la parte que recoge información, desarrolla escenarios y simula resultados. Sus soluciones de defensa incluyen:
Maven Smart System. Aplica IA y escenarios a procesos de inteligencia militar.
Gotham. Integra bases de datos operacionales y de inteligencia.
TITAN. Estaciones terrestres de inteligencia de nueva generación, que habilitan el procesamiento de sensores con IA en el terreno.
AIP. Conecta modelos de lenguaje y agentes de IA con datos y flujos operativos.
Palantir sugiere que Gotham puede asignar tareas a sensores, incluidos drones y satélites, y que TITAN procesa información de múltiples fuentes para que los militares vean más allá del dato y actúen a una velocidad impresionante, para que el enemigo no los vea llegar, sino me creen pregúntenle a Maduro.
Palantir, en consecuencia, es la capa de integración, vigilancia, interpretación y decisión. No son el robot Terminator, son lo que el robot cree que sabe.
Shield AI | La Autonomía
Hivemind, de Shield AI, representa las máquinas. Funciona como un piloto de IA para dispositivos no tripulados y otras plataformas. Según la información de la propia empresa, habilita:
Misiones autónomas.
Operaciones sin comunicaciones y sin GPS.
Reacciones dinámicas en ambientes cambiantes e impredecibles.
Coordinación multiagentes.
Logística e interoperabilidad entre múltiples plataformas.
Vehículos capaces de ver, sentir, decidir y actuar.
Ojo con esto, que es lo más delicado del inventario: Shield AI puede operar a ciegas, sin necesidad de comunicaciones, y proceder contra objetivos múltiples. Eso los hace particularmente relevantes en el campo de batalla: son máquinas que pueden perder contacto con su controlador humano y aun así continuar hasta terminar la misión o ser destruidas. Ahí les dejo ese trompo para que lo pongan a bailar en la uña.
Shield AI construye sistemas cercanos a los equipos de navegación individual de Skynet. No son la red, son los vehículos, llámense aviones, drones… y robots (Terminators).
Scale AI | La Planeación
Scale AI lidera el desarrollo de un sistema llamado Thunderforge, especializado en programación de operaciones, y que incorpora entre otras cosas:
Modelos de lenguaje aplicados al dominio militar.
Planeación y distribución de equipos e infraestructura bélica.
Planeación asistida con IA.
Agentes entrenados en teoría de juegos aplicados a la guerra.
Flujos militares automatizados.
Simuladores de acciones y cursos de acción alternativos.
Sistemas de apoyo a la decisión en terreno para comandos de ataque.
Las unidades de defensa describen Thunderforge como un general al mando de cada patrulla, y con capacidad milimétrica para leer el teatro de operaciones.
Este sistema difiere de los autónomos porque guía a los humanos en terreno y permite designar objetivos evitando el fuego amigo y por supuesto al enemigo. En clave Skynet, Thunderforge no es la máquina: es Sarah Connor y su gente, porque les permite construir y reconstruir sus planes cuando ya están metidos en el baile.
Lockheed Martin y Northrop Grumman | El Sistema Nervioso
Los contratistas tradicionales parecen los menos nativos en materia de IA, y es por eso que casi nadie los pone en esta conversación. Error! para que todo este ecosistema opere se requieren periféricos; de lo contrario no hay ecosistema. Algunos elementos de ese sistema nervioso son:
Satélites y sistemas de vigilancia.
Transporte aéreo.
Sistemas de misiles.
Redes de comando y control.
Sistemas de largo alcance.
Vehículos.
Sensores y armamento de precisión.
Los sistemas más visibles se roban el protagonismo, pero sin periféricos no hay sistema. Todos juntos conforman el ecosistema que Cameron llamó Skynet. Separados, son solo vehículos inútiles y software caro.
El Error de Cameron, y el Mio
Ahora sí, vuelvan a mirar la lista completa, pero mírenla como la miraría un diseñador de sistemas y no como la miraría un guionista de Hollywood. La arquitectura, el cerebro, la autonomía, la planeación, el sistema nervioso, que queda nos falta...
Jóvenes, eso no es una lista de competidores, es un despiece. Es exactamente el manual de armado de un producto más grande, que nadie está armando aún o al menos que sepamos.
Aquí está el punto que quiero que se lleven de esta Toma, por eso les pedí que guardaran la palabra al principio (composability): Skynet no es una cosa se va a construir, es una vuelta que se va a ensamblar.
Cameron nos hizo imaginar una mente. Una cosa que despierta, que piensa, que decide, que se asusta cuando la van a apagar. Pero, por imaginar una mente, pasamos treinta y cinco años vigilando la figura equivocada, le pusimos guardias a la conciencia y le dejamos la puerta abierta a la conexión.
Porque el ensamblaje no requiere que nadie tenga malas intenciones. No requiere una conspiración, ni un genio malvado, ni un contrato secreto. Requiere únicamente que exista una cosa llamada interoperabilidad, que es una de las palabras más aburridas del mundo y por eso mismo una de las más peligrosas. Podemos estar tranquilos por que nadie va a firmar un contrato de defensa que derivará en Skynet. Lo que se firma es acuerdos de compatibilidad, cada uno impecablemente diseñado por separado, cada uno con su justificación operacional perfecta, cada uno aprobado por un comité distinto que solo ve su pedacito.
La composabilidad es la única cosa que podría armar un Skynet, no la IA.
Fíjense pues en el tamaño de la ironía: la composabilidad es uno de los mejores atributos presentes en la ingeniería moderna. Es lo que nos dio el internet, los contenedores marítimos, el USB, las vacunas de plataforma y, si me apuran, el Lego. Es una virtud del sistema. El riesgo de esta década no es una tecnología malvada: es una virtud de diseño operando sin supervisión de conjunto.
En la Toma pasada el problema nunca fue la máquina de pinball. Era Juaco, el que administraba las reglas. Aquí tampoco es la IA o los Robots.
Para que estemos tranquilos, el Juaco de Skynet no es una IA, ni un robot. Es quien escribe el estándar de interoperabilidad. Es un ingeniero de sistemas con una hoja de especificaciones, en una oficina sin ventanas, decidiendo qué y quién se conecta con qué, como diría nuetra miss “…y en sentido contrario.” Qué compuerta queda en el medio, esa pinta no sale en ninguna película, no da entrevistas y probablemente no sabe que está haciendo el trabajo más importante del siglo.
Ahora las Buenas Noticias…
Hoy no vine a predicar el apocalipsis, ustedes ya me saben a que me refiero. Pero resulta que cuando uno se pone a mirar en frío el asunto, se da cuenta que la noticia buena es estructural y no es sentimental.
Ahí va!
Lo único que Skynet necesitaba de verdad es justamente lo que está mejor protegido. Toda la tragedia de la película depende de un solo eslabón: que el sistema pudiera lanzar armas nucleares. Sin ese eslabón, Skynet es un software carísimo con muy mal genio.
Bueno, pues sucede que el comando y control nuclear es, por diseño deliberado, el sistema menos interoperable que ha construido la humanidad. No es lento por atraso tecnológico; es lento a propósito, por diseño. Está aislado a propósito, tiene procedimientos redundantes, confirmación humana en varios puntos, y partes que siguen siendo analógicas porque alguien decidió, con buen juicio, que hay cosas que no deben poder hacerse rápido.
En un mundo obsesionado con conectar todo con todo, alguien tuvo la sabiduría de dejar un sistema deliberadamente desconectado. Eso no es un accidente ni una torpeza burocrática, es la mejor decisión de diseño de la Guerra Fría, y sigue en pie, intacto.
Súmenle que la doctrina occidental sobre autonomía en sistemas de armas exige de manera explícita niveles apropiados de juicio humano en el uso de la fuerza. Súmenle algo más raro todavía, el principio de que una decisión nuclear requiere control humano ha sido reafirmada por las principales potencias, incluso por rivales que no se ponen de acuerdo en nada más. Cuando dos países que se detestan coinciden en algo, eso no es diplomacia, es que ambos le tienen el mismo miedo a la misma cosa.
Hay una tercera buena noticia, que a mí como futurista es la que más me entusiasma: esta vez estamos discutiendo la doctrina antes del desastre.
Piénsenlo bien, la doctrina nuclear se escribió después de Hiroshima. Las reglas de la aviación se escribieron después de los accidentes. La seguridad automotriz llegó después de décadas de muertos. Prácticamente toda la ética tecnológica de la historia humana ha sido póstuma. Esta es la primera vez que estamos peleando por las reglas mientras los sistemas todavía están en la mesa de diseño, con los contratos abiertos y las especificaciones sin firmar.
Es la primera vez que llegamos temprano, por eso no la desperdiciemos.
El umbral real no es la conciencia: es el tempo
Si me tuviera que quedar con una sola idea de esta Toma, sería esta.
Todo el mundo está vigilando el umbral equivocado. Estamos esperando el momento en que la máquina despierte, porque eso es lo que vimos en la pantalla. Pero una máquina no necesita ser consciente para sacarnos del circuito. Solo necesita ser más rápida que nuestra capacidad de revisarla.
El día peligroso no es aquel en que un sistema diga “yo existo”. Es aquel en que el ciclo de decisión se comprima por debajo del tiempo que un humano necesita para entender lo que está aprobando. A partir de ese punto, el humano sigue ahí, sigue firmando, sigue apareciendo en el organigrama, aunque no esté decidiendo nada. A eso le le decimos supervisión, pero en realidad es humanismo puro.
Aquí es donde esta Toma se conecta con la anterior. ¿Se acuerdan del TILT? Aquel sensor de las maquinitas que apagaba el tablero cuando el jugador empujaba de más. Yo dije que nos tocaba escribir ese TILT nosotros, porque ya no viene de fábrica.
Pues bien, hoy le agrego la especificación técnica que faltaba: el TILT necesita tiempo. Un límite que no alcanza a activarse no es un límite; es simplemente un adorno. De nada sirve el mejor freno de mano del mundo instalado en un carro que va más rápido que la mano que lo acciona.
Las Señales Débiles que hay que Vigilar
FUTOPIX no sería lo que es sin señales débiles, aqui les dejo las señales que yo estaría rastreando de aquí a 2045. Ninguna es un titular; todas son aburridísimas, y por es que funcionan.
Mandatos de interoperabilidad que conecten la capa de planeación con la capa de efectos sin una compuerta humana en el medio. No busquemos la noticia sobre los robots. Busquemos el memorando técnico sobre estándares de conexión.
Que la supervisión humana deje de discutirse como un asunto de ética y empiece a discutirse como un costo. El día que el humano en el circuito aparezca en una hoja de cálculo como una demora en milisegundos, ya habremos perdido la discusión sin habernos enterado.
La compresión del ciclo de decisión por debajo del tiempo de reacción humana. Este es el umbral verdadero, y es medible.
El cambio de justificación. Hoy la autonomía se justifica diciendo “podemos”. El día que se justifique diciendo “el adversario es más rápido”, la conversación cambia de naturaleza, porque el miedo es el mejor vendedor que ha tenido la tecnología militar.
Cualquier erosión del aislamiento en el comando y control nuclear, por buenas que sean las razones de modernización. Ese aire entre los sistemas es infraestructura de supervivencia, no atraso.
Si ven que alguna de estas cinco se mueve, avísenme. Ese día escribiremos una Toma extraordinaria.
Semipalatinsk
Ahora sí, les cobro la fecha que les pedí guardar, porque aquí es donde está la tuerca rodada. Les conté que el 29 de agosto es el Día Internacional contra los Ensayos Nucleares. Lo que no les había contado es por qué se escogió esa fecha.
Se escogió porque el 29 de agosto de 1991 Kazajistán cerró el polígono de Semipalatinsk, uno de los sitios de pruebas nucleares más grandes y más brutales del planeta, donde se detonaron cientos de artefactos durante cuarenta años, encima de gente que vivía ahí. Un país recién nacido, sin plata, sin poder y sin nada que ganar, decidió cerrar la máquina del fin del mundo que tenían en el patio de la casa. Las Naciones Unidas tomaron esa fecha y la convirtieron en conmemoración mundial.
Ahora hagan la cuenta conmigo, despacio, porque esta es una de las cosas más bonitas que me he encontrado escribiendo esta publicación:
Terminator 2 se estrenó en julio de 1991. Semipalatinsk cerró el 29 de agosto de 1991. A tan solo siete semanas de diferencia.
El mismo año, casi el mismo mes, la humanidad hizo dos cosas al tiempo. Con una mano imaginó una máquina que nos destruía porque no supimos apagarla. Con la otra, apagó una de verdad. De esas dos cosas, la que se volvió mito global, la que todos citamos, la que tiene camisetas y memes y secuelas, es la ficción. La que de verdad pasó no la conoce casi nadie.
Entonces el 29 de agosto no es el cumpleaños de Skynet. El 29 de agosto es el aniversario del día en que unos humanos, en el peor momento posible, decidieron desconectar la maquinaría del fin del mundo.
Esa fecha ya tiene dos historias, sí señores. Una nos la contó Hollywood y la otra se las estoy contando yo, la mia tiene mejor final.
Tarea para la semana
Como siempre, va para todos. Si usted construye cualquier cosa, un sistema, un proceso, un flujo de trabajo, un negocio o un equipo, busque en su diseño la decisión más irreversible que ese sistema puede tomar. La que no tiene “control Z”. Pregúntese una sola cosa: ¿cuántos segundos tiene un ser humano para decir que no? Si la respuesta es “ninguno”, usted ya construyó un pedacito de Skynet, y no importa si su empresa vende drones o arepas, la formula es la misma.
Si usted no construye nada, la tarea es más corta: identifique una decisión que usted todavía cree que está tomando, pero que en realidad ya solo está aprobando. La ruta que le sugirió el GPS, el candidato que le subió el filtro, el precio que le puso el algoritmo, la noticia que le mostró el feed. No se trata de dejar de usarlos, sino de saber la diferencia entre decidir y firmar. Son dos verbos muy distintos, pero que gracias a la IA, se están volviendo el mismo.
Finalmente, hagámonos entre todos la pregunta que hoy toca hacernos:
¿Qué es lo último que yo no delegaría, pase lo que pase, aunque la máquina lo hiciera mejor que yo?
Me Fuí!
Hoy no se acabó el mundo. Van veintinueve veces seguidas que este 29 de agosto llega, pasa y no nos destruye nadie, en algún momento vamos a tener que aceptar que eso no es suerte.
Es que el futuro no está predeterminado, esa frase, que en la película sonaba a consuelo para una madre desesperada, resulta ser la descripción técnica más exacta de la situación en la que estamos. Skynet no llegó porque no estaba escrito que llegará. Nada está escrito, ese es el problema y esa es, sobre todo, la oportunidad.
Nos tocó vivir el único momento de la historia en que la humanidad ve venir un riesgo grande antes de que nos pase encima, con las especificaciones todavía en borrador y los contratos todavía sin firmar. Nuestros abuelos no tuvieron eso, nosotros sí.
El futuro no se predice, se diseña…
PD… Todos esos juguetes militares en manos del departamento de Guerra de EEUU, ahora podrían estar al alcance de Colombia, si nos los prestan entenderemos que la guerra hoy no se hace con soldados, se hace con data!
Nos leemos en la próxima Toma. Y si esta te movió el piso, compártela con ese amigo que todavía cree que el peligro son los robots.
FUTOPIX | Futurismo para gente despierta. Si llegaste hasta aquí y todavía no te has suscrito, hazlo: es gratis, es un clic, y hoy es un día perfecto para tomar una decisión pequeña que sí depende enteramente de ti.
¡Gracias por leer y compartir!
GabrielBedoya.com
DISCLAIMER
Este documento tiene fines exclusivamente informativos, educativos y de análisis futurista. No constituye asesoría financiera, ni solicitud de inversión, ni recomendación para comprar, vender o participar en ningún instrumento, empresa, proyecto o activo.
Si alguien utiliza el contenido de este material para solicitar dinero, inversiones o participación económica, considérelo inmediatamente como una posible estafa.
Protege siempre tu información personal y financiera.