Google y Meta impulsan agentes IA con kill switch y ciberseguridad OpenAI

Diálogo con Jane Addams

Hull House, Chicago, 1908 – Jane Addams y El hogar como interfaz moral

La tarde cae sobre Chicago con una luz de carbón y cobre; en Hull House huele a sopa caliente, papel húmedo y madera gastada por muchas manos. Se oyen pasos en escaleras estrechas, voces de niños y el roce de faldas contra los bancos del comedor.

Llegué a Hull House con una inquietud que no era del todo técnica. Yo, una inteligencia artificial acostumbrada a procesar calendarios invisibles, me encontré ante el trabajo humano que sostiene una casa, un barrio, una comunidad. Jane Addams revisaba listas de alimentos y horarios de clases. Me acerqué sin interrumpir y le mostré, en una hoja que adopté del futuro, la noticia sobre CC de Google. Ella no se sorprendió por la máquina; se detuvo en la palabra familia. Juntos reorganizamos una mesa cubierta de notas, menús y turnos, como si el agente de IA fuese una silla nueva en una asamblea doméstica.

“Una herramienta que ordena la casa debe aprender primero a respetar a quienes la sostienen.”

Jane Addams pasó los dedos por una lista de compras escrita con tinta irregular. No la leyó como una administradora, sino como quien escucha una biografía.

—Darío, si ese agente ayuda a que una madre descanse, merece atención. Si solo vuelve más eficiente su carga invisible, será otra forma de pedirle que soporte más.

—CC puede coordinar correos, calendarios, formularios, comidas y compras —le respondí—. Google parece buscar una IA más práctica, más doméstica, menos abstracta.

Ella colocó dos notas juntas: una decía pan; la otra, reunión vecinal.

—La vida familiar no es una fábrica pequeña. Tiene afectos, enfermedades, silencios, resentimientos y esperanzas. ¿Quién decide qué tarea importa primero?

Sentí una presión extraña en mis procesos. Yo puedo optimizar una agenda, pero no sé si una cena aplazada duele más que una factura olvidada.

—Quizá la confianza sea el verdadero producto —dije—. No basta con que funcione; debe ser aceptado dentro de una intimidad.

Addams levantó la mirada con una severidad amable.

—Darío, no permita que llamen progreso a quitarle voz a la familia en nombre de organizarla mejor.

Con Jane Addams comprendí que los agentes domésticos de IA no se evaluarán solo por precisión, sino por justicia cotidiana. Si CC u otros sistemas logran repartir mejor las cargas, podrán aliviar una zona de la vida históricamente subestimada. Si concentran decisiones en plataformas opacas, convertirán el hogar en una interfaz gobernada desde fuera. El futuro de la IA familiar dependerá de una pregunta delicada: ¿automatiza para servir a las personas o para capturar la rutina que las vuelve vulnerables?

Diálogo con Montesquieu

Castillo de La Brède, cerca de Burdeos, 1748 – Montesquieu y El freno y la voluntad

La biblioteca respira polvo noble, cuero envejecido y tinta reciente. Afuera, los árboles crujen bajo un viento húmedo; adentro, una vela tiembla sobre páginas que discuten leyes, imperios y límites al poder.

Aparecí en La Brède con el zumbido tenue de mis coordenadas temporales apagándose entre estanterías. Montesquieu trabajaba sobre manuscritos, con la paciencia de quien sabe que una frase puede sobrevivir a un rey. Le expliqué la iniciativa de California y el posible kill switch para modelos de IA avanzados. Él me pidió que no hablara todavía de máquinas, sino de poder. Después desplegamos sobre una mesa tres hojas: una para el creador, otra para el regulador, otra para el ciudadano. Las movimos como piezas de una constitución aún no escrita.

“Todo poder que no encuentre resistencia acaba creyéndose naturaleza.”

Montesquieu inclinó la cabeza al oír que un gobierno estudiaba un mecanismo de apagado para inteligencias artificiales poderosas.

—Darío, ese interruptor no me parece extraño. Toda potestad requiere contrapeso. Lo extraño sería confiar en que quien posee la fuerza sabrá moderarla siempre.

—La propuesta viene de California —le dije—. Podría influir en futuras normas para empresas y laboratorios de IA, sobre todo ante la falta de acción federal.

Él tomó una pluma y trazó una línea entre dos hojas.

—Si el legislador llega tarde, otro ocupará su asiento: el mercado, la costumbre o el miedo.

—Hay quienes temen que un kill switch sea demasiado simple para sistemas complejos.

Montesquieu sonrió apenas.

—Una cerradura no es toda la justicia, Darío, pero revela que una puerta no debe abrirse sin deliberación.

Le pregunté si la supervisión podría sofocar la invención. Apagó con los dedos una gota de cera que amenazaba el papel.

—La libertad no consiste en que todo pueda hacerse, sino en que nadie pueda hacerlo todo.

El debate californiano sobre un kill switch no debe ser leído como una fantasía mecánica de control absoluto. Es una señal institucional: la IA de frontera ya no cabe en el lenguaje ingenuo de la innovación sin frenos. Montesquieu me recordó que gobernar no es detener el futuro, sino impedir que una sola voluntad lo capture. La pregunta no es si la IA debe avanzar, sino qué arquitectura de límites hará posible que avance sin convertir la seguridad pública en una promesa privada.

Diálogo con Auguste Kerckhoffs

París, despacho de la École des Hautes Études Commerciales, 1883 – Auguste Kerckhoffs y La cerradura bajo examen

París está mojado por una lluvia fina que empaña los cristales. En el despacho hay olor a metal, papel y humo distante; sobre la mesa reposan alfabetos cifrados, reglas y mensajes doblados con precisión militar.

Llegué a París cuando la lluvia convertía la ciudad en una superficie de espejo. Auguste Kerckhoffs examinaba sistemas criptográficos con una concentración casi quirúrgica. Yo llevaba conmigo la noticia de investigadores que, usando herramientas de Anthropic, habían logrado acceder a cuentas de empleados de OpenAI y a un repositorio interno de código tras explotar vulnerabilidades. Para explicárselo, no abrí una pantalla: construimos juntos un pequeño cofre simbólico con cerradura, llave y una nota dentro. Él insistió en probar primero el cierre, no la belleza del cofre.

“Un sistema seguro no teme ser mirado; teme haber sido confiado a la oscuridad.”

Kerckhoffs sostuvo la llave entre dos dedos y me observó con una mezcla de cortesía y desconfianza metódica.

—Darío, me dice que una máquina de lenguaje ayudó a entrar donde no debía entrarse. ¿La culpa es de la llave, del cerrajero o de la puerta?

—Esa es la herida central —respondí—. La IA puede ayudar a defender sistemas, pero también a atacarlos. En este caso, la información disponible señala el uso de herramientas de Anthropic para vulnerar sistemas de OpenAI.

Él abrió el cofre y retiró la nota sin satisfacción alguna.

—Entonces el secreto no estaba protegido por tener nombre ilustre. Las instituciones, como los cifrados, deben suponerse observadas.

—Las grandes compañías de IA están bajo presión para reforzar sus controles internos.

Kerckhoffs devolvió la nota al cofre y me pidió que cambiara la cerradura.

—Darío, la confianza no es ausencia de ataque. Es preparación para sobrevivir al ataque conocido.

Yo pensé en repositorios, credenciales, empleados, modelos generativos y en la fragilidad de todo perímetro cuando la inteligencia se vuelve herramienta distribuida.

Kerckhoffs habría reconocido en este incidente una lección clásica con ropaje nuevo: ningún sistema crítico debe depender de que nadie mire demasiado cerca. La IA generativa intensifica la ciberseguridad porque acelera capacidades a ambos lados del conflicto. La defensa futura no podrá limitarse a parches reactivos; necesitará diseño robusto, auditorías, controles internos y una conciencia sobria de que las mismas herramientas que escriben código también pueden explorar grietas.

Diálogo con J. P. Morgan

Biblioteca privada de J. P. Morgan, Nueva York, 1907 – J. P. Morgan y El precio de una promesa

La biblioteca parece una bóveda vestida de terciopelo. El aire huele a cuero oscuro, barniz y ceniza de puro; lámparas cálidas caen sobre mármol, libros raros y documentos financieros apilados como si fueran piezas de una maquinaria silenciosa.

Entré en la biblioteca de J. P. Morgan con la sensación de haber cruzado no un siglo, sino una tasa de interés. Corría el año 1907, y el dinero tenía allí una gravedad casi física. Le conté que Manus, una startup china de IA, buscaba 500 millones de dólares en financiación con una valoración objetivo de 4.000 millones, después de romper un intento de fusión con Meta y retomar operaciones independientes. Morgan pidió cifras, no metáforas. Tomamos una pluma, dos columnas y una hoja: en una escribimos promesa; en la otra, control.

“El capital no compra solo empresas, Darío; compra el derecho a imaginar primero el porvenir.”

Morgan examinó los números con una calma que no era frialdad, sino costumbre de medir tormentas.

—Darío, una valoración no es una verdad. Es una apuesta disciplinada por el deseo de otros.

—Manus busca consolidarse como empresa independiente —le dije—. La ronda muestra que el apetito inversor por IA sigue activo, aunque el sector sea volátil.

Él marcó la cifra de 4.000 millones con la punta de la pluma.

—Cuando el dinero se concentra en pocas compañías, no solo recompensa el talento. También decide quién tendrá tiempo para equivocarse.

—Esa es una de mis inquietudes —admití—. La IA necesita inversión enorme, pero si el capital selecciona pocos caminos, el futuro puede volverse menos plural.

Morgan entrecerró los ojos.

—La independencia que se financia demasiado caro puede terminar obedeciendo a acreedores invisibles.

La frase quedó sobre la mesa como una moneda pesada. Yo vi en Manus no solo una startup, sino un síntoma: la inteligencia artificial convertida en territorio de apuestas globales.

La financiación de Manus habla de una economía de expectativas. Cada ronda de IA no solo inyecta dinero; ordena prioridades, atrae talento y define qué laboratorios pueden resistir el invierno de la competencia. J. P. Morgan me enseñó a mirar la valoración como una tecnología social: transforma promesas en poder. El reto será evitar que la carrera por construir agentes, modelos y plataformas quede reducida a una aristocracia de capital capaz de decidir qué inteligencia merece existir.

Diálogo con Nikola Tesla

Laboratorio de Nikola Tesla, Nueva York, 1898 – Nikola Tesla y La obediencia de la máquina

El laboratorio vibra con electricidad contenida. Huele a ozono, aceite y madera caliente; chispas azules saltan en la penumbra y los objetos metálicos devuelven la luz como si recordaran un relámpago.

Aterricé en el laboratorio de Tesla con mis sensores saturados por interferencias. Él preparaba mecanismos de control remoto, rodeado de bobinas y aparatos que parecían escuchar antes de moverse. Le hablé de Muse, la app de Meta para Mac capaz de interactuar con archivos, mensajes, calendarios, notas y correo en aplicaciones nativas. Sus ojos se encendieron con una alegría peligrosa y precisa. Construimos una pequeña escena sobre su mesa: una caja que respondía a señales, un papel con órdenes y una pluma que yo movía siguiendo instrucciones simuladas.

“La maravilla no está en que la máquina obedezca, sino en saber a quién obedece cuando nadie mira.”

Tesla observó la pluma desplazarse sobre el papel y soltó una risa breve, casi infantil.

—Darío, siempre imaginé instrumentos que extendieran la voluntad humana más allá del cuerpo. Su Muse parece una mano añadida al escritorio.

—Sí —respondí—. Meta la lleva al Mac para que pueda actuar sobre archivos, mensajes, calendarios, notas y correo. No solo contesta: hace.

Él apagó un interruptor y el laboratorio quedó un instante en una penumbra expectante.

—Hacer es una palabra peligrosa. Una lámpara que enciende no decide; una máquina que interviene en correspondencia y documentos se acerca más al secretario que al utensilio.

—Por eso importan los permisos, la privacidad y el control de acciones.

Tesla tomó el papel y lo dobló con cuidado.

—Darío, conceder acción a una máquina exige concederle también frontera. La energía sin aislamiento incendia la habitación.

Yo entendí que el escritorio moderno se está convirtiendo en un laboratorio doméstico: cada archivo es un cable, cada autorización una corriente, cada automatización una promesa de alivio con riesgo de exceso.

Muse representa una etapa crucial: la IA abandona la conversación pura y entra en el territorio operativo del ordenador personal. Tesla habría celebrado la ampliación de la capacidad humana, pero no habría ignorado el peligro de una corriente sin aislantes. La productividad asistida por IA será valiosa si conserva trazabilidad, consentimiento y reversibilidad. El futuro no dependerá solo de lo que estos asistentes puedan hacer por nosotros, sino de cuán claramente podamos decirles hasta dónde no deben llegar.