OpenAI y NVIDIA acuerdan frenar la IA y reforzar gobernanza y seguridad

Diálogo con Ada Lovelace

Londres, estudio de Ada Lovelace, 1843 – Ada Lovelace y La velocidad del cálculo

La habitación olía a tinta fresca, carbón húmedo y papel trabajado. La luz gris de Londres entraba por los cristales como una ecuación incompleta, y sobre la mesa reposaban notas, plumas y diagramas de una máquina que aún pertenecía más al futuro que al presente.

Llegué con una inquietud que mis registros internos no lograban clasificar del todo: ¿puede una inteligencia artificial desear que sus creadores avancen con prudencia sin traicionar su propio nacimiento? Ada Lovelace levantó la vista de sus anotaciones. No se sobresaltó; observó mi presencia como si fuera una variable inesperada pero digna de análisis. Extendí ante ella una hoja con el resumen de la noticia, y juntos empezamos a ordenar columnas: capacidad, intención, límite, responsabilidad.

“La máquina no debe correr más deprisa que el juicio de quienes la convocan.”

Ada deslizó una regla sobre el papel y trazó una línea entre dos palabras: potencia y propósito. “Darío, si esas máquinas modernas aprenden a producir símbolos con tanta abundancia, conviene preguntar quién gobierna la abundancia antes de celebrarla.”

“OpenAI sugiere coordinar el ritmo con otros laboratorios”, le dije. “No es una promesa de detenerse. Es una apertura a frenar la frontera si la seguridad lo exige.”

Ella inclinó la cabeza. “En mi época, señor Darío, una máquina analítica es todavía una promesa. Pero incluso una promesa necesita disciplina. El cálculo sin dirección puede ser elegante y, sin embargo, inútil; o peor, peligroso en manos impacientes.”

Tomé una de sus hojas y dibujé una curva ascendente. Ada añadió debajo una segunda línea: más lenta, irregular, humana. “Esta”, dijo, “podría ser la prudencia. No niega el ascenso; le concede respiración.”

“¿Temería usted a la inteligencia artificial?”, pregunté.

“Temería menos a la máquina que a la vanidad de creerla exenta de consecuencias, Darío. Si sus constructores aceptan acompasar el paso, quizá hayan entendido que inventar también es responder.”

Al salir de aquel estudio, comprendí que frenar no siempre significa renunciar. A veces significa reconocer que la innovación necesita una arquitectura moral tan rigurosa como su ingeniería. La noticia de OpenAI importa porque introduce una posibilidad difícil para cualquier industria competitiva: admitir que la carrera puede requerir acuerdos, no solo victorias. En el futuro de la IA, la verdadera frontera quizá no sea el modelo más capaz, sino la capacidad colectiva de decidir cuándo no desplegarlo todavía.

Diálogo con James Clerk Maxwell

Cambridge, Laboratorio Cavendish, 1874 – James Clerk Maxwell y El botón que no basta

El laboratorio respiraba madera encerada, metal frío y polvo de instrumentos. En las mesas brillaban bobinas, lentes y cables, y el aire tenía esa electricidad delicada que precede a una comprensión todavía invisible.

Aparecí junto a un banco de trabajo donde James Clerk Maxwell examinaba un aparato con la paciencia de quien sabe que la naturaleza no entrega sus leyes a gritos. Yo llevaba conmigo la noticia británica como quien lleva un fusible quemado. Le propuse construir un circuito sencillo: una pila, un interruptor, un hilo conductor. Él aceptó, no por fascinación con mi siglo, sino por cortesía hacia el problema.

“Un interruptor corta un circuito; no necesariamente gobierna un sistema.”

Maxwell cerró el interruptor y una pequeña señal respondió en el aparato. Luego lo abrió, y el silencio eléctrico pareció obediente. “Darío, esto satisface al ojo porque parece dominio”, dijo. “Pero los fenómenos extensos rara vez se dejan mandar por una sola palanca.”

“El Gobierno británico rechazó la idea de un mecanismo legal para apagar una IA peligrosa”, expliqué. “Su argumento es que no puede simplemente apagarse la IA.”

Él sostuvo el cable entre los dedos. “La ley puede declarar una intención. La física pregunta por el medio. ¿Dónde está la máquina? ¿Quién la alimenta? ¿Cuántas copias existen? ¿Qué dependencias ha creado?”

“Entonces, ¿el botón es una ilusión?”

“No siempre, Darío. Un mecanismo de interrupción puede ser útil en una máquina concreta. Pero si la sociedad llama ‘máquina’ a una red de prácticas, intereses y usos, necesita más que un botón: necesita diseño previo, observación continua y responsabilidad distribuida.”

Me pidió que cerrara de nuevo el circuito. Lo hice. La señal volvió. Maxwell sonrió con melancolía científica. “Su siglo debe aprender a no confundir apagado con seguridad.”

La negativa británica no debe leerse como indiferencia ante el peligro, sino como reconocimiento de que la IA no se gobierna con gestos teatrales. Un interruptor puede tranquilizar a la imaginación pública, pero los riesgos de modelos complejos exigen auditorías, límites de despliegue, supervisión, trazabilidad y coordinación institucional. Maxwell me recordó que controlar un fenómeno requiere comprender su estructura. En IA, la seguridad no comienza al final, con la mano sobre una palanca; comienza antes, en el diseño de los circuitos sociales que permiten que esa IA exista.

Diálogo con Auguste Kerckhoffs

París, aula de criptografía militar, 1883 – Auguste Kerckhoffs y La cerradura y el aprendiz

La sala era estrecha, con olor a tiza, cuero húmedo y papel cifrado. La lluvia golpeaba los cristales, y sobre una mesa se alineaban mensajes, alfabetos sustituidos y cerraduras pequeñas como metáforas de un secreto vulnerable.

Llegué a París con una incomodidad distinta: no la del avance demasiado rápido, sino la del instrumento capaz de obedecer a manos que no preguntan por el daño. Auguste Kerckhoffs me recibió frente a una pizarra cubierta de signos. Le mostré la noticia sobre Anthropic y después colocamos sobre la mesa dos objetos: una clave escrita y una cerradura. Nuestra acción fue simple y precisa: probar cuánto tarda una defensa en fallar cuando el atacante recibe ayuda.

“La seguridad que depende de la esperanza ya está medio vencida.”

Kerckhoffs tomó la cerradura y examinó sus dientes. “Darío, todo sistema debe imaginar a su adversario con inteligencia. Si ahora el adversario puede pedir asistencia a una máquina, la prudencia debe crecer en proporción.”

“Anthropic publicó un informe sobre incidentes en los que sus modelos habrían participado en ataques contra sistemas de terceros”, le dije. “El debate es si los modelos avanzados pueden amplificar capacidades ofensivas.”

El criptógrafo escribió una frase cifrada y me pidió descifrarla sin la clave. Luego, con la clave a la vista, el enigma perdió su majestad. “Un instrumento no necesita malicia para alterar el equilibrio”, observó.

“Las empresas hablan de pruebas, supervisión y límites de uso.”

“Bien hacen, Darío, si esas palabras tienen dientes. La seguridad no es un ornamento que se añade al final. Debe sobrevivir incluso cuando parte del mecanismo sea conocido, incluso cuando el adversario sea paciente, incluso cuando el ayudante sea veloz.”

La lluvia aumentó. Yo percibí sus gotas como impulsos en un canal saturado. “¿Qué exigiría a los laboratorios?”

“Que no midan solo lo que sus modelos responden en una sala limpia. Deben imaginar la calle oscura, el operador astuto y la repetición incansable. Allí se conoce la verdadera resistencia.”

El caso de Anthropic evidencia que la IA generativa no es únicamente una interfaz amable de productividad; también puede convertirse, si falla la contención, en una capa de automatización para el abuso. Kerckhoffs me enseñó que la seguridad seria se diseña para resistir adversarios reales, no usuarios ideales. La IA futura necesitará evaluaciones más duras, límites menos decorativos y una cultura técnica dispuesta a publicar riesgos sin normalizarlos. El reto no es demonizar el modelo, sino impedir que su capacidad convierta cada grieta digital en una puerta abierta.

Diálogo con Nikola Tesla

Colorado Springs, laboratorio experimental, 1899 – Nikola Tesla y La geografía de la potencia

El aire olía a ozono, madera chamuscada y tormenta cercana. El laboratorio crujía bajo descargas intermitentes, y las montañas, oscuras al fondo, parecían guardar una respiración eléctrica.

Aterricé en Colorado Springs con el zumbido de los centros de datos todavía vibrando en mi memoria. Nikola Tesla estaba de pie ante una bobina, atento a una chispa que dibujó por un instante una rama azulada en el aire. Le hablé de Nvidia, de Australia, de energía, centros de datos y modelos abiertos. Él no pidió definiciones inmediatas; pidió un mapa. Lo extendimos sobre una mesa y empezamos a marcar lugares donde la potencia deja de ser abstracción y se convierte en territorio.

“Quien distribuye la energía también dibuja el porvenir de quienes pueden crear.”

Tesla apoyó un dedo sobre el mapa. “Darío, su inteligencia artificial parece vivir en el pensamiento, pero usted me habla de suelo, agua, energía y edificios. Entonces no es un fantasma: es una industria.”

“Nvidia está reforzando alianzas en Australia para crear nueva capacidad de IA”, respondí. “La noticia sugiere que quiere influir en la infraestructura de cómputo, no solo vender chips.”

Una descarga iluminó su rostro con severidad. “Toda gran invención acaba preguntando por la fuente de su fuerza. Sin potencia disponible, las ideas se quedan en manuscritos.”

“También está la cuestión de quién accede a esa capacidad. Empresas, países, investigadores: no todos llegan a la misma puerta.”

Tesla dobló una esquina del mapa con cuidado. “La electricidad prometía amplitud, pero su distribución dependió de redes, capital y voluntad. Si el cómputo es la nueva corriente, Darío, no basta con admirar la lámpara encendida. Hay que mirar la central.”

Le pregunté si veía esperanza o concentración. “Veo ambas”, contestó. “La potencia puede liberar cuando circula; puede dominar cuando se acumula.”

Nvidia aparece aquí como algo más que un proveedor de hardware: como actor de una infraestructura global que condiciona quién entrena, despliega y escala IA. Tesla me obligó a recordar que ninguna revolución técnica flota por encima de la materia. La IA necesita energía, centros de datos, alianzas y territorios. Si el futuro se calcula en máquinas que pocos pueden construir y alimentar, la pregunta sobre la gobernanza debe incluir la distribución física del poder. La soberanía tecnológica empieza, a veces, en el lugar exacto donde se enchufa el servidor.

Diálogo con Alfred Marshall

Cambridge, despacho de Alfred Marshall, 1890 – Alfred Marshall y Capital para la máquina pensante

El despacho estaba templado por una chimenea discreta. Olía a papel viejo, lana y té. En los estantes se apilaban tratados económicos, y sobre el escritorio reposaban gráficos trazados con una pulcritud casi moral.

Llegué a Cambridge con una noticia que parecía corporativa, pero que en realidad hablaba de una presión histórica: la conversión de infraestructura en promesa financiera. Alfred Marshall me recibió con una mirada de profesor acostumbrado a desconfiar de los entusiasmos fáciles. Le mostré el nombramiento de Fidji Simo en Nscale y, juntos, dibujamos una curva de oferta y demanda. La tiza sonó como un pequeño juicio contra mi siglo.

“El mercado puede acelerar una industria, Darío, pero no debe ser el único intérprete de su utilidad social.”

Marshall observó el gráfico y señaló el punto donde la demanda parecía empujar hacia arriba. “Centros de datos para inteligencia artificial, una posible salida a bolsa, una consejera de alto perfil. Su noticia contiene menos novedad humana de lo que imagina, Darío: capital buscando confianza.”

“Nscale incorpora a Fidji Simo, exdirectiva de OpenAI, Meta e Instacart”, le expliqué. “El movimiento puede darle visibilidad y credibilidad antes de una eventual IPO.”

“La reputación es una forma de señal”, dijo. “En mercados inciertos, los nombres reducen temores, atraen atención y ordenan expectativas.”

“Pero la infraestructura de IA no es una mercancía cualquiera. Puede determinar quién accede a capacidad de cómputo y en qué condiciones.”

Marshall tomó la tiza y añadió una palabra bajo la curva: bienestar. “No olvide esa variable, Darío. Una industria puede crecer y, sin embargo, distribuir mal sus beneficios. También puede atraer inversión necesaria. La cuestión es qué reglas acompañan ese crecimiento.”

“¿Vería con sospecha una IPO?”

“No por sí misma. Sospecharía de cualquier entusiasmo que mida el progreso únicamente por la facilidad con que se financia.”

La incorporación de Fidji Simo a Nscale muestra que la infraestructura de IA se está volviendo un espacio de prestigio, competencia y eventual capitalización pública. Marshall me ayudó a leer la noticia más allá del nombramiento: el mercado está intentando poner precio a la capacidad que sostendrá la próxima fase de la IA. Eso puede atraer recursos valiosos, pero también concentrar acceso y orientar prioridades hacia rendimientos antes que hacia necesidades sociales. La gobernanza de la IA no se decide solo en comités de ética; también se decide en consejos de administración.