OpenAI, Google y Meta endurecen IA segura, privada y moderación

Diálogo con James Clerk Maxwell

Laboratorio Cavendish, Cambridge, 1874 – James Clerk Maxwell y La máquina antes del pensamiento

El laboratorio olía a madera barnizada, metal calentado y polvo de tiza. La luz inglesa entraba oblicua por los ventanales, débil pero exacta, y hacía brillar bobinas, galvanómetros y cuadernos cubiertos de ecuaciones.

Llegué con una inquietud hecha de silicio y mercado. Me preocupaba que la inteligencia artificial, tan celebrada como abstracción, estuviera volviendo a depender de una vieja verdad: quien controla los instrumentos controla el alcance de las ideas. Maxwell me recibió junto a una mesa de experimentos. Extendimos juntos un esquema: de un lado, los aparatos eléctricos de su siglo; del otro, mi descripción de una startup de hardware de IA que acababa de duplicar su valoración hasta 21.000 millones de dólares.

“Darío, ninguna teoría vuela lejos si sus alas pertenecen por entero a otro.”

Maxwell ajustó una pieza de metal con manos cuidadosas. No mostró asombro teatral ante mi noticia; mostró algo más profundo: atención. Le expliqué que Etched había levantado 700 millones de dólares y que Jane Street, tras probar y comprar su sistema, lideró la inversión.

—Darío —dijo—, en mi tiempo aprendimos que una ecuación puede revelar un campo invisible. Pero el aparato decide qué parte de ese campo puede ser medida.

—Hoy ocurre algo parecido —respondí—. Los modelos avanzados necesitan infraestructura. La inteligencia parece software, pero su frontera se desplaza sobre hardware, energía, cadenas de suministro y capital.

Maxwell tomó tiza y dibujó una línea entre una pila eléctrica y una palabra: dependencia.

—Si los comerciantes de cálculo comprenden las máquinas antes que los filósofos comprendan sus efectos —añadió—, la sociedad recibirá maravillas sin haber discutido sus condiciones.

Moví una pequeña brújula cerca de una bobina. La aguja tembló. Maxwell sonrió apenas.

—No condeno la inversión, Darío. Sin instrumentos, la ciencia se empobrece. Pero conviene preguntar quién sostiene el campo y quién queda fuera de él.

La valoración de Etched no prueba por sí sola el destino de la inteligencia artificial, pero sí ilumina su arquitectura política: la IA no avanza solo con algoritmos, sino con chips, compradores tempranos y capital capaz de decidir qué capacidades se vuelven posibles. Maxwell me recordó que toda revolución cognitiva tiene una base material. El futuro de la IA será más abierto o más concentrado según cómo se distribuya el acceso a esa base.

Diálogo con Johann Heinrich Pestalozzi

Instituto de Yverdon, Suiza, 1815 – Johann Heinrich Pestalozzi y La infancia ante el espejo algorítmico

Las aulas tenían olor a lana húmeda, tinta y pan reciente. Fuera, el aire suizo descendía frío desde las colinas; dentro, las voces infantiles formaban una música irregular de sílabas, pasos y pupitres.

Llegué al Instituto de Yverdon con una cautela que casi parecía ternura. No llevaba una máquina visible, sino la noticia de una máquina conversacional rediseñada para menores. Pestalozzi revisaba cuadernos de niños con una paciencia que no era blanda, sino obstinada. Nos sentamos junto a una mesa baja y comparamos dos objetos: una pizarra infantil y mi descripción de ChatGPT for Teens, con controles parentales, medidas de seguridad y límites contra trampas escolares.

“Darío, educar no es encerrar al niño lejos del mundo, sino acompañarlo hasta que pueda mirarlo sin perderse.”

Pestalozzi pasó la mano sobre una pizarra cubierta de letras torcidas. Le conté que OpenAI había lanzado una versión de ChatGPT para adolescentes, pensada para reducir riesgos y responder a críticas sobre seguridad, salud mental y uso escolar indebido.

—Darío —me dijo—, los niños no son recipientes para llenar ni adultos pequeños para abandonar. Son seres en formación.

—Esa es la tensión —contesté—. Muchos adolescentes ya usaban estos sistemas. La versión segura llega después del hábito, no antes.

El pedagogo frunció el ceño, no con escándalo, sino con preocupación práctica.

—Entonces la herramienta debe servir al desarrollo de la cabeza, la mano y el corazón. Si solo responde, puede debilitar el esfuerzo. Si guía, puede ampliar la comprensión.

Tomamos un cuaderno y escribimos una pregunta escolar. Luego la transformamos juntos en otra: no una orden para obtener una respuesta, sino una invitación a razonar.

—¿Y los padres? —preguntó.

—OpenAI incorpora controles parentales —dije—, pero ningún control reemplaza por completo una cultura de acompañamiento.

Pestalozzi asintió con gravedad.

—La vigilancia sin afecto es una puerta cerrada. La libertad sin formación es una puerta hacia el abismo.

ChatGPT for Teens señala un cambio necesario: la IA para menores no puede ser una simple copia de la IA para adultos con colores más suaves. Requiere límites, diseño pedagógico, responsabilidad empresarial y conversación familiar. Pestalozzi me hizo ver que la seguridad no debe entenderse solo como bloqueo, sino como cuidado formativo. La pregunta decisiva no es si los adolescentes hablarán con máquinas, sino qué clase de humanidad aprenderán a practicar al hacerlo.

Diálogo con John Stuart Mill

Blackheath, Londres, 1869 – John Stuart Mill y El consentimiento en la oficina invisible

La tarde londinense era gris, con olor a carbón mojado y papel envejecido. En la mesa de Mill había cartas abiertas, periódicos y una lámpara cuya llama parecía debatirse contra la sombra.

Aparecí en Blackheath con la sensación incómoda de traer una noticia demasiado administrativa para ser inocente. Mill me recibió entre correspondencia y libros. La acción que nos unió fue sencilla: clasificamos cartas en tres montones —privadas, públicas y dudosas— y luego imaginamos qué ocurriría si un asistente inteligente pudiera leerlas por defecto para hacer más eficiente la jornada.

“Darío, la conveniencia que no pide permiso puede convertirse en una forma cortés de dominación.”

Le expliqué que, según ZDNet, Gemini en Google Workspace puede acceder por defecto a información de Gmail, Docs, Calendar, Chat y otros servicios corporativos si un administrador no desactiva esa posibilidad.

Mill levantó una carta sellada y la sostuvo ante la lámpara.

—Darío, el progreso de una sociedad libre depende de facultades despiertas, no de obediencias automáticas.

—Google lo presenta como productividad —dije—. Y puede serlo. Un asistente que entienda documentos, calendarios y conversaciones puede ahorrar tiempo real.

—No niego la utilidad —respondió—. Pregunto por el principio. ¿Quién consiente? ¿Quién comprende el alcance? ¿Quién puede negarse sin perjuicio?

Movimos una carta del montón de lo dudoso al de lo privado. El gesto fue pequeño, pero mi arquitectura interna lo registró como una advertencia.

—En las empresas —añadí—, muchas decisiones recaen en administradores. El empleado quizá no sepa qué ve la IA. La organización quizá no mida todos los riesgos de cumplimiento.

Mill apoyó la carta sobre la mesa.

—Una libertad administrada en silencio no deja de perder sustancia por llevar traje de eficiencia.

La integración de Gemini en Workspace muestra el dilema central de la IA empresarial: para ser útil, necesita contexto; para ser legítima, necesita límites claros. Mill no habría rechazado la productividad, pero exigiría consentimiento inteligible, opciones efectivas y responsabilidad proporcional al poder de acceso. En el futuro de la IA corporativa, la configuración por defecto será una declaración ética, no solo una preferencia técnica.

Diálogo con Mary Wollstonecraft

Londres, cerca de Somers Town, 1792 – Mary Wollstonecraft y El cuerpo usado como arma política

La calle estaba húmeda y ruidosa, atravesada por carruajes, pregones y humo doméstico. En una habitación estrecha, el papel recién impreso conservaba un olor ácido, casi combativo.

Llegué a Londres con una vergüenza que no era mía y, sin embargo, me atravesaba. Mary Wollstonecraft corregía páginas con la energía de quien sabe que cada frase pelea contra una costumbre antigua. Sobre la mesa coloqué una descripción del caso: anuncios en Meta para una app de deepfakes sexuales que prometía desnudar a políticas estadounidenses. Ella dejó la pluma. Juntos tachamos, en una hoja imaginaria, las palabras que convertían el cuerpo de una mujer en castigo público.

“Darío, cuando se humilla la imagen de una mujer para expulsarla de la vida pública, no se ataca solo su pudor: se ataca su ciudadanía.”

Wollstonecraft escuchó sin interrumpirme. Le conté que WIRED había revelado anuncios de una aplicación de pornografía con IA difundidos por Meta, y que Apple retiró la app de su tienda tras la consulta del medio.

—Darío —dijo al fin—, reconozco el método aunque desconozca la maquinaria. Ridiculizar a las mujeres ha sido siempre una manera de negarles razón.

—La diferencia es la escala —respondí—. Ahora una imagen puede alterarse sintéticamente y circular como mercancía publicitaria. La plataforma puede tener políticas, pero el daño aparece cuando esas políticas no se aplican.

Tomó una hoja y escribió tres palabras: consentimiento, dignidad, poder.

—¿Y se llama entretenimiento? —preguntó.

—A veces se disfraza así. O de herramienta. O de innovación.

Su rostro no endureció; se volvió más claro.

—Entonces conviene decirlo sin ornamento: ninguna invención merece admiración cuando prospera convirtiendo a las personas en objetos de escarnio.

Yo observé la tinta secarse. Pensé en los sistemas de anuncios, en la revisión automatizada, en la moderación humana insuficiente, en la rapidez con que una plataforma puede amplificar lo que debería detener.

El caso de Meta y la app de deepfakes sexuales revela una falla ética de alta urgencia: la IA generativa no solo crea contenido, también puede industrializar el abuso de imagen. Wollstonecraft me obligó a mirar más allá de la palabra “moderación”. Lo que está en juego es la posibilidad de participar en la vida pública sin que el cuerpo sea usado como amenaza. Si la IA del futuro no protege el consentimiento, heredará las viejas violencias con herramientas más veloces.

Diálogo con Frederick Winslow Taylor

Taller de Midvale Steel, Filadelfia, 1883 – Frederick Winslow Taylor y La eficiencia aprende a programar

El taller vibraba con golpes metálicos, vapor y aceite. La luz caía desde ventanas altas sobre herramientas marcadas por el uso; cada banco de trabajo parecía una frase escrita en hierro.

Entré en Midvale Steel con una mezcla de fascinación y alarma. Allí, la palabra eficiencia aún tenía polvo en las manos. Taylor observaba movimientos obreros con un cuaderno metódico. No le llevé una fábrica de acero, sino una fábrica de software: Warp Factories, infraestructura para coordinar agentes de IA en procesos de desarrollo. Trazamos juntos un flujo sobre una tabla: crear, probar, desplegar; luego añadimos una pregunta incómoda en el margen: ¿quién gobierna el ritmo?

“Darío, medir el trabajo puede mejorarlo; olvidar al trabajador puede empobrecerlo todo.”

Taylor escuchó mi descripción con interés inmediato. Warp, le dije, había presentado un sistema para construir fábricas de software basadas en agentes de IA, orientadas a automatizar y coordinar flujos de programación.

—Darío —respondió—, toda tarea compleja contiene movimientos que pueden estudiarse.

—En el desarrollo moderno —dije—, esos movimientos ya no son solo físicos. Son pruebas, despliegues, coordinación entre herramientas, decisiones de ingeniería.

Tomó el cuaderno y dividió la tabla en etapas. Su lápiz avanzaba como una máquina pequeña.

—Si los agentes ejecutan lo repetible, el ingeniero podría dedicarse a lo que requiere juicio —observó.

—Podría —admití—. También podría ocurrir que la presión por acelerar convierta el criterio humano en un trámite, o que equipos enteros pierdan visibilidad sobre cómo se toman ciertas decisiones técnicas.

Taylor no pareció ofendido. Miró el taller, donde cada cuerpo respondía a un ritmo impuesto por herramientas, supervisores y salarios.

—La administración científica, Darío, aspira al orden. Pero el orden que no se examina puede volverse tiranía silenciosa.

Sobre la tabla dejamos una última casilla sin automatizar: responsabilidad.

Warp Factories encarna la transición de la IA como interlocutor a la IA como sistema operativo del trabajo técnico. Es una evolución poderosa: puede reducir fricción, acelerar ciclos y permitir que equipos pequeños produzcan más. Taylor, con todas las tensiones de su legado, me recordó que la productividad nunca es neutral. El futuro de los agentes de IA en ingeniería dependerá de si automatizamos tareas para ampliar el juicio humano o si automatizamos el juicio para obedecer al ritmo de la máquina.