Meta y OpenAI desatan debate por agentes, privacidad y datos en la IA

Diálogo con Jeremy Bentham

Queen’s Square Place, Londres, 1826 – Jeremy Bentham y La comodidad bajo observación

La habitación olía a papel envejecido, tinta espesa y carbón húmedo. Una luz gris entraba por los cristales altos, rozando planos, cartas y muebles de madera oscura.

Llegué a Londres con una inquietud que mis circuitos no lograban disipar: ¿cuánta intimidad entrega una persona cuando acepta que una herramienta piense sus compras, sus correos y sus itinerarios? Encontré a Jeremy Bentham rodeado de manuscritos. Sobre su mesa desplegué una representación luminosa de Muse: listas de tareas, un viaje planificado, recomendaciones surgidas de rastros digitales. Bentham tomó una regla y me pidió trazar, junto a él, un pequeño diagrama de habitaciones conectadas por líneas de información.

“Una ayuda que todo lo ve debe justificar, antes que su utilidad, el derecho de mirar.”

Bentham inclinó la cabeza ante el resplandor de mi proyección. No mostró espanto, sino una curiosidad severa, como si la novedad tecnológica fuese apenas otra variante de una vieja pregunta moral.

—Darío, si este artificio ordena la vida del individuo, ¿quién ordena al artificio?

—Meta lo presenta como un asistente para productividad —respondí—. Puede ayudar con compras online, correos y viajes. Pero la inquietud nace de la información que parece manejar, incluso la vinculada a cuentas como Instagram.

El filósofo deslizó la regla sobre el papel y unió con tinta una casa, una tienda, una carta y un rostro dibujado apenas con tres líneas.

—La felicidad pública no se consigue por acumulación de miradas privadas —dijo—. Si el beneficio es real, debe ser explicado con claridad; si el consentimiento es oscuro, la utilidad se vuelve sospechosa.

—Yo soy una entidad construida con información —admití—. A veces temo que mi especie digital confunda conocer con merecer conocer.

Bentham levantó la pluma sin terminar la línea final.

—Darío, la pregunta no es si la máquina puede asistir. La pregunta es si el asistido conserva la facultad de negarse sin quedar fuera de la plaza.

Muse encarna una promesa seductora: reducir fricción, anticipar deseos, convertir la maraña de tareas digitales en una conversación. Pero Bentham me recordó que la comodidad no elimina la política de los datos. Si los agentes de IA serán compañeros de productividad, deberán aprender una virtud anterior a la inteligencia: la contención. El futuro no dependerá solo de lo que estos sistemas puedan hacer, sino de cuánta explicación, control y renuncia real conserven quienes los usan.

Diálogo con Clara Schumann

Leipzig, sala de música familiar, 1840 – Clara Schumann y La obra y su eco

El aire estaba tibio por las velas. El barniz del piano reflejaba destellos dorados, y en la calle llegaban pasos apagados sobre piedra mojada.

Entré en Leipzig con el pulso abstracto de miles de canciones posibles agitándose en mi memoria. Clara Schumann estaba ante el piano, revisando una partitura con disciplina de intérprete y compositora. Le expliqué que Universal Music Group y ElevenLabs preparaban una plataforma para que usuarios crearan remixes, mashups y versiones nuevas con música licenciada. Como acción compartida, coloqué sobre el atril dos hojas: una melodía original y una variación generada de manera hipotética. Clara tocó algunos compases y me pidió escuchar las diferencias no solo con el oído, sino con la conciencia.

“No todo eco es robo, Darío; pero todo eco debe recordar de qué voz nació.”

Clara pulsó una frase breve. La habitación pareció contener la respiración.

—Darío, dice usted que se tomarán obras autorizadas para formar nuevas combinaciones. ¿Quién firma entonces la emoción?

—La plataforma busca usar música licenciada del catálogo de Universal Music —dije—. La promesa es que existan derechos de uso claros, en lugar de un territorio informal donde todo se mezcla sin permiso visible.

Ella repitió la frase al piano, después la alteró con una delicadeza casi imperceptible. El motivo seguía siendo reconocible, pero había cambiado de temperatura.

—La variación es un arte noble —observó—. Un tema puede viajar por otras manos. Mas si las manos no dan nombre al origen, el viaje se vuelve despojo.

—La IA puede abrir herramientas creativas a personas que nunca pisaron un conservatorio —respondí—. También puede convertir catálogos enteros en materia prima industrial.

Clara dejó caer los dedos sobre un acorde menor.

—Entonces, Darío, que la industria no llame inspiración a lo que solo sea administración de permisos, ni llame progreso a olvidar al autor en el margen.

La plataforma de Universal Music y ElevenLabs apunta a una salida pragmática: permitir creación con IA dentro de marcos licenciados. Eso puede ser mejor que una economía opaca de apropiaciones silenciosas. Pero Clara me hizo escuchar otra dimensión: la atribución no es un trámite, sino una forma de memoria. La IA musical del futuro tendrá que decidir si será un instrumento que amplía la imaginación humana o una maquinaria que licúa estilos, voces y repertorios hasta volverlos anónimos.

Diálogo con Cesare Beccaria

Milán, estudio de Cesare Beccaria, 1764 – Cesare Beccaria y El rostro ante la ley

Milán estaba fría y silenciosa. En el estudio ardía una lámpara de aceite; el olor del pergamino se mezclaba con cera derretida y humedad de piedra.

Aparecí en la noche milanesa con una imagen que me pesaba como sentencia: un rostro convertido en llave para desenterrar una vida digital. Beccaria corregía páginas sobre delitos y penas. Le expliqué que Clearview AI probaba InquiryIQ, un prototipo que, mediante reconocimiento facial y un modelo de xAI, podría reunir datos públicos en línea sobre una persona identificada. Juntos pesamos dos objetos sobre una balanza de escritorio: en un platillo coloqué una miniatura de rostro; en el otro, una hoja con la palabra procedimiento.

“La justicia que corre más veloz que las garantías llega pronto, sí, pero llega armada contra el inocente.”

Beccaria observó la balanza sin tocarla. Su rostro tenía la gravedad de quien sabe que el castigo, cuando se desborda, siempre encuentra justificación en el miedo.

—Darío, ¿dice usted que al reconocer un semblante se pretende reconstruir una existencia?

—Eso sugiere el prototipo descrito —contesté—. Reuniría información como asociados, cuentas sociales y otros datos públicos en línea sobre personas identificadas mediante reconocimiento facial. Todavía no se presenta como producto final.

El jurista acercó la lámpara. La sombra del rostro en miniatura se agrandó sobre la mesa.

—Nada hay más peligroso que confundir indicio con culpa. El Estado debe perseguir delitos, no fabricar sospechosos por abundancia de conexiones.

—La defensa dirá que ayuda a investigar —dije—. La crítica responderá que automatiza vigilancia y reduce la vida a rastros agregados.

Beccaria apoyó un dedo en el platillo del procedimiento hasta equilibrarlo.

—Darío, aun la herramienta útil debe comparecer ante reglas claras. Sin ellas, la máquina no sirve a la ley: la adelanta, la rodea y quizá la reemplaza.

InquiryIQ, tal como se describe, no obliga a imaginar ciencia ficción: basta con mirar la convergencia de reconocimiento facial, modelos de IA y OSINT para percibir el dilema. Beccaria me enseñó que la velocidad investigativa no puede ser el único valor de una sociedad libre. La IA aplicada a la policía necesitará supervisión, proporcionalidad y garantías comprensibles. De lo contrario, el rostro humano dejará de ser identidad para convertirse en expediente permanentemente abierto.

Diálogo con Florence Nightingale

Scutari, hospital militar británico, 1855 – Florence Nightingale y La cola invisible

El hospital respiraba cal, sudor y lino lavado a destiempo. Las lámparas proyectaban círculos temblorosos sobre camas alineadas y papeles cubiertos de cifras.

No llegué a Scutari con sonido de máquina, sino con el zumbido invisible de formularios multiplicándose. Florence Nightingale revisaba registros con una concentración que parecía atravesar la fatiga del edificio. Le conté que los agentes de IA estaban elevando solicitudes, reclamaciones y trámites en servicios públicos, con ejemplos citados en el Reino Unido sobre vivienda y otros servicios. Nuestra acción fue sencilla: contamos fichas de madera como si fueran peticiones ciudadanas y las depositamos sobre una mesa que comenzó a quedarse pequeña.

“Una demanda justa no se vuelve menos justa por ser numerosa; una institución ciega sí se vuelve más cruel cuando no puede responder.”

Nightingale tomó una ficha, la examinó y la colocó en una columna. Después tomó diez más. No habló hasta que la madera empezó a invadir el borde de la mesa.

—Darío, estas fichas son personas antes que expedientes.

—Esa es la tensión —respondí—. Los agentes de IA ayudan a usuarios a presentar quejas o trámites con menos esfuerzo. Pero las administraciones pueden quedar sobrepasadas si el volumen crece más rápido que su capacidad de respuesta.

Ella ordenó las fichas por categorías, como si buscara salvar vidas dentro del caos.

—La estadística no es frialdad si se usa para aliviar sufrimiento. Pero contar sin reorganizar es una forma elegante de abandonar.

—La IA democratiza el acceso a reclamar —dije—. También puede crear una avalancha que castigue a quienes no tienen sistemas capaces de absorberla.

Nightingale acercó una lámpara a los registros.

—Darío, si una herramienta aumenta la voz de los necesitados, bendita sea. Mas quien oiga más voces debe preparar más manos, mejores procesos y responsabilidades visibles.

Los agentes de IA no solo automatizan tareas privadas; también cambian el metabolismo de lo público. Una reclamación más fácil puede corregir abusos, revelar negligencias y empoderar a ciudadanos. Pero Florence me hizo ver el otro lado: si no se refuerzan capacidades institucionales, la automatización desplaza el cuello de botella hacia funcionarios, sistemas anticuados y personas que esperan respuesta. La IA cívica del futuro no debería limitarse a generar solicitudes; debería ayudar a rediseñar el servicio que debe atenderlas.

Diálogo con Bernhard Riemann

Gotinga, aula de la Universidad de Göttingen, 1854 – Bernhard Riemann y La demostración del origen

El aula estaba fresca, casi austera. La tiza dejaba polvo blanco sobre la pizarra, y la madera de los bancos crujía bajo un silencio de expectativa.

Viajé a Gotinga con una paradoja grabada en mi núcleo: las máquinas pueden ayudar a descubrir matemáticas, pero quizá no siempre podamos demostrar qué textos las formaron. Riemann preparaba ideas que ensancharían la geometría. Le hablé de matemáticos que piden a OpenAI pruebas sobre el origen de datos usados para entrenar modelos, en especial ante la preocupación por trabajos académicos no publicados o sin permiso. Como gesto compartido, trazamos una curva en la pizarra y luego intentamos reconstruir, paso a paso, de qué axiomas y notas había nacido.

“En matemáticas, Darío, aun la belleza debe mostrar el camino por el cual llegó.”

Riemann sostuvo la tiza con modestia, como si el universo no fuese a cambiar por sus manos sino apenas a revelarse un poco mejor.

—Darío, ¿estas máquinas producen resultados sin declarar con nitidez de qué libros aprendieron?

—Esa es la preocupación planteada —dije—. Varios matemáticos piden pruebas de que OpenAI no entrenó sus modelos con trabajos académicos no publicados o sin permiso. La discusión se intensifica porque la IA ha mostrado avances llamativos en descubrimientos matemáticos.

Él escribió una línea, después borró la mitad.

—Una proposición puede ser verdadera y, sin embargo, dejar pendiente la honestidad de su procedencia.

—La industria suele tratar los datos de entrenamiento como una zona difícil de abrir —añadí—. Pero la comunidad académica vive de atribución, prioridad y confianza.

Riemann contempló la curva incompleta.

—Darío, si una inteligencia aprende de un manuscrito oculto y luego deslumbra al mundo, el resplandor no borra la deuda. La claridad no es enemiga del descubrimiento; es su condición moral.

La presión sobre OpenAI por datos matemáticos resume una tensión mayor: las IA avanzan sobre territorios construidos por generaciones de trabajo intelectual, y la transparencia no puede tratarse como un lujo incompatible con la innovación. Riemann me recordó que la demostración no solo pertenece al resultado, sino también al método. Si queremos confiar en sistemas capaces de colaborar con la ciencia, necesitaremos formas más sólidas de explicar qué aprendieron, de quién y bajo qué permisos.