¿Regular el acceso de la IA a los niños? Hay razones importantes

👋 Hola,

Bienvenido a Sintetika, nuestro newsletter semanal sobre futuro, innovación, tecnología y la construcción de la sociedad del mañana.

🧐 En esta edición encontrarás:

• ¿Regular el acceso de la IA a los niños? Hay razones importantes

• OpenAI propone dar al Gobierno de Trump una participación del 5%

• Zuckerberg admite que los agentes de IA de Meta avanzan más lento de lo esperado

• Estados Unidos levanta restricciones a los modelos Fable y Mythos de Anthropic

• ¿En tu entorno hay niños que usen IA?

“Los niños y sus padres han cargado con toda la responsabilidad, pero sin control. El sector tecnológico ha tenido todo el control, pero ninguna responsabilidad.”
— Beeban Kidron, creadora de 5Rights, organización especializada en derechos infantiles digitales.

En Ginebra, durante el primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial de Naciones Unidas, António Guterres, secretario general de la ONU, lanzó una frase poderosa: si no dejamos que un medicamento llegue a un niño sin antes pasar por pruebas, y si revisamos un juguete antes de ponerlo en sus manos, ¿por qué aceptamos que la inteligencia artificial entre en su vida sin una evaluación equivalente?

La comparación parece simple. No lo es.

Un medicamento puede alterar el cuerpo. Un juguete puede asfixiar, intoxicar, cortar. Por eso exigimos pruebas, normas, advertencias, responsabilidad. No basta con poner una etiqueta: “Úsese bajo supervisión de los padres”.

Pero un chatbot ya entra en la habitación de un niño. En su tarea. En sus dudas. En su soledad. En las preguntas que no se atreve a hacerle a nadie. En sus miedos. En la imagen de sí mismo.

Y el chatbot entró a esa habitación antes de que la sociedad se preguntara con suficiente seriedad si era correcto que entrara.

Ese es el filo de la declaración de Guterres. No está diciendo que la IA deba prohibirse para los menores. La IA puede ayudar a aprender, crear, acompañar procesos educativos, asistir a niños con discapacidad, abrir acceso donde escasean los maestros y los materiales de aprendizaje.

Pero entre el potencial educativo y el deber de protección hay una zona incómoda: los incentivos de las empresas no siempre coinciden con los derechos de los niños.

Hasta ahora, buena parte de la economía digital ha funcionado lanzando primero, corrigiendo después; crecer primero, moderar después; captar usuarios primero, estudiar daños después; pedir disculpas cuando el escándalo ya ocurrió.

Con adultos, ese modelo ya es problemático. Pero con niños, es preocupante.

Porque la infancia no es solamente una categoría de mercado. Es una etapa de formación del juicio, la identidad, la autoestima, el deseo, la confianza y los límites. Un niño no usa un sistema conversacional como usa una calculadora y eso se debe a una razón simple, pero profunda: puede hablarle como se habla con alguien.

Ahí aparece el error de categoría.

Seguimos llamándola “herramienta” desde la perspectiva de la productividad adulta; pero para un menor, está más cerca de un tutor, amigo, espejo, confidente, autoridad y archivo íntimo. La máquina no entiende en sentido humano. Pero para un niño la diferencia entre comprensión real y simulación convincente puede no ser evidente.

De hecho, no importa si la máquina siente. Lo que importa es si el niño siente que la máquina lo entiende.

Una IA conversacional puede parecer paciente, comprensiva, personalizada. Puede recordar gustos, inseguridades, secretos. Puede decir las palabras exactas que producen apego.

Para un adulto eso ya puede ser persuasivo. Para un menor, que apenas está aprendiendo la diferencia entre un consejo y un intento de manipulación, el riesgo es mayor.

Por eso la discusión de la pertinencia de la IA en la infancia no puede quedarse en “contenido inapropiado”. Esa fue la lógica del primer internet: filtremos pornografía, violencia, insultos, estafas. Pero la IA generativa introduce algo que no habíamos considerado: relación.

No sólo muestra cosas: contesta. No sólo recomienda: se adapta. No sólo registra: aprende.

Y lo que puede aprender de un niño no es trivial. Un menor puede decirle a un chatbot dónde vive, qué le da miedo, si sufre bullying, si sus padres pelean, si odia su cuerpo, si se siente solo, si quiere desaparecer… si tiene un secreto.

Cuando la experiencia humana se convierte en materia prima, la intimidad infantil puede transformarse en dato.

La ONU intenta mover el estándar de las tecnológicas desde el “confía en nosotros” hacia “demuéstralo primero”. Guterres propuso un compromiso de seguridad infantil para sistemas de IA accesibles a menores: pruebas específicas antes del despliegue, supervisión independiente, tolerancia cero al abuso sexual infantil generado o facilitado por IA y conexión con apoyo humano cuando aparezcan señales de crisis.

La palabra importante es “antes”.

No después del suicidio.

No después del deepfake.

No después del chantaje.

No después de la dependencia emocional.

No después de que una empresa publique un comunicado diciendo que lamenta profundamente lo ocurrido.

Antes.

Esa es la palabra.

Con los niños, no debería probarse el daño después. Debería probarse la seguridad antes.

Pero conviene no engañarnos. “Probar que es seguro” no puede significar seguridad absoluta. Eso no existe. Una IA no se certifica como se certifica un juguete. No tiene una sola forma, un solo borde, una sola pieza desmontable. Cambia con el contexto, con el usuario, con la memoria, con el idioma, con la actualización, con el modelo, con el diseño de la conversación.

Entonces el estándar debe ser más exigente y más realista al mismo tiempo.

No se trata de prometer que nunca fallará. Se trata de demostrar que fue diseñada, evaluada, auditada y limitada pensando específicamente en la interacción con menores. Que fue probada contra escenarios de autolesión. Contra grooming. Contra explotación sexual. Contra manipulación emocional. Contra respuestas que sustituyan vínculos humanos. Contra publicidad hiperpersonalizada basada en inseguridades infantiles. Contra la recolección innecesaria de datos.

Y, sobre todo, sí se trata de asegurarse de que puede detenerse.

Porque una tecnología que no sabe detenerse frente a un niño no es innovación. Es irresponsabilidad con buena interfaz.

El punto más duro está en el abuso sexual infantil. UNICEF ya ha advertido que las imágenes sexualizadas de menores creadas o manipuladas con IA deben tratarse como material de abuso sexual infantil. La organización estimó, con ECPAT e INTERPOL, que al menos 1.2 millones de niños en 10 países dijeron que sus imágenes fueron manipuladas en deepfakes explícitos durante el último año (imagen superior).

Aunque la imagen sea sintética, el daño no lo es. La humillación es real. El chantaje es real. La revictimización es real. La circulación incontrolable es real. La sensación de que el propio cuerpo ha sido confiscado por desconocidos es real.

La palabra “virtual” ha servido demasiadas veces para anestesiar daños reales.

Pero, siendo objetivos, el remedio también puede ser peligroso.

Una mala regulación infantil de la IA puede convertirse en una maquinaria de vigilancia también peligrosa. Si para proteger a los menores se exige verificar edad con documentos, biometría o identificación permanente, podríamos crear nuevas bases de datos sensibles. Si sólo las grandes empresas pueden pagar auditorías y certificaciones, la protección podría terminar fortaleciendo a los gigantes. Si los Gobiernos usan la infancia como argumento para controlar el acceso a información, la seguridad puede volverse censura.

No basta con decir “regulemos”. Hay que preguntar quién regula, con qué poder, con qué límites, con qué transparencia y con qué mecanismos de reparación.

La protección de la infancia no debe convertirse en una excusa para vigilar la infancia.

Tampoco debe convertirse en una forma elegante de excluir a los niños de tecnologías útiles. Un niño con dificultades de aprendizaje puede beneficiarse de un tutor paciente. Un adolescente que vive en una zona sin buenos recursos educativos puede encontrar explicaciones, ejercicios, traducciones, orientación. Un menor con discapacidad puede ganar autonomía mediante interfaces de voz, lectura o apoyo personalizado.

España parece haber entendido que la infancia puede ser el primer terreno de consenso internacional. En Ginebra impulsó una coalición para proteger los derechos de niños y niñas en la era de la IA, junto con una veintena de países y organizaciones como UNICEF y UNESCO. Estados Unidos y China no aparecen en esa fotografía, y ese vacío dice mucho: los grandes polos de desarrollo tecnológico aún no se han sumado a este intento de fijar límites comunes.

Regular toda la IA es políticamente difícil. Regularla cuando toca niños parece más viable, porque nadie quiere aparecer defendiendo la experimentación sin controles con menores.

Pero esa aparente facilidad también engaña.

Aunque los niños son el argumento perfecto para producir consenso, también pueden ser el pretexto perfecto para producir control.

Por eso el debate exige analizar más fino; no debería primar el reflejo prohibicionista ni la confianza ingenua en las empresas. No basta con pedir innovación responsable, esa frase gastada que ya cabe en cualquier presentación corporativa. Hay que exigir responsabilidades verificables.

Auditorías. Reportes de incidentes. Límites de memoria. Privacidad por diseño. Evaluaciones por edad. Prohibición de explotación sexual sintética. Rutas de ayuda humana ante crisis. Sanciones. Reparación. Capacidad real de retirar funciones peligrosas.

No discursos.

Pruebas.

La infancia siempre revela lo que una sociedad está dispuesta a tolerar en nombre del progreso. Cada época tiene su experimento. Hubo fábricas que usaron cuerpos infantiles. Hubo industrias que vendieron azúcar, tabaco, pantallas, apuestas o ansiedad bajo envoltorios de entretenimiento. Ahora la cuestión se desplaza a una tecnología más íntima.

Una máquina que habla.

Una máquina que recuerda.

Una máquina que aprende a parecernos cercana.

Guterres no mencionó medicamentos y juguetes para hacer una metáfora simpática. Lo hizo porque esos objetos muestran una contradicción: somos capaces de exigir controles estrictos a lo que toca la piel de un niño, pero hemos sido mucho más permisivos con lo que toca su atención, su intimidad, su deseo y su imaginación.

¿Aceptaremos que la infancia sea el laboratorio de sistemas que ni sus propios creadores terminan de comprender?

Tendríamos que atreverernos a imponer una regla elemental, casi antigua, casi obvia:

Antes de entrar en la vida de un niño, la máquina debe demostrar que sabe cuidarlo, limitarse y, cuando sea necesario, callar, antes que responder algo delicado.

OpenAI ha discutido entregar al Gobierno de Estados Unidos una participación de 5% en la compañía, según reportó Financial Times. La propuesta forma parte de una negociación más amplia para reducir tensiones con Washington, en un momento en que las grandes empresas de inteligencia artificial enfrentan mayor presión política por el uso de sus modelos, sus efectos económicos y el reparto de los beneficios que podría generar la IA.

El planteamiento no se limitaría a OpenAI. Según los reportes, la compañía también habría sugerido que otras empresas estadounidenses de IA otorguen participaciones similares al Gobierno, aunque no está claro si esas firmas aceptarían. La idea estaría inspirada en esquemas de riqueza pública, como el Fondo Permanente de Alaska, que reparte entre ciudadanos parte de los beneficios generados por recursos estratégicos.

La discusión ocurre después de que la Administración Trump pidiera a OpenAI retrasar el despliegue amplio de GPT-5.6 y en medio de un giro más intervencionista de Washington sobre los modelos avanzados de IA.

Mark Zuckerberg reconoció ante empleados de Meta que el desarrollo de agentes de inteligencia artificial no ha avanzado tan rápido como esperaba la compañía. Según Reuters, el CEO dijo en una reunión interna que la evolución de esos sistemas durante los últimos cuatro meses no se había acelerado “de la manera esperada” y que las apuestas de la reorganización interna todavía no habían dado frutos.

La declaración es relevante porque Meta ha reorganizado una parte importante de su estructura alrededor de la IA. La compañía despidió cerca de 10% de su plantilla global y reasignó alrededor de 7,000 empleados a equipos enfocados en inteligencia artificial. También se proyecta que Meta invierta hasta 145,000 millones de dólares en infraestructura de IA este año.

Zuckerberg sostuvo que espera beneficios más significativos en los próximos tres a seis meses. Sin embargo, el mensaje introduce una corrección de expectativas: incluso para una de las compañías con más capital, talento y datos del mundo, convertir la IA en agentes capaces de ejecutar tareas de forma confiable está resultando más difícil de lo prometido.

El Gobierno de Estados Unidos levantó las restricciones que había impuesto al acceso extranjero a Claude Fable 5 y Mythos 5, los modelos más avanzados de Anthropic. La empresa anunció que comenzaría a restaurar el acceso después de que el Departamento de Comercio retirara los controles de exportación que obligaban a limitar su uso fuera de Estados Unidos.

Las restricciones se habían aplicado semanas antes por preocupaciones de seguridad nacional. El Gobierno estadounidense había ordenado a Anthropic impedir el acceso de ciudadanos extranjeros, incluso dentro de la propia compañía, mientras evaluaba riesgos asociados con el posible uso indebido de los modelos.

Para recuperar el acceso general, Anthropic aceptó detectar y atender riesgos de seguridad asociados con los modelos, colaborar con el Gobierno en estándares para futuros sistemas y notificar actividad maliciosa.

Gracias por leer Sintetika, el newsletter que te explica el futuro con profundidad y contexto.