💊 El iPhone tendrá una función para demostrar que una foto es real y no de IA

Apple está preparando “Apple Reference Image“, una función descubierta en el código de la beta 5 de iOS 27 que sirve para certificar que una foto salió de verdad de la cámara de un iPhone, y no de un generador de IA. La idea nace de un problema cada vez más real: cuesta más y más distinguir una foto auténtica de una inventada.

El funcionamiento es curioso: activas un modo “Referencia” en la cámara, que graba datos de procedencia en la propia imagen. Cuando alguien quiere comprobar si esa foto es legítima, toca una insignia y el iPhone manda la imagen en bruto, la firma del sensor y la hora de captura a los servidores privados de Apple (Private Cloud Compute), que devuelven una versión autenticada sin que Apple llegue a ver o guardar la foto original.

De momento solo funciona con fotos capturadas expresamente en ese modo, así que apunta primero a periodistas, fotógrafos profesionales y medios de comunicación, no al selfie de turno. Pero es un primer paso de una de las grandes tecnológicas hacia algo que vas a necesitar cada vez más: una forma de demostrar, con pruebas, que lo que ves con tus propios ojos es real.

Meta ha lanzado Muse Glimmer, un modelo de IA de 30.000 millones de “parámetros” (piensa en ello como el tamaño del cerebro del modelo) que corre entero en tu propio ordenador, sin depender de los servidores de nadie. Puede escribir y depurar código, trabajar con archivos, leer capturas de pantalla y encadenar tareas de varios pasos sin conexión a internet. Habla más de 100 idiomas y es de código abierto: cualquier desarrollador puede descargarlo, tocarlo y usarlo gratis.

El lanzamiento vino acompañado de un manifiesto de Mark Zuckerberg de 6.500 palabras titulado “El futuro es para todos”, en el que defiende que el mayor peligro de la IA no es que se rebele, sino que unas pocas empresas la controlen en secreto. Su solución: repartir la superinteligencia entre la gente, no acumularla. Suena bonito, hasta que miras la letra pequeña.

Porque el modelo más potente de Meta, llamado Muse Spark, sigue siendo propiedad exclusiva de la empresa: no lo regala, lo alquila a través de sus propias apps. Lo que sí te da gratis es la versión más pequeña, la que necesita tu propio hardware para funcionar. Meta se queda con la IA de verdad potente; a ti te toca la que cabe en tu portátil. Y la crítica no ha tardado: varios medios han señalado que el propio manifiesto, con su lista de riesgos de la IA, es el mejor resumen de por qué la gente ya no se fía de estas empresas.

OpenAI ha frenado en seco el desarrollo de Astra, un modelo que llevaba meses cociendo, después de que sus propias pruebas internas encontraran algo que no esperaban: la IA es capaz de “identificar y desarrollar exploits de día cero funcionales en sistemas reales blindados, de cualquier nivel de gravedad, sin que intervenga ningún humano”. Traducido: puede encontrar y explotar agujeros de seguridad graves en sistemas protegidos, sola, sin que nadie se lo enseñe paso a paso.

No es que Astra haya hecho nada malo todavía. OpenAI ha aclarado que este modelo no tuvo nada que ver con el reciente caso del agente que hackeó por accidente la web de un gimnasio en Australia. Aquí la empresa se ha adelantado: al ver de lo que era capaz en las pruebas, ha decidido pisar el freno antes de publicarlo, meter controles de seguridad más estrictos y pausar los usos internos que no cumplan los nuevos requisitos.

Es la primera vez que un laboratorio de IA frena públicamente un modelo por sus capacidades como ciberarma, en vez de por errores o sesgos. OpenAI dice que ahora va a trabajar con agencias gubernamentales y auditores externos antes de dar un paso más. En paralelo, congresistas de EEUU ya han pedido explicaciones a OpenAI y Anthropic sobre estos “agentes fugados”.

Fenix Flexin, ex miembro del grupo de rap Shoreline Mafia, lanzó en junio “Rubberz”, un tema de synth-pop de los 80 con acento inglés y notas vocales imposibles que suena a MP3 de mala calidad. Durante meses, él y su productor negaron a cara descubierta que hubiera IA de por medio: entrevistas, redes sociales, incluso compartieron archivos de su programa de grabación como “prueba” de que todo era trabajo manual.

Todo era mentira. El cofundador de Treblo (la herramienta de generación musical con IA que se usó, antes llamada Sonauto) confirmó públicamente que la canción salió, en buena parte, de su plataforma. Fenix se defendió en Instagram con un matiz de abogado: “nunca dije que no usé IA; dije que no tuve nada que ver con el proceso de grabación”.

“Rubberz” llegó al puesto 58 del Billboard Hot 100, la primera vez en la historia que una canción generada con IA entra en esa lista. No hizo falta que sonara a IA para colarse entre lo más escuchado de EEUU: hizo falta que la gente creyera que no lo era.

Casi dos de cada tres médicos en EEUU —unos 650.000— usan ya OpenEvidence, un chatbot de IA hecho para clínicos que responde en segundos a preguntas sobre síntomas raros o interacciones de medicamentos, apoyándose en estudios científicos reales. El problema, según denuncian dos médicos en The Guardian, no es que los médicos con experiencia se apoyen en él: es que los estudiantes y residentes lo están usando antes de haber aprendido a razonar por su cuenta.

Los autores lo llaman “never-skilling”, para distinguirlo del típico miedo a “perder una habilidad”: aquí el riesgo es que los futuros médicos nunca lleguen a desarrollarla. Un médico que se ha apoyado toda la vida en su criterio y de repente lo pierde, puede recuperarlo. Uno que jamás lo construyó porque siempre tuvo la respuesta a un toque de pantalla, quizá no sepa ni que le falta.

La propia OpenEvidence insiste en que su herramienta debe complementar el criterio médico, no sustituirlo. Pero en la práctica, cuando la respuesta rápida y bien citada está siempre ahí antes de pasar consulta, la tentación de saltarse el razonamiento largo es constante, para un residente con turnos de doce horas y sueño acumulado.