El pasado martes 7 de julio, Meta lanzó Muse Image y Muse Video, sus nuevos modelos de inteligencia artificial para generar y editar imágenes, integrados directamente en Meta AI. El lanzamiento era una jugada importante para la compañía de Mark Zuckerberg, que por fin ponía a disposición de sus más de 2.000 millones de usuarios un generador de imágenes propio, compitiendo directamente con DALL-E, Midjourney y el resto del ecosistema. Pero lo que debía ser una celebración se convirtió rápidamente en una pesadilla de relaciones públicas cuando los usuarios descubrieron una función que, cuanto menos, resultó polémica: la posibilidad de etiquetar a cualquier usuario de Instagram con una arroba para que la IA generara imágenes a partir de sus fotos públicas.

Y el problema no era solo que existiera la función, sino que venía activada por defecto para todas las cuentas públicas.

¿Qué permitía exactamente la función de etiquetado?

Dentro de Muse Image, además de escribir un prompt normal para generar una imagen desde cero, Meta incluyó una función social que permitía mencionar a otros usuarios de Instagram escribiendo «@nombredeusuario». Al hacerlo, el modelo accedía a las fotos públicas de ese perfil y generaba una imagen nueva basada en su contenido visual.

Imagina que alguien escribe «@tucuenta flotando en el espacio con un traje de astronauta» y la IA toma tus fotos reales de Instagram para generar esa imagen. Sin pedirte permiso. Sin avisarte. Y sin que puedas hacer nada al respecto a menos que supieras que existía la opción de desactivarlo en los ajustes de privacidad.

La función se lanzó activada por defecto. No había un aviso al abrir la app, ni un mensaje de bienvenida explicando que cualquiera podía usar tu contenido público como material de partida para generar imágenes con IA. Si no sabías que existía la opción de desactivarla, tu cara y tus fotos estaban disponibles para que cualquier persona las usara como lienzo para la imaginación de una inteligencia artificial.

El problema de la privacidad por defecto

El debate que se desató no era tanto sobre la función en sí —que tener una herramienta creativa no es malo— sino sobre quién tomaba la decisión. Meta activó el etiquetado para todas las cuentas públicas por defecto, colocando la carga de la privacidad sobre los hombros del usuario. Es decir, si no querías que te etiquetaran, tenías que buscar manualmente la opción en los ajustes y desactivarla.

Este enfoque, conocido en el mundo del diseño de privacidad como «opt-out» en lugar de «opt-in», ha sido históricamente criticado por defensores de la privacidad digital. La lógica es simple: si una función puede afectar a la privacidad de las personas, deberían ser ellas quienes decidan activarla, no al revés. Dar por sentado que todo el mundo está de acuerdo con que su contenido público sea usado como insumo para una IA generativa es, como mínimo, una decisión cuestionable.

Las críticas no se hicieron esperar. En cuestión de horas, las redes sociales se llenaron de usuarios mostrando su preocupación por cómo sus fotos podían ser utilizadas sin consentimiento explícito. Creadores de contenido, fotógrafos y usuarios preocupados por su privacidad señalaron que el problema iba más allá de una simple herramienta: abría la puerta a usos inapropiados, suplantación de identidad y generación de contenido no deseado a partir de imágenes reales de personas.

Meta recula: la función desaparece

Las críticas llovieron durante el miércoles, jueves y viernes. Para el sábado 11 de julio —apenas cuatro días después del lanzamiento— Meta ya había tomado una decisión. La compañía emitió un comunicado en el que reconocía que la función «no había dado en el blanco» y confirmaba su retirada inmediata.

El comunicado íntegro, al que medios como MacRumors tuvieron acceso, decía lo siguiente:

«A principios de esta semana anunciamos que una de las formas en que los usuarios pueden generar imágenes en Meta AI es mencionando con la etiqueta @ las cuentas públicas de Instagram a las que desean hacer referencia. Nuestra intención era ofrecer una herramienta creativa útil y dar a los usuarios el control sobre si su contenido público podía ser mencionado de esta manera. Hemos recibido comentarios indicando que esta función no ha dado en el blanco, por lo que ya no está disponible».

Meta insistía en que su intención era proporcionar «una herramienta creativa útil» y que querían «dar a los usuarios el control sobre si su contenido público podía ser mencionado». La ironía, por supuesto, es que la forma de dar control a los usuarios habría sido preguntarles primero si querían participar, no obligarles a desactivarlo manualmente.

Un patrón que se repite

No es la primera vez que Meta se enfrenta a una polémica de privacidad. La compañía tiene un largo historial de lanzar funciones que comprometen la privacidad de los usuarios y retirarlas solo después de que las críticas se acumulan. Desde el escándalo de Cambridge Analytica en 2018 hasta las controversias sobre el reconocimiento facial y el uso de datos para entrenar modelos de IA, el patrón es recurrente: lanzar primero, pedir perdón después.

Lo interesante de este caso es que la decisión de retirar la función se tomó en apenas cuatro días. En comparación con otras polémicas de Meta, la respuesta fue relativamente rápida. Quizás la compañía está aprendiendo que, en la era de la IA generativa, los errores de privacidad se amplifican más rápido que nunca. O quizás simplemente el ruido fue demasiado alto como para ignorarlo.

¿Qué significa esto para Muse Image?

La retirada de la función de etiquetado no significa que Muse Image desaparezca. El modelo de generación de imágenes sigue disponible en Instagram, WhatsApp y Meta AI, y los usuarios pueden seguir usándolo con prompts tradicionales. Lo que ha desaparecido es únicamente la posibilidad de etiquetar a otros usuarios para generar imágenes a partir de su contenido.

Esto deja a Muse Image en una posición curiosa: es un generador de imágenes perfectamente funcional que perdió su característica más diferencial —y también la más polémica— a los pocos días de nacer. Habrá que ver si Meta encuentra una forma de recuperar esa funcionalidad con un modelo de consentimiento más claro, o si la función de etiquetado desaparece para siempre.

Lo que podemos aprender

Esta polémica deja varias lecciones. La primera es que, en materia de IA generativa, el consentimiento no es opcional. Usar el contenido público de las personas como materia prima para una IA sin preguntar genera desconfianza, y la desconfianza es lo peor que le puede pasar a una herramienta que pretende integrarse en la vida cotidiana de miles de millones de usuarios.

La segunda es que el enfoque «por defecto activado» para funciones que afectan a la privacidad está cada vez menos tolerado. Los usuarios son más conscientes que nunca de cómo se usan sus datos, y las empresas que ignoren esta realidad se enfrentarán a reacciones cada vez más rápidas y contundentes.

Y la tercera, quizás la más importante: la velocidad a la que las empresas lanzan funciones de IA está superando la velocidad a la que piensan en las implicaciones éticas de esas funciones. Muse Image se lanzó un martes y para el sábado ya habían retirado una de sus características estrella. Cuatro días. Eso es lo que tardó Meta en darse cuenta de que su «herramienta creativa» era, para muchos, una violación de su privacidad.

La pregunta es: ¿qué otras funciones se están lanzando ahora mismo sin que nadie haya pensado en sus consecuencias?