Meta retira generador de imágenes que usaba fotos de Instagram

Meta presentó Muse Image y Muse Video, sus nuevos modelos de generación de contenido integrados en Meta AI, con una característica que en retrospectiva parece ingenua: permitir que cualquiera generara imágenes arbitrarias basándose en las fotos públicas de otros usuarios de Instagram. La idea era tan simple como potencialmente problemática: escribir una arroba seguida del nombre de usuario para que el modelo accediera al perfil de esa persona y creara cualquier imagen solicitada.

Lo más preocupante no fue la funcionalidad en sí, sino cómo Meta la implementó. Activó la característica por defecto para todas las cuentas públicas de Instagram sin notificación previa ni opción de consentimiento. Los usuarios descubrieron que sus fotos podían ser utilizadas como material de entrenamiento o referencia para generar contenido sin que ellos lo supieran o autorizaran. Fue un error de juicio empresarial que Meta cometió conociendo la sensibilidad del tema.

Las críticas llegaron rápidamente. Los usuarios señalaron que Meta estaba utilizando contenido generado por creadores sin compensación y sin consentimiento informado. Algunos creadores de contenido vieron que sus fotos podían ser transformadas en cualquier cosa imaginable, desde escenarios deformantes hasta situaciones que jamás autorizarían. La preocupación no era solo sobre privacidad, sino sobre el uso comercial no autorizado de la imagen personal.

Meta tardó días en reaccionar, pero finalmente decidió dar marcha atrás. La compañía desactivó la función de etiquetado de usuarios y las fotos de Instagram dejaron de ser material automático para los generadores de Muse Image. Este cambio de dirección rápido sugiere que Meta evaluó el costo reputacional y el riesgo legal, y concluyó que no valía la pena mantener la característica.

Este episodio es instructivo sobre los riesgos de implementar capacidades de IA sin considerar adecuadamente el consentimiento del usuario. Meta tiene años de experiencia gestionando datos personales masivos, pero parece haber asumido que porque las fotos están públicamente disponibles, tienen derecho a usarlas sin restricción en modelos generativos. La realidad legal y ética es más compleja.

Aunque Meta retiró la función, la experiencia deja preguntas abiertas. ¿Cuántos datos ya fueron procesados antes del cierre? ¿Qué pasa con las imágenes que ya fueron generadas? La compañía no ha proporcionado detalles sobre el alcance del uso mientras la función estuvo activa. Esto significa que usuarios de Instagram pueden no saber completamente si sus fotos fueron utilizadas como material para el modelo.

El incidente también expone una brecha de comunicación entre equipos de producto y equipos de confianza y seguridad. Una función de este tipo debería haber pasado por evaluación legal y de privacidad antes de llegar a producción. Que haya llegado activa por defecto sin notificación sugiere que esos procesos fallaron o no existieron.

Para Meta, esto representa un recordatorio de que la generación de contenido impulsada por IA genera fricción particular cuando involucra datos personales identificables. A diferencia de modelos entrenados con datos públicos genéricos, usar fotos de personas específicas genera expectativas legítimas de consentimiento, incluso si esas fotos están públicamente disponibles. Meta aprendió esto a costa de su reputación, pero la lección es clara: la escala no elimina la necesidad de solicitar permiso.