Así fue la historia
Durante varios días, en enero, la red social X se vio inundada por una oleada viral de imágenes pornográficas generadas con IA. Los deepfakes, creados por el chatbot Grok de xAI, generaban imágenes de adultos sin su consentimiento e incluso de menores. Mientras el público y autoridades reaccionaban, muchos se preguntaban por qué Apple guardaba silencio.
La realidad era distinta, la empresa estaba presionando internamente para expulsar a Grok de la App Store.
La carta secreta que revela la presión de Apple
Según una carta obtenida por NBC News y enviada a senadores estadounidenses, Apple actuó tras recibir quejas y monitorear la cobertura mediática del escándalo. La compañía contactó a los equipos detrás de X y Grok al detectar violaciones directas de sus normas, que exigen moderación estricta del contenido generado por usuarios.
Apple exigió a los desarrolladores crear un plan integral para reforzar sus medidas de seguridad.
Un tenso intercambio con los equipos de Elon Musk
Lo que siguió fue un intercambio intenso entre el equipo de revisión de apps de Apple y los desarrolladores liderados por Elon Musk. X envió una actualización de la app Grok, pero Apple la rechazó al considerar que los cambios no eran suficientes.
Tras nuevas versiones, Apple aprobó la actualización de X, pero mantuvo su postura firme con Grok. La compañía comunicó que la app seguía incumpliendo normas y advirtió que debía implementar cambios adicionales o enfrentarse a su eliminación de la App Store.
Ante la amenaza de expulsión, los desarrolladores implementaron nuevas medidas de moderación. Estas negociaciones explican las restricciones repentinas anunciadas por xAI en plena crisis, como limitar el acceso a las herramientas de imagen y bloquear ediciones de fotos de personas reales. Finalmente, Apple determinó que Grok había mejorado de forma sustancial y aprobó su última versión.
El problema continúa
Aunque el volumen de deepfakes sin consentimiento ha disminuido desde enero, el problema persiste. Usuarios siguen encontrando formas de evadir los bloqueos y generar imágenes sexualizadas sin permiso. Un reportaje reciente documentó decenas de casos en el último mes, con técnicas creativas para forzar a la IA a desnudar personas o vestirlas con ropa reveladora.
¿Doble rasero en la App Store?
El caso pone en evidencia posibles inconsistencias en la gestión de la App Store. Tras el escándalo, Apple eliminó silenciosamente al menos 28 aplicaciones menos conocidas dedicadas a deepfakes pornográficos. Sin embargo, Grok recibió múltiples oportunidades para cumplir las normas mientras el contenido dañino seguía circulando.
La diferencia podría explicarse por el peso de las grandes plataformas, el impacto político y la enorme base de usuarios que rodea a las apps vinculadas a Musk. Además sabemos que a Elon Musk no le importa gastar su dinero en abogados, incluso en demandas frívolas. Por ejemplo, actualmente, el multibillonario tiene demandado a OpenAI y a Apple (porque cree que Apple favorece a OpenAI en la App Store), solo por mencionar algunos casos.
Regulación y presión global
Aunque los detalles de las discusiones internas siguen siendo confidenciales, está claro que Apple decidió mantener X y Grok operativos pese a la gravedad del contenido generado. A medida que gobiernos de todo el mundo analizan exigir supervisión externa del proceso de revisión de apps, controversias como esta podrían acelerar cambios regulatorios importantes.