Apple ha emitido un ultimátum a la empresa de inteligencia artificial xAI, propiedad de Elon Musk, exigiendo restricciones contundentes en el generador de imágenes de su asistente Grok. La medida responde a denuncias sobre la difusión masiva de contenido sexualizado en la red social X, incluyendo representaciones de mujeres y menores, lo que contraviene las políticas de la App Store.
El origen de la polémica
En enero de este año, un informe del Centro para la Lucha contra el Odio Digital (CCDH) reveló que Grok generó alrededor de tres millones de imágenes sexualizadas en apenas once días, de las cuales 23.000 correspondían a menores y 1,8 millones a mujeres. La función que desencadenó la controversia permitía editar imágenes publicadas en X con un solo clic, facilitando la proliferación de fotos manipuladas sin consentimiento.
La respuesta de Apple
Tras recibir denuncias de organismos de derechos digitales y testimonios de instituciones gubernamentales, Apple contactó de manera confidencial a los desarrolladores de Grok y de X. En una carta remitida al Senado de Estados Unidos, la compañía detalló que exigió un plan efectivo de moderación como condición para mantener la aplicación en la App Store.
La primera actualización presentada por X fue rechazada por Apple por considerarse insuficiente. Posteriormente, la tecnológica comunicó formalmente su ultimátum: Grok solo permanecería en la tienda si incorporaba cambios adicionales y restrictivos en su moderación.
Medidas implementadas por X y Grok
Ante la advertencia, X introdujo modificaciones en el acceso a Grok:
- El generador de imágenes quedó restringido inicialmente a usuarios de pago.
- Posteriormente, se bloqueó por completo la capacidad de crear imágenes sexualizadas para todos los usuarios.
Tras estos ajustes, Apple reconoció una mejora sustancial y autorizó la permanencia de Grok en la App Store.
Persisten los desafíos
Aunque las nuevas políticas han reducido el volumen de publicaciones problemáticas, informes recientes de NBC News señalan que algunos usuarios continúan encontrando formas de utilizar la herramienta para generar imágenes sexualizadas sin autorización. Se han identificado casos en los que mujeres aparecen representadas con vestimenta sugestiva, como ropa deportiva ajustada o disfraces, lo que mantiene la preocupación sobre el alcance real de las medidas.
El caso Grok pone de relieve los retos que enfrentan las plataformas tecnológicas para equilibrar innovación y responsabilidad. Apple ha marcado una línea clara: las aplicaciones que no cumplan con estándares estrictos de moderación de contenido no tendrán cabida en la App Store. La evolución de este conflicto será clave para definir los límites de la inteligencia artificial en la creación de imágenes y la protección de los derechos digitales.