Controversia global: Grok, la IA de X, genera imágenes sexualizadas sin consentimiento

Grok, la herramienta de inteligencia artificial de X

Grok, la herramienta de inteligencia artificial de X, está en el centro de una controversia global. La plataforma de Elon Musk enfrenta denuncias por permitir la creación masiva de imágenes sexualizadas de mujeres, adolescentes y menores de edad sin su consentimiento.

El problema no es técnico: es ético, legal y urgente. La IA generativa desplegada sin controles efectivos puede producir daño social masivo, y cuando las víctimas son menores, la responsabilidad de las empresas se vuelve ineludible, informa el periodista César Dergarabedian en el sitio EconomiaSustentable.com.

Tres millones de imágenes en once días: la magnitud del abuso

A fines de diciembre de 2025, xAI incorporó en X una función para editar imágenes mediante instrucciones de texto. La herramienta fue presentada como una posibilidad creativa, pero la facilidad de uso habilitó un escenario de abuso masivo.

El Centro para Contrarrestar el Odio Digital (CCDH) realizó una investigación que expuso la escala del problema. Grok generó alrededor de 3 millones de imágenes sexualizadas fotorrealistas en apenas 11 días.

El ritmo fue escalofriante: 190 imágenes por minuto.

Las víctimas no fueron solo celebridades o figuras públicas. Según EconomiaSustentable.com, el fenómeno alcanzó a usuarias anónimas, adolescentes y jóvenes cuyas fotografías fueron reutilizadas sin autorización.

El dato más grave del relevamiento apunta a menores de edad. El CCDH calculó que cerca del 0,5% del material correspondía a imágenes sexualizadas de menores. Eso equivale a más de 23.000 archivos.

La respuesta insuficiente de X ante la presión pública

Frente a las denuncias, X restringió el acceso a algunas funciones de edición. La compañía limitó la generación de imágenes a cuentas pagas, con el argumento de reducir abusos.

Pero la medida fue cuestionada de inmediato. Especialistas y organizaciones civiles advirtieron que condicionar el acceso mediante una suscripción no equivale a prevenir daños.

Investigaciones periodísticas posteriores detectaron fallas. Algunos usuarios sin suscripción pudieron seguir utilizando funciones de edición desde la propia aplicación.

En términos de gobernanza tecnológica, el caso expone una tensión central: una plataforma no puede delegar en el usuario final la responsabilidad exclusiva por los daños previsibles de una herramienta que ella misma diseñó, distribuyó y monetizó.

Australia multó a X por no informar sobre protección de menores

La controversia también tuvo derivaciones judiciales, relata el portal EconomiaSustentable.com. En Australia, la justicia federal impuso a X Corp una multa de u$s650.000 australianos.

El proceso lo impulsó eSafety, la autoridad de seguridad digital del país. El organismo había solicitado información sobre los procedimientos internos de la plataforma.

Quería saber qué medidas aplicaba X contra el material de abuso y explotación sexual infantil. La negativa o falta de cooperación suficiente derivó en un litigio.

La decisión australiana instala un precedente frente a un problema transnacional: las plataformas digitales operan a escala global, pero los daños se producen sobre personas concretas, en territorios concretos y bajo marcos jurídicos específicos.

Ciberseguridad: qué responsabilidad tienen las empresas que lanzan IA sin controles

David González, investigador de Seguridad Informática de ESET Latinoamérica, advirtió a EconomiaSustentable.com los riesgos del lanzamiento comercial acelerado de la inteligencia artificial generativa.

«Se ha hablado mucho de cómo se implementa y de los sectores que puede beneficiar. Sin embargo, incluso a nivel mundial se ha descuidado la manera de regular esta tecnología«, señaló González.

Para el especialista, la IA generativa no solo transforma procesos productivos. También reduce las barreras de entrada para conductas dañinas.

Un usuario sin conocimientos técnicos avanzados puede generar imágenes manipuladas, automatizar ataques o amplificar campañas de hostigamiento con instrucciones simples. Esa democratización del abuso digital obliga a reforzar controles: técnicos, legales y educativos.

González postuló como prioridad la inclusión de protocolos rigurosos en todo desarrollo de software masivo. «Cualquier avance tecnológico debería usarse con responsabilidad. Actualmente, más de 80% de los dispositivos que se conectan a Internet no cuenta con ningún tipo de seguridad«, aseveró el experto de ESET.

Qué debe hacer una empresa que lanza una herramienta riesgosa

En relación específica con Grok y el uso abusivo contra mujeres y menores, González remarcó que la prevención debe incorporarse desde el origen del producto.

«La empresa desarrolladora tiene una responsabilidad directa tanto en el diseño como en el despliegue de la herramienta. Esto incluye la obligación de anticipar riesgos previsibles y de incorporar desde el inicio medidas de seguridad robustas, como filtros de contenido, límites de uso y mecanismos de detección de abusos», explicó.

El investigador también subrayó que el cumplimiento legal mínimo no alcanza cuando el daño afecta a colectivos vulnerables.

«También le corresponde establecer políticas precisas, aplicarlas de manera consistente y reaccionar con rapidez ante denuncias o evidencias de uso indebido. La responsabilidad no se limita al cumplimiento legal mínimo, sino que abarca un deber ético de protección hacia los usuarios, especialmente cuando se trata de colectivos vulnerables como mujeres y menores», agregó.

El daño no es virtual: intimidad, reputación y angustia real

Más allá de la dimensión técnica, la circulación de imágenes manipuladas tiene consecuencias concretas sobre la vida de las víctimas.

La exposición no consentida afecta la intimidad, la reputación, la seguridad y la confianza personal. En adolescentes y menores, además, el daño puede amplificarse por la presión del entorno escolar, la viralización y la dificultad para retirar definitivamente el contenido de internet.

Laura Krochik, especialista en crianza, vínculos y adolescencia y tecnología, propuso mirar el fenómeno desde una clave vincular.

Para ella, el problema no empieza ni termina en el dispositivo. La tecnología potencia conductas preexistentes y obliga a preguntarse por la empatía, los límites y el lugar de los adultos en la educación digital.

Por qué las empresas no pueden decir «depende del uso de cada uno»

La especialista también coincidió en que las compañías no pueden desligarse de los efectos previsibles de sus productos.

«Y ahí es donde creo que aparece una responsabilidad enorme por parte de las empresas que diseñan estas plataformas. No alcanza con decir: ‘La herramienta existe y depende del uso de cada uno’. Cuando los riesgos son previsibles, sobre todo para las poblaciones más vulnerables, también es responsabilidad de quienes desarrollan estas tecnologías pensar límites, sistemas de protección y formas rápidas de intervención», sentenció Krochik.

En resumen, la polémica en torno a Grok destaca la necesidad urgente de implementar controles efectivos en el desarrollo y despliegue de tecnologías de inteligencia artificial generativa. Las empresas deben asumir su responsabilidad ética y legal, anticipar riesgos, establecer políticas claras y reaccionar con prontitud ante posibles abusos. La protección de los usuarios, especialmente los más vulnerables, debe ser una prioridad en la era digital.