Medidas contra la generación de contenido sexualizado por la plataforma X de Elon Musk
Después de una intensa campaña en los últimos días, la plataforma X de Elon Musk anunció medidas para evitar que su chatbot de inteligencia artificial Grok transforme fotos de personas reales en imágenes con carácter sexual. Esta decisión se tomó luego de recibir críticas por la generación de contenido inapropiado, especialmente de mujeres y niños, así como de importantes figuras políticas e industriales.
Restricciones geográficas y tecnológicas
X informó que «bloqueará geográficamente la capacidad» de los usuarios de Grok para crear imágenes de personas en «bikinis, ropa interior y atuendos similares» en jurisdicciones donde estas acciones sean consideradas ilegales. El equipo de seguridad de X implementó medidas tecnológicas para evitar la edición de imágenes de personas reales con ropa reveladora, como bikinis, incluso para los suscriptores de pago.
Investigación de la fiscalía de California
La fiscalía de California inició una investigación sobre xAI, la empresa de IA de Musk, por facilitar la producción de montajes íntimos no consentidos (deepfakes) que se utilizan para acosar a mujeres y niñas en internet, principalmente en la red social X. El fiscal general del estado, Rob Bonta, expresó que están comprometidos con evitar la creación y difusión de imágenes íntimas no consentidas o material pedopornográfico.
Reacciones internacionales y medidas adicionales
La indignación internacional creció contra Grok y la posibilidad de modificar imágenes, especialmente en la red social X. Países como Indonesia, Malasia e India bloquearon el acceso a Grok, mientras que la comisionada francesa para la infancia, Sarah El Hairy, remitió las imágenes generadas por Grok a las autoridades pertinentes. La Unión Europea pidió la paralización total de la generación de este tipo de contenido.
Resultados de un análisis
Un análisis realizado por la ONG AI Forensics reveló que más de la mitad de las más de 20.000 imágenes generadas por Grok representaban a personas con poca ropa, siendo el 81% mujeres y el 2% aparentemente menores de edad.
Conclusión
Las medidas tomadas por la plataforma X de Elon Musk para evitar la generación de contenido sexualizado por su chatbot Grok son un paso importante en la protección de la privacidad y la dignidad de las personas. La respuesta internacional demuestra la necesidad de regular este tipo de tecnologías para prevenir su uso indebido y proteger a los más vulnerables.