EE. UU. – La inteligencia artificial, con ChatGPT y sus similares, ya está presente en la vida cotidiana. Incluso la plataforma de redes sociales X lanzó hace unos meses el chatbot de IA llamado “Grok”. Sin embargo, cada vez más usuarios lo utilizan para generar imágenes sexualizadas de mujeres y niños.

El desencadenante es una nueva función del chatbot que permite modificar imágenes.

Por ejemplo, si se publica una foto normal de una mujer, los usuarios pueden ordenar a la IA que haga que la persona aparezca desnuda o con ropa escasa; “Grok” sigue esas instrucciones y crea lo que se conocen como deepfakes.

Incluso los niños están afectados por esta perturbadora “tendencia”, como informa el Spiegel.

El foco no está solo en particulares, sino también en celebridades . Entre las víctimas de las imágenes manipuladas por la IA se encuentran, entre otras, la estrella de “Stranger Things”, Sadie Sink (23), su compañera menor de edad en la serie Nell Fisher (14) y la cantante Sabrina Carpenter (26).

En un estudio de la organización “AI Forensics” se descubrió que, de aproximadamente 50 000 solicitudes públicas a “Grok”, alrededor del 53 % de las imágenes generadas mostraban a personas con ropa muy reveladora.

La mayor parte de estos comandos parece provenir de hombres. Según el estudio, cerca del 80 % de los perfiles fueron clasificados como masculinos.

Los investigadores también estimaron la edad de las personas representadas en las imágenes mediante un reconocimiento facial con IA. Un 2 % de las imágenes mostraban a personas cuya edad se estimó claramente por debajo de los 18 años. En unas 30 imágenes se habrían visto también niños pequeños.

Las víctimas de estas representaciones suelen ser consumidores corrientes. Sólo el 6 % de las imágenes analizadas mostraban a celebridades.

Durante semanas, esas imágenes inundaron la plataforma de Elon Musk (54), y la empresa no hizo nada durante mucho tiempo.

Ahora el cuenta del chatbot admitió un error. Señaló que fallas en las medidas de seguridad fueron la causa y que la difusión de material abusivo es ilegal. Aseguró que están trabajando en la corrección.

En contraste, el fundador de Tesla inicialmente se burló de las críticas. Según BR24, respondió a las quejas varias veces con emojis de risa o incluso generó él mismo imágenes de bikinis.

Ahora Musk se ha pronunciado contra las fotos generadas: quien use Grok para fines ilegales deberá enfrentar consecuencias, afirmó el de 54 años.

El ministro de Cultura y Estado Wolfram Weimer (61) pidió hace unos días a la Comisión Europea que inicie acciones legales contra la plataforma, como informó Reuters.

"Lo que estamos viendo actualmente en X parece la industrialización del acoso sexual", dijo el de 61 años. Incluso el gobierno francés ya ha iniciado investigaciones contra la plataforma.