SAN FRANCISCO.- La plataforma X, propiedad de Elon Musk, anunció este miércoles medidas para impedir que su chatbot de inteligencia artificial Grok transforme fotos de personas reales en imágenes de carácter sexual en los países en los que esto sea ilegal. Esto ocurre luego de las críticas en todo el mundo por la generación de ese tipo de contenido a partir de, principalmente, imágenes de mujeres y menores.
El anuncio llegó después de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de IA de Musk, por “facilitar la producción a gran escala de montajes íntimos no consentidos [deepfakes], utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X”, indicó el fiscal general del estado, Rob Bonta, en un comunicado.
“Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico”, agregó el fiscal. Bonta dijo que la investigación determinará si xAI violó la ley estatal, después de que las imágenes explícitas fueran “utilizadas para acosar a personas en internet”.
El gobernador de California, Gavin Newsom, dijo este miércoles que la “vil” decisión de xAI de permitir la proliferación de deepfakes sexualmente explícitos lo llevó a instar al fiscal general a responsabilizar a la empresa.
X, por su parte, anunció que “bloqueará geográficamente la capacidad” de todos los usuarios de Grok y X de crear imágenes de personas en “bikini, ropa interior y atuendos similares” en aquellas jurisdicciones donde esas acciones se consideren ilegales.
“Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, dijo el equipo de seguridad de la red social en un comunicado. “Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”, añadió.
Como “una capa adicional de protección”, la creación de imágenes y la posibilidad de editar fotos a través de la cuenta Grok de X ahora solo estaba disponible para suscriptores de pago, añadió el comunicado.
Un análisis realizado la semana pasada por la ONG AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad representaban a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían menores de edad.
La polémica en redes se intensificó en las últimas semanas debido al aumento de la cantidad de este tipo de imágenes, pedidas por distintas cuentas de la red social en respuesta a fotografías que subían las mujeres a sus perfiles.
Los usuarios creaban deepfakes al usar indicaciones como “Grok, ponela en bikini” o “sacale la ropa”. La semana pasada, la IA intentó desviar las críticas con una nueva política de monetización, al anunciar en X que la generación y edición de imágenes quedaban “limitadas a los suscriptores de pago”.
Ese anuncio solo alimentó aún más la indignación: la oficina del primer ministro británico, Keir Starmer, condenó la medida por considerarla un agravio a las víctimas y “no una solución”, mientras que el regulador de medios británico, Ofcom, dijo que estaba abriendo una investigación para determinar si X incumplió la legislación del Reino Unido en relación a las imágenes sexuales.
En tanto, una coalición de 28 organizaciones de la sociedad civil envió este miércoles cartas abiertas a los directores ejecutivos de Apple y Google y los instó a prohibir Grok y X en sus tiendas de aplicaciones ante el aumento de imágenes sexualizadas.
Países como Indonesia y Malasia bloquearon el acceso a Grok, mientras que India dijo que X había eliminado miles de publicaciones y cientos de cuentas de usuario en respuesta a sus quejas. Este jueves, Filipinas anunció, por su parte, que suspenderá el acceso a Grok.
Con información de AFP
