Varios países anunciaron este jueves medidas drásticas para impedir el uso de Grok, el chatbot de inteligencia artificial de la plataforma X, propiedad de Elon Musk, luego de comprobar que permite crear contenido sexual a partir de fotos de internautas.
Filipinas se convirtió en el tercer país en prohibir Grok, después de Malasia e Indonesia. En tanto, Gran Bretaña y Francia exigieron que la herramienta respete sus legislaciones nacionales. Las autoridades reaccionaron luego de que el sistema fuera utilizado para generar una avalancha de imágenes obscenas de mujeres y menores.
Ante la presión internacional, X anunció el miércoles que “bloqueará geográficamente la opción” para crear imágenes de personas en “bikini, ropa interior y atuendos similares” en los países donde esté prohibido.
El equipo de seguridad de la red social aseguró que se implementaron “medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora”.
La decisión llega después de que la fiscalía de California iniciara una investigación contra xAI, empresa desarrolladora de Grok, por “facilitar la producción a gran escala de montajes íntimos no consentidos [deepfakes], utilizados para acosar a mujeres y niñas en internet”, según informó el fiscal general del estado, Rob Bonta.
El gobernador Gavin Newsom calificó de “vil” la conducta de la empresa y pidió llevar el caso ante la justicia.
El primer ministro británico, Keir Starmer, celebró que X “actúe para cumplir plenamente con la legislación británica”, y advirtió que, de ser necesario, su gobierno reforzará las leyes existentes. En Filipinas, el jefe de delitos cibernéticos, Renato Paraíso, confirmó que el bloqueo del chatbot entrará en vigor este jueves, y precisó que el anuncio de X no modifica la decisión.
El llamado “modo picante” de Grok permite crear deepfakes con simples instrucciones como “ponle un bikini” o “quítale la ropa”. Un análisis de la oenegé AI Forensics sobre más de 20,000 imágenes reveló que más de la mitad mostraban a personas con poca ropa; el 81 % eran mujeres y el 2 % parecían menores de edad.
En Francia, la comisionada para la infancia, Sarah El Hairy, remitió las imágenes a la fiscalía, al regulador Arcom y a la Unión Europea, que pidió la paralización total de este tipo de contenido. Además, una coalición de 28 organizaciones civiles envió cartas a Apple y Google solicitando retirar Grok y X de sus tiendas de aplicaciones.
Indonesia bloqueó el acceso a Grok el sábado y Malasia hizo lo mismo al día siguiente. La semana pasada, xAI anunció que las opciones de generación y edición de imágenes quedarían “limitadas a los suscriptores de pago”, una medida que no logró frenar las críticas ni las acciones de los gobiernos.