El empresario Elon Musk negó este miércoles que Grok, la herramienta de inteligencia artificial de la red social X, haya generado imágenes de menores desnudos, tras la circulación en la plataforma de contenidos sexualizados no consensuados creados con IA.
En un mensaje publicado en X, Musk afirmó que no tiene conocimiento de “ninguna imagen de menores desnudos generada por Grok” y aseguró que la herramienta solo produce imágenes a partir de las solicitudes de los usuarios, negándose a crear contenido ilegal.
Añadió que, si se detectan fallos derivados de ataques informáticos a las indicaciones del sistema, estos se corrigen de inmediato.
El uso de Grok ha despertado preocupación en organismos internacionales. Desde la Unión Europea, Bruselas calificó la aparición de deepfakes sexualmente explícitos no consensuados como “ilegales”, “atroces” y “repugnantes”. El Reino Unido también mantiene el tema bajo escrutinio, en el marco del debate sobre la regulación del uso indebido de la inteligencia artificial.
En medio de la polémica, el propio Musk avivó la conversación al compartir a inicios de enero una imagen suya en bikini generada por IA, luego de pedirle a Grok que modificara una imagen creada por la herramienta para que se pareciera a él.
En Estados Unidos, el fiscal general de California, Rob Bonta, anunció la apertura de una investigación contra xAI, la empresa detrás de Grok, por la proliferación de material sexualmente explícito no consensuado. Según la fiscalía, se han detectado casos en los que imágenes comunes de mujeres y niños disponibles en internet fueron alteradas para representarlos desnudos o en situaciones sexualizadas.
El gobernador Gavin Newsom respaldó la pesquisa y sostuvo que X se ha convertido en un “caldo de cultivo” para la difusión de deepfakes sexuales no consensuados, en un contexto de creciente presión regulatoria sobre las plataformas tecnológicas.