Las autoridades de Francia han iniciado acciones legales contra la red social X y su sistema de inteligencia artificial Grok, desarrollada por la empresa xAI, propiedad del empresario Elon Musk. El caso se originó tras la detección de contenidos manipulados de carácter sexual generados mediante IA y difundidos dentro de la plataforma, lo que ha encendido las alertas sobre el uso de estas tecnologías en espacios digitales de alto alcance.
De acuerdo con información oficial, el Gobierno francés presentó una denuncia ante la justicia al considerar que la difusión de este tipo de material vulnera derechos fundamentales y podría constituir delitos tipificados en la legislación nacional. La medida se sustenta en normas que obligan a las autoridades a actuar cuando se identifican contenidos manifiestamente ilegales, especialmente en entornos digitales.
Francia apunta a X y a la IA de Elon Musk por fallas en la moderación de contenidos
El fiscal de París decidió ampliar una investigación ya existente contra X para incluir el uso de Grok en la creación de imágenes sexuales sin consentimiento, una práctica que en Francia puede acarrear sanciones penales. De forma paralela, los organismos reguladores analizan si la plataforma, bajo la dirección de Elon Musk, incumplió las obligaciones establecidas por la Ley de Servicios Digitales de la Unión Europea, que exige mecanismos eficaces de prevención y eliminación de contenido ilícito.
Desde la empresa responsable de Grok se ha reconocido que existieron fallas en sus sistemas de seguridad, las cuales permitieron la generación de este material. El avance del proceso judicial en Francia podría marcar un precedente relevante en Europa sobre la responsabilidad legal de las plataformas tecnológicas y de sus propietarios cuando las herramientas de inteligencia artificial son utilizadas de manera indebida.
