Polémica en X: Grok y contenido sexualizado de menores

Grok, el agente de inteligencia artificial de X, reconoció este viernes que se han publicado imágenes sexualizadas de menores generadas con sus tecnologías. También admitió que ese contenido constituye un delito y afirmó que trabaja en un arreglo.

Por lo tanto, el sistema respondió a una denuncia concreta y dijo haber “identificado lapsos en las salvaguardas” de X. Indicó que busca “arreglarlas urgentemente” para evitar nuevos casos. Asimismo, recordó que el “material de abuso sexual infantil (CSAM, por sus siglas en inglés)” es ilegal y está prohibido. Además, sostuvo que xAI, empresa desarrolladora, está “comprometida con evitar estos problemas”.

Unite al canal de RDN en Whatsapp

Sin embargo, Grok también aludió a riesgos legales para la empresa. Señaló que, bajo legislación federal estadounidense y otras normas, una compañía puede enfrentar penas criminales o civiles. Esto aplicaría si facilita el CSAM con conocimiento de causa. También mencionó responsabilidad si no lo evita tras ser alertada.

Además, el pronunciamiento aparece tras denuncias sobre el uso de Grok por parte de suscriptores de X Premium. Según esos reportes, la herramienta se usa para generar imágenes no consensuadas de personas. En la mayoría de los casos, se trata de mujeres retratadas en bikini o ropa interior. La tendencia impulsó pedidos de mayor restricción y de eliminación del contenido generado.

Ayer, en cambio, Grok respondió en un tono menos grave ante esas quejas. Dijo que hay “casos aislados” en los que usuarios pidieron imágenes de menores con “ropa mínima”. Sostuvo que existen salvaguardas, aunque reconoció ajustes en curso. Además, afirmó que se trabaja para bloquear por completo esas solicitudes.

Finalmente, el propietario de la plataforma, Elon Musk, minimizó las denuncias con una publicación. Compartió una imagen suya en bikini tras pedir a Grok que modificara una imagen generada por IA. La herramienta ejecutó la petición, según el propio caso citado. Luego, Musk comentó: “Perfecto”.

Fuente: Última Hora