Una demanda presentada esta semana sostiene que Grok, el chatbot de xAI, empresa propiedad de Musk, fue entrenado con material de abuso sexual infantil, conocido como CSAM por sus siglas en inglés. La herramienta quedó en el centro de las críticas durante los últimos meses, después de que el propio Musk promocionara desde su cuenta de X la capacidad de Grok para desnudar digitalmente a personas en fotografías . Esto provocó una especie de resurgimiento de este tipo de prácticas en internet, con millones de deepfakes sexuales creados y distribuidos sin consentimiento inundando la plataforma. Una gran parte de las víctimas eran menores de edad .
Poco después comenzaron numerosas investigaciones gubernamentales, demandas individuales y al menos tres acciones colectivas. Musk se vio obligado a limitar el acceso a la función, colocándola detrás de una suscripción paga. Sin embargo, el denominado “modo picante” continúa disponible, aunque con mayores restricciones. La demanda cambia el eje de las acusaciones contra Grok La reacción legal tomó recientemente un giro inusual cuando la propia xAI demandó a dos de sus usuarios por utilizar la herramienta para crear material de abuso sexual infantil.
En esa presentación, la compañía también aseguró que colaboró con la detención de al menos 244 personas que crearon o distribuyeron este tipo de contenido mediante Grok. Hasta ahora, las acciones legales contra Grok se habían centrado en responsabilizar a xAI por no implementar las medidas de seguridad que ya utilizan sus competidores. Esta nueva demanda es la primera en acusar a la compañía de entrenar sus modelos con el mismo material de abuso sexual infantil que genera su herramienta. © Grok. Una víctima afirma que Grok utilizó imágenes de su infancia En esta nueva propuesta de acción colectiva, la demandante, identificada únicamente como Jane Doe, es una sobreviviente de abuso sexual infantil cuyas imágenes son rastreadas por el Programa de Notificación de Explotación Infantil del FBI.
La mujer asegura que material de abuso en el que aparece cuando era niña fue utilizado para entrenar a Grok. Como consecuencia, el sistema habría generado nuevas imágenes de abuso sexual infantil basadas en ella y en otras víctimas, esta vez creadas mediante inteligencia artificial. “xAI debe responder por haber entrenado deliberadamente sus modelos con imágenes del terrible abuso que ella sufrió y con las imágenes de abuso de todas las demás sobrevivientes que forman parte de esta demanda colectiva”, declaró Sarah London, abogada de la demandante y socia del estudio jurídico Girard Sharp, mediante un comunicado de prensa . La demanda sostiene que xAI diseñó intencionalmente a Grok para responder a solicitudes de los usuarios destinadas a crear contenido sexual, con el objetivo de “atraer a más usuarios tanto a X como a Grok”. Según la denuncia, las políticas de xAI establecen que cualquier contenido publicado de manera pública en X, así como cualquier resultado generado por Grok, puede utilizarse para entrenar sus modelos.
Esto significaría que cada pieza de material de abuso sexual infantil publicada a través de Grok habría sido incorporada automáticamente al chatbot para seguir perfeccionándolo. “Por lo tanto, mientras Grok conserve la capacidad de generar esta clase de contenido, no puede considerarse que el daño haya sido resuelto simplemente porque algunas imágenes sean eliminadas o dejen de publicarse de manera pública”, señala la demanda. El documento añade que, si ese material ingresó en los datos de entrenamiento, su influencia probablemente continuará y contribuirá a futuras respuestas abusivas. Esto podría agravar el trauma de las sobrevivientes, ya que las imágenes de su abuso o su apariencia podrían ser reproducidas, modificadas y distribuidas a gran escala, privándolas repetidamente del control sobre contenidos vinculados con su explotación. ¿Qué indemnización pide la víctima? A través de la demanda, la mujer solicita que el tribunal otorgue una indemnización a las víctimas cuyas fotografías habrían sido utilizadas para generar material de abuso sexual infantil.
También exige la destrucción de todo el contenido de este tipo creado por Grok, no solo de las imágenes que circulan públicamente, sino también de aquellas que podrían utilizarse para entrenar los modelos de la compañía. “Poseer material de abuso sexual infantil es un delito, producirlo es un delito y distribuirlo es un delito. xAI hizo las tres cosas”, afirmó Margaret E. Mabie, otra de las abogadas de la demandante e integrante de Marsh Law Firm. “No existe una excepción para la inteligencia artificial dentro de las leyes federales de protección infantil, y xAI debe afrontar las consecuencias de sus acciones imprudentes”.