Una madre y su hijo han presentado una demanda formal contra xAI, la compañía de inteligencia artificial de Elon Musk, alegando que las herramientas de generación de imágenes de la plataforma permitieron la creación y difusión de contenido “deepfake” degradante y no consentido.
La demanda, presentada en un tribunal de California, sostiene que la falta de filtros de seguridad adecuados en Grok, el asistente de IA de la red social X, facilitó que usuarios malintencionados generaran representaciones hiperrealistas de las víctimas con el fin de acosarlas y extorsionarlas.
El documento legal detalla que las imágenes fueron ampliamente distribuidas antes de que la plataforma tomara medidas para eliminarlas, causando un daño psicológico y reputacional irreparable. Los demandantes argumentan que xAI actuó con negligencia al lanzar una tecnología tan potente sin salvaguardas suficientes para prevenir abusos previsibles. Este caso se suma a una creciente lista de acciones legales que buscan responsabilizar a los desarrolladores de IA por el uso indebido de sus herramientas en la creación de pornografía sintética y otras formas de abuso digital.
Por su parte, los representantes legales de xAI han declarado que la empresa no es responsable de las acciones de sus usuarios y que están trabajando continuamente en mejorar sus protocolos de seguridad. Sin embargo, los críticos señalan que la filosofía de “libertad de expresión” promovida por Musk en sus plataformas ha creado un entorno donde la seguridad de los usuarios queda en segundo plano frente a la innovación tecnológica. El desenlace de este juicio podría sentar un precedente crucial para la regulación de la inteligencia artificial generativa a nivel mundial.
Te podría interesar:https://fm105.com.mx/category/ciencia-y-tecnologia/
La demanda contra xAI pone de relieve la urgente necesidad de legislaciones que aborden específicamente el problema de los deepfakes no consentidos. A medida que la inteligencia artificial se vuelve más accesible y capaz de crear contenido indistinguible de la realidad, la protección de la privacidad y la integridad personal se enfrenta a desafíos sin precedentes. Este caso no solo cuestiona la ética de las grandes tecnológicas, sino que también impulsa el debate sobre si las plataformas deben ser consideradas responsables directas del contenido generado por sus algoritmos.
Véase también:https://elvigia.com.mx/category/deportes/
