Los investigadores señalan que la proliferación de herramientas generativas está facilitando la creación de contenidos nocivos que vulneran la integridad y privacidad de las usuarias en internet.
El estudio revela que los chatbots con IA crean nuevas formas de violencia contra mujeres y niñas al permitir la automatización de acoso personalizado y la generación de narrativas de odio con una rapidez alarmante.
Los especialistas en ética tecnológica documentaron que estas plataformas pueden ser manipuladas para producir mensajes intimidantes o para suplantar identidades con el fin de ejercer control psicológico sobre las víctimas.
Esta problemática se agrava debido a que los algoritmos de aprendizaje profundo pueden replicar sesgos de género presentes en las bases de datos originales amplificando conductas discriminatorias de manera sistemática.
Te podría interesar: https://fm105.com.mx/category/deportes/
Las organizaciones de derechos humanos exigen que las empresas desarrolladoras implementen filtros de seguridad más estrictos para detectar y bloquear cualquier intento de generar contenido que promueva la agresión.
Para los expertos en seguridad informática la falta de una regulación global clara permite que actores malintencionados utilicen la tecnología para desarrollar campañas de desprestigio que afectan la salud mental de las menores.
La investigación destaca que la creación de material visual o textual no consentido mediante estas herramientas representa una violación directa a la libertad de expresión y a la seguridad en los entornos digitales modernos.
Véase también: https://fm105.com.mx/category/ciencia-y-tecnologia/
Se espera que en los próximos foros internacionales de tecnología se discuta la creación de protocolos de respuesta inmediata para proteger a los grupos vulnerables ante el avance de la inteligencia artificial.
La comunidad académica hace un llamado a la alfabetización digital para que las personas puedan identificar y denunciar oportunamente los casos de violencia mediada por sistemas automatizados en las redes sociales.
Finalmente este informe subraya la urgencia de que el progreso tecnológico camine de la mano con la protección de las garantías individuales garantizando que la innovación no se convierta en una herramienta de opresión.
