La OCDE advierte sobre la falta de mecanismos para evaluar los riesgos del uso de inteligencia artificial en el Gobierno mexicano.
México enfrenta desafíos para garantizar el uso responsable de la inteligencia artificial (IA) en las instituciones públicas, debido a la falta de auditorías y evaluaciones de riesgos específicas para estas tecnologías, de acuerdo con un señalamiento atribuido a la Organización para la Cooperación y el Desarrollo Económicos (OCDE).
La inteligencia artificial ha comenzado a ocupar un lugar importante en las actividades gubernamentales, con aplicaciones que pueden ayudar a procesar información, automatizar tareas y mejorar algunos servicios públicos. Sin embargo, su incorporación también plantea interrogantes sobre la transparencia, la protección de datos personales y la posibilidad de que los sistemas produzcan resultados incorrectos o discriminatorios.
Las auditorías y evaluaciones de riesgos permiten identificar problemas antes de que una herramienta tecnológica sea utilizada o mientras se encuentra en funcionamiento. Estos procedimientos ayudan a revisar cómo se toman las decisiones automatizadas, qué información utilizan los sistemas y cuáles podrían ser sus consecuencias para la ciudadanía.
La ausencia de mecanismos suficientes de supervisión representa un reto para las instituciones que buscan incorporar estas herramientas en sus procesos. Sin controles adecuados, resulta más difícil detectar errores, determinar responsabilidades y comprobar que las tecnologías cumplen con criterios de seguridad, imparcialidad y protección de la información.
El señalamiento también pone de relieve la necesidad de establecer reglas claras para el desarrollo y la implementación de la inteligencia artificial en el sector público. La capacitación de los funcionarios, la documentación de los sistemas y la existencia de evaluaciones periódicas pueden contribuir a que estas tecnologías se utilicen de manera más confiable.
A medida que la inteligencia artificial gana presencia en los gobiernos, México enfrenta el desafío de avanzar en su adopción sin dejar de lado la supervisión y la rendición de cuentas. Contar con procedimientos de evaluación y auditoría será importante para identificar riesgos y fortalecer la confianza de la población en el uso de estas herramientas.
Noticias relacionadas:
Sigue los reportes de última hora en FM 105
Infórmate sobre los acontecimientos en El Vigía
Consulta las actualizaciones de la prensa en Entorno Informativo
