El término inteligencia artificial (IA) se asocia a máquinas o sistemas de información que son capaces de aprender de sus propias experiencias y resolver problemas, más o menos complejos en diferentes situaciones, de modo que dan la impresión de que ‘piensan’ o muestran cierta inteligencia. Los algoritmos de la IA están pensados para reconocer patrones y de esta manera aprender a tomar decisiones de forma independiente. El uso de estos algoritmos para la toma de decisiones no siempre permite encontrar la traza o explicación a las decisiones tomadas.
Inteligencia artificial en el sector público
La Estrategia de I+D+I en Inteligencia Artificial, identifica numerosos campos para el desarrollo de la IA en el sector público:
- Interacción con el ciudadano, por ejemplo, conel uso de chatbots1 basados en el procesamiento del lenguaje natural como primera interfaz entre los ciudadanos y la Administración Pública.
- Salud, tanto para el tratamiento como para gestión.
- Seguridad en temas de vigilancia, movilidad y tráfico.
- Inspecciones de urbanismo.
- Prevención contra la corrupción.
- Etc.
Riesgos para los derechos y libertades en el uso de inteligencia artificial
Algunos de los riesgos específicos de la IA están relacionados con el tipo de desarrollo que se utilice.
Los sistemas integran la inteligencia artificial muchas veces en forma de motores y componentes de terceros que se ensamblan en los tratamientos del responsable interactuando con ellos.
Como un tratamiento puede tener una IA en continua evolución y los datos varían con el tiempo, existe el riesgo de que su alcance tenga derivas en la exactitud de la inferencia realizada o que introduzcan sesgos en los resultados.
Realizar un análisis de riesgos
Es recomendable que los organismos públicos analicen el riesgo que se deriva de este método de toma de decisiones y adopten mecanismos para su análisis y gestión, como:
- La constitución de comités de ética y protección de datos encargados de evaluar los daños y beneficios potenciales.
- Establecer controles periódicos de aseguramiento de la calidad de sus sistemas para garantizar que las personas reciben un trato justo y no discriminatorio.
- Realizar auditorías para comprobar que los componentes utilizados en los sistemas de toma automática de decisiones funcionan según lo previsto.
- Introducir las garantías de un enfoque subjetivo que explique una verdadera conexión entre los datos y los resultados.
- Implementar mecanismos que permitan al interesado expresar su punto de vista e impugnar la decisión.
- Evaluar el riesgo de que no exista operador humano cualificado que pueda ignorar el resultado de la decisión tomada en un momento dado.
Pueden consultar la guía completa de la AEPD en el siguiente enlace.
