En un tratamiento de un sistema de IA es necesario evaluar la exactitud de los datos de entrada. Si no se hace, podría introducir sesgos y comprometer el rendimiento del algoritmo y del todo el tratamiento.
Principio de exactitud de datos en un algoritmo
El comportamiento de un algoritmo podría verse comprometido por la inexactitud de los datos de entrada que utilizamos en la ejecución del mismo. Por lo consiguiente, en un tratamiento que incorpora un sistema de IA es necesario evaluar la exactitud de los datos de entrada. En el caso contrario, podría introducir sesgos y comprometer el rendimiento no solo del algoritmo dado, sino de todo el tratamiento. Deben incluirse salvaguardias correspondientes que eviten la inexactitud de los datos de entrada y protejan del impacto de datos inexactos. Hay que utilizar estrategias «desde el diseño», y hay que evaluar la efectividad que debe revisarse y actualizarse cuando sea necesario.
Principio de exactitud según el RGPD
- El principio de exactitud debe aplicarse en los datos de entrada, los datos de salida y a los datos intermedios de todo tratamiento.
- La definición precisa de cada dato de entrada debe establecerse «por diseño» y documentarse adecuadamente.
- El impacto de cada dato de entrada en el resultado final debe evaluarse «por diseño», mediante la realización de un análisis del algoritmo implementado, pruebas de verificación de los requisitos y pruebas de validación en el contexto de la operación.
- Los datos de entrada podrían recopilarse manualmente de los interesados. En tal caso, los interesados deben conocer y comprender la semántica de los datos y el impacto de su respuesta.
- Los datos de entrada a un algoritmo dentro del tratamiento podrían recopilarse de otras fuentes: bases de datos, sensores como cámaras, lectores de huellas dactilares, etc.
- Se deben adoptar todas las medidas razonables para que se supriman o rectifiquen sin dilación los datos personales que sean inexactos, es decir, para cada fin específico y durante el funcionamiento del tratamiento.
Algoritmo automático
En el caso de algoritmos automáticos, podría ser implementado por un desarrollo de software tradicional o mediante las técnicas de aprendizaje automático (Machine Learning).
Más información en el siguiente enlace de AEPD.
