En lo que se refiere a los tratamientos que precisen decisiones automatizadas hemos de realizar una evaluación del grado de participación humana. Eso implica evaluar tanto el sistema que utilizamos como el tratamiento y su contexto.
Decisiones automatizadas
Según el artículo 22 del RGPD, las personas tienen derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado. En estos tratamientos están incluidos: la elaboración de perfiles, por ejemplo, que pueda producir efectos jurídicos con algunas situaciones excepcionales.
El responsable del tratamiento tiene que tener en cuenta que no puede obviar las disposiciones del artículo 22 inventándose una participación humana. Por ejemplo, si alguien aplica perfiles generados automáticamente a personas sin una intervención humana al respecto, esto seguiría siendo una decisión basada únicamente en el tratamiento automatizado.
Valorar participación humana
Para conseguir este objetivo, se recomienda valorar la participación de una persona en el proceso de decisión. Para ello, examinaremos diferentes aspectos:
- Competencia y autoridad. Quiere decir que tiene la autoridad o la tarea asignada que le permite alterar el resultado de la decisión automatizada.
- Capacidad y formación. Es decir, tiene la capacidad suficiente y las aptitudes adecuadas para evaluar la decisión y los factores que determinan esa decisión.
- Independencia y diligencia: hay que evaluar que no existan presiones desde dentro de la organización o desde fuera de la misma. Estas presiones podrían llegar a condicionar la decisión por parte de la persona.
- Medios para poder ejercer su competencia y cualificación: se debería valorar que la persona tiene disponibles las siguientes capacidades:
- Que pueda ejercer su competencia: supone que tenga la capacidad de intervenir en el momento adecuado en tiempo y forma, antes de aplicarla al individuo.
- Que disponga de la información necesaria para poder ejercer su cualificación: debe poder conocer las consecuencias, riesgos a nivel general y en los casos específicos.
- La disponibilidad de los recursos para poder ejercer su cualificación (aplicaciones, equipos, etc.).
- Que disponga del tiempo necesarios para realizarla.
Para más información, pueden leer el artículo reciente de la AEPD sobre este tema que pueden encontrar en el siguiente enlace.
