Todos los algoritmos que componen la Inteligencia Artificial deben ser evaluados en relación con el posible impacto en los derechos y libertades de los interesados.
Algoritmos de Inteligencia Artificial (IA)
Un sistema de Inteligencia Artificial está formado por diferentes elementos:
- interfaces,
- sensores,
- comunicaciones,
- al menos un modelo del algoritmo de IA.
Por lo general, dicho modelo de la IA se configura mediante la combinación de varios algoritmos. Todos estos algoritmos deberán ser evaluados con respecto al posible impacto en los derechos y libertades de los interesados. De hecho, también debe evaluarse respecto al resto de los elementos que forman el sistema de IA. Con el objetivo de cumplir con los requisitos de transparencia del sistema, toda la evaluación debe tener en cuenta la intervención humana en la toma de decisiones que configuran dichos algoritmos.
Las características del sistema
Un sistema de IA se caracteriza, entre otros por la inclusión de un modelo de IA.
En el caso de los modelos de redes neuronales, cabe destacar las dificultades para establecer la transparencia y explicabilidad de los sistemas de IA.
Cómo aprende la red neuronal
La matriz de pesos en una red neuronal no la establece un programador. Se hace a través de un proceso de aprendizaje automático. Sin embargo, la red neuronal no aprende sola, sino que procesa las entradas y los pesos en cada nodo para obtener un resultado. A menudo se necesitan otros algoritmos para ajustar la matriz de pesos. Y esos algoritmos no suelen ser algoritmos de redes neuronales.
Además, muchos sistemas de Machine Learning utilizarán más de un algoritmo de aprendizaje en las diferentes fases de desarrollo.
Papel de los algoritmos en el proceso de aprendizaje
Todos el algoritmo que está implicado en el proceso de aprendizaje desempeñará un papel más crítico cuando se utilice más allá de la fase de desarrollo. Es decir, cuando el sistema de IA «se reentrena» durante la fase de operación cambiando dinámicamente la matriz de pesos, lo que equivaldría a cambiar su programación.
Más información en el siguiente enlace de la AEPD.
