Conceptualización y diseño de política pública

Conceptualización y diseño del Proyecto

1.Nombre o número del
Proyecto
X PROYECTO
Objeto de evaluación ética
2.¿Cuál es el problema que intenta resolver mediante este Proyecto?
3.¿Se han explorado casos en los que se hayan utilizado tecnologías de IA o similares para los propósitos establecidos en su caso particular?
4.¿Cuáles son las categorías de personas afectadas por el Proyecto y los grupos que se buscará proteger?
5.Por favor, complete la siguiente frase con una de las opciones que se dan a continuación: El problema para el que se ha diseñado el Proyecto del que hablamos
6.¿Qué tipo de tecnología de IA se va a utilizar en este Proyecto (elegir entre la lista de opciones)?

Rendición de cuentas

Responsabilidad y transparencia

7.¿Qué partes interesadas NO están al tanto del procesamiento de datos personales como parte del Proyecto?
8.¿Dispone el proyecto de canales administrativos de información y consulta sobre datos personales para comunicarse con las partes interesadas?
9.¿Qué persona o departamento asume la
responsabilidad de los resultados
X RESPONSABILIDAD DE LOS RESULTADOS
Los sistemas de toma/soporte de decisión, incluidos aquellos que utilizan técnicas algorítmicas y de IA, no son entes autónomos, sino que carecen de intencionalidad y de voluntad, no se les pueden atribuir responsabilidades con respecto a las normas sociales, éticas o jurídicas. La responsabilidad sobre estos mecanismos es, por lo tanto, de aquella/s persona/s o grupos de personas u organizaciones involucradas de forma directa en el diseño, desarrollo e implementación del sistema y el Proyecto que han realizado acciones con unas intenciones concretas y unas consecuencias significativas, especialmente cuando estas consecuencias tienen efectos negativos sobre la vida de otro/s. La responsabilidad algorítmica define la relación entre la parte responsable del sistema y la parte afectada por el mismo. La rendición de cuentas se refiere a la asunción de esta responsabilidad por parte de una persona, grupo u organización. Se refiere a la obligación de reconocer y aceptar las consecuencias del funcionamiento de un sistema, así como de reparar y satisfacer a las personas afectadas por el mismo. También se refiere a la responsabilidad de prevenir y evitar posibles consecuencias indeseables en el futuro.
del sistema de soporte/toma de decisión?

Explicabilidad

10.¿Está contemplado en el proceso de desarrollo de su Proyecto con IA contar con un proceso de explicación pública sobre el tratamiento automático de datos personales (módulo de
explicabilidad
X EXPLICABILIDAD
La explicabilidad de un sistema de toma de decisiones refiere a la posibilidad de que otras personas lo puedan comprender, mediante información accesible, también a que este sea reproducible. El European Parliamentary Research Service lo define como la disponibilidad de explicaciones sobre los Sistemas de Decisión Algoritmica.
)?

Consentimiento y protección de datos personales

11.¿Se confirmó el cumplimiento de las regulaciones nacionales e internacionales en materia de privacidad, protección de datos, transparencia y propiedad intelectual, así como regulaciones sectoriales específicas del país donde se aplicará su sistema de toma/soporte de decisión?
12.¿Qué datos personales se procesarán durante el proyecto?
13.¿Cuál es la fuente de donde se obtienen los
datos personales
X DATOS PERSONALES
Datos personales significa "cualquier información relacionada con una persona física identificada o identificable ("sujeto de datos"); Una persona física identificable es aquella que puede ser identificada, directa o indirectamente, en particular por referencia a un identificador, como un nombre, un número de identificación, datos de ubicación, un identificador en línea o uno o más factores específicos a lo físico, fisiológico, identidad genética, mental, económica, cultural o social de esa persona física"
de los sujetos de datos del Proyecto?
14.¿Se ha verificado si la institución que recoge los datos personales de las personas afectadas y/o desarrolla el Proyecto tiene las facultades legales para utilizar, almacenar y/o analizar los datos personales?
15.¿Brindarán las personas afectadas su consentimiento informado para que se utilicen sus datos?

Gobernanza y seguridad

Ciberseguridad

16.¿Alguna de estas medidas de estándar de seguridad no se está contemplando?

Gobernanza

17.¿Se prevé el establecimiento de una estructura o proceso específico de gobernanza para la gestión de los datos personales y resultados del Proyecto?
18.El Departamento/Institución/Oficina nacional a cargo del proyecto, ¿ha definido de forma clara la finalidad del tratamiento de los datos personales implicados en el Proyecto?
19.¿Qué persona/entidad será la responsable del uso y procesamiento de los datos?
20.¿Se han alcanzado los acuerdos legales (MOU, Contratos, etc) necesarios para cumplir con las responsabilidades de transferencia/intercambio de información?
21.¿Existen mecanismos por parte del coordinador del Proyecto para responder en tiempo y forma a las
solicitudes ARCO
X SOLICITUDES ARCO
Definimos como derechos ARCO a una serie de derechos de los sujetos de datos personales contemplados en la normativa europea de protección de datos (GDPR) y en diversas normativas nacionales a nivel mundial. Incluyen el Derecho de Acceso, que supone la garantía del afectado de acceder a su información personal en diversas circunstancias, el Derecho a la Rectificación, que incluye la posible modificación de los datos en poder del controlador o procesador de los datos a solicitud del sujeto de los datos en diversas circiunstancias (por ejemplo, la inexactitud de los mismos), el Derecho a Cancelación (o Supresión), que permite que el titular solicite y obtenga el bloqueo o supresión de aquellos datos que estén en poder del controlador en diversas circunstancias, y el Derecho a Oposición, que permite que el titular solicite y obtenga del controlador del fichero el cese en el tratamiento de sus datos personales en diversos escenarios.
de los sujetos de datos?
22.¿Se ha establecido algún plan de gestión del cambio para facilitar la implementación exitosa de los procesos de transformación tecnológica?
23.¿Hay terceras partes, como servicios de almacenamiento en la nube o servicios de comunicación, implicadas en el procesamiento de los datos personales correspondientes al proyecto? En caso afirmativo. ¿Son nacionales o extranjeros?

Ciclo de vida IA

Manejo de datos

24.¿Cómo se comprobará el posible sesgo de los datos en su recolección (vinculado a problemas como representatividad de la muestra y discriminación histórica)?

Desarrollo del modelo

25.¿Se está considerando la generación de
documentación
X DOCUMENTACIÓN
Los sistemas de documentación del modelo algorítmico se utilizan para establecer con claridad los casos de uso previstos de los modelos de aprendizaje automático y minimizar su uso en contextos para los que no son adecuados. Con este fin, se recomienda llevar un registro estructurado de las variables sobre el modelo indicadas en la recomendación (objetivos primarios y secundarios, datos de entrenamiento, versiones del algoritmo, etc.) junto con documentación que detalle sus características de rendimiento.
sobre los siguientes elementos de los sistemas algorítmicos utilizados?: 1. objetivos del sistema, 2. datos, 3. aproximación metodológica, 4. descripción del algoritmo y 5. sus parámetros de evaluación de desempeño y errores.

Uso y toma de decisión

26.¿Cómo se comprobarán los posibles problemas de sesgos o discriminación provocados por el algoritmo?
27.¿Existen en el Proyecto planes para monitorizar métricas importantes de funcionamiento del algortimo?

Impacto social (Interacción seres humanos-IA)

Interaccion con operadores

28.¿El sistema propuesto será de toma de decisión o de soporte de decisión?
29.¿Conocen los miembros de su Departamento/Institución/Oficina nacional que adoptarán dicha tecnología los riesgos derivados de su utilización?
30.¿Han trabajado los funcionarios antes con este tipo de tecnología sistema de soporte/toma de decisión (IA o TIC)?
31.¿Tendrán el uso del sistema de soporte/toma de decisión un impacto significativo en las tareas cotidianas de los funcionarios?
32.¿Los funcionarios y las personas afectadas que usan la tecnología (IA o TIC) y/o el sistema de soporte/toma de decisión habrán recibido formación específica (puntual o contínua) con este fin?

Interacción con personas afectadas

33.¿Se realizarán campañas de comunicación que expliquen el uso, alcance y medidas de mitigación de riesgo de los sistemas de soporte/toma de decisión (IA o TIC) dirigidas a las personas afectadas por el Proyecto y/o al público general?