Читать книгу Inteligencia artificial (Umbrales éticos, Derecho y Administraciones Públicas) онлайн

27 страница из 46

IV). Explicabilidad: es crucial para conseguir que los usuarios confíen en los sistemas de IA. Los procesos han de ser transparentes, las decisiones deben poder explicarse (de manera directa o indirecta) porque sin esta información no es posible impugnar adecuadamente una decisión. En este sentido, los algoritmos de “caja negra” (donde, muchas veces, no es posible explicar por qué un modelo ha generado un resultado o una decisión particular, ni qué combinación de factores contribuyeron a ello) requieren una especial atención. En este sentido, es necesario adoptar otras medidas relacionadas con la explicabilidad (por ejemplo, la trazabilidad, la auditabilidad y la comunicación transparente sobre las prestaciones del sistema), siempre y cuando el sistema en su conjunto respete los derechos fundamentales. La transparencia, por tanto, es un requisito de la IA; transparencia en los datos, el sistema y los modelos de negocio. Debe asegurarse la trazabilidad, es decir, los conjuntos de datos y los procesos que dan lugar a la decisión del sistema de IA deben documentarse con arreglo a la norma más rigurosa posible con el fin de posibilitar la trazabilidad y aumentar la transparencia; esto permitirá identificar los motivos de una decisión errónea por parte del sistema, lo que a su vez podría ayudar a prevenir futuros errores. La trazabilidad, por tanto, facilita la auditabilidad y la explicabilidad. Pero la explicabilidad también incluye la comunicación; el derecho del usuario a saber que está interactuando con un sistema de IA; por lo tanto, los sistemas de IA deben identificarse como tales, deben comunicar este extremo y, cuando sea necesario, se debería ofrecer al usuario la posibilidad de decidir si prefiere interactuar con un sistema de IA o con otra persona, con el fin de garantizar el cumplimiento de los derechos fundamentales.