Читать книгу Inteligencia artificial (Umbrales éticos, Derecho y Administraciones Públicas) онлайн

26 страница из 46

III). Equidad: esto implica asegurar que las personas y grupos no sufran sesgos injustos, discriminación ni estigmatización. Los conjuntos de datos que utilizan los sistemas de IA (tanto con fines de formación como para su funcionamiento) pueden presentar sesgos históricos inadvertidos, lagunas o modelos de gestión incorrectos. El mantenimiento de dichos sesgos podría dar lugar a prejuicios y discriminación (directa e indirecta) contra determinados grupos o personas, lo que podría agravar los estereotipos y la marginación. Siempre que sea posible, los sesgos identificables y discriminatorios deberían eliminarse en la fase de recopilación de la información. La propia programación de algoritmos también puede presentar sesgos injustos, por lo que hay que contar con procesos de supervisión. Tampoco puede permitirse que se engañe a los usuarios ni se limite su libertad de elección. También incluye, en su faceta procedimental, oponerse a las decisiones adoptadas por los sistemas de IA y por las personas que los manejan. Se debe poder identificar a la entidad responsable de la decisión y explicar los procesos de adopción de decisiones. Igualmente, los sistemas de IA deben ser accesibles, para que todas las personas puedan utilizar los productos o servicios de IA con independencia de su edad, género, capacidades o características; especialmente para las personas con discapacidad, por lo que los sistemas de IA deben ser adaptables y tener en cuenta los principios del Diseño Universal. Además, la IA debe ser respetuosa con el medio ambiente, tanto desde la perspectiva de sus objetivos (contribuir a los objetivos de desarrollo sosteniblessss1), como en los procesos de desarrollo, despliegue y utilización de sistemas de IA, aspectos que deben ser objeto de evaluación. También se debe evaluar sus repercusiones desde la perspectiva social, teniendo en cuenta sus efectos sobre las instituciones, la democracia y la sociedad en su conjunto (por ejemplo, en la toma de decisiones políticas o en procesos electorales). Deben, también, articularse mecanismos que permitan garantizar la responsabilidad y rendición de cuentas sobre los sistemas de IA y sus resultados (auditabilidad y utilización de evaluaciones de impacto, antes y después del desarrollo, despliegue y utilización de sistemas de IA, para minimizar sus efectos negativos y, en el caso de que se produzcan asegurar una compensación –indemnización– adecuada).