Читать книгу Inteligencia artificial (Umbrales éticos, Derecho y Administraciones Públicas) онлайн

25 страница из 46

I). Respeto de la autonomía humana: esto implica garantizar la supervisión y el control humano sobre los procesos de trabajo de los sistemas de IA. El control humano se refiere a la capacidad de que los seres humanos intervengan durante el ciclo de diseño del sistema y el seguimiento de su funcionamiento; y la capacidad de supervisar la actividad global del sistema, incluidos sus efectos económicos, sociales, jurídicos y éticos (“el mando humano”).

II). Prevención del daño: los sistemas de IA no deben provocar daños (o agravar los existentes) ni perjudicar de cualquier otro modo a los seres humanos. No pueden, por tanto, destinarse a usos malintencionados. Esto conlleva la protección de la dignidad humana, así como de la integridad física y mental. Estrechamente relacionado con este principio se encuentra el componente de la solidez técnica y la seguridad. La IA tiene que tener una solidez técnica, tiene que ser desarrollada con un enfoque preventivo en relación con los riesgos, de modo que sus sistemas se comporten siempre según lo esperado y minimicen los daños involuntarios e imprevistos, evitando causar daños inaceptables. Al mismo tiempo, los sistemas de IA tienen que ser capaces de resistir a los ataques informáticos y ser seguros, ya que se pueden alterar los datos y el comportamiento del sistema, pudiendo dar lugar a decisiones erróneas, maliciosas o, incluso, causar daños físicos. La privacidad y la protección de la intimidad, también están estrechamente relacionados con la prevención del daño. Los sistemas de IA deben garantizar la protección de la intimidad y de los datos a lo largo de todo el ciclo de vida del sistema. Esto incluye la información inicialmente facilitada por el usuario, así como la información generada sobre el usuario en el contexto de su interacción con el sistema. Es evidente, en este contexto, que los registros digitales de las personas y su comportamiento, no solo pueden dejar rastro de sus preferencias sino también es fácil inferir de los mismos su orientación sexual, edad, género, opiniones políticas y religiosas. Es necesario, por tanto, establecer protocolos que determinen quién puede acceder a los datos y en qué circunstancias.