Noticias

Los ombudsman alertan acerca de la inteligencia artificial y los derechos humanos

Durante los días 2 y 3 de marzo se ha celebrado el Seminario Internacional sobre Inteligencia Artificial y Derechos Humanos: retos, roles y herramientas de las instituciones de Ombudsman, organizado por el Instituto Internacional del Ombudsman (IOI) y el Síndic de Greuges de Cataluña en el Museo del Diseño Hub de Barcelona. Las jornadas han contado con un total de cinco mesas redondas cuyo eje vertebrador giraba en torno a la inteligencia artificial y a la importancia de la aplicación y la reglamentación en materia de derechos humanos dentro de este campo.

Durante la inauguración del seminario se ha resaltado la importancia del papel que deben desarrollar los Ombudsman en materia de Derechos Humanos e Inteligencia Artificial, tal y como ha explicado Rafael Ribó, síndic de greuges de Cataluña, destacando la necesidad de un nuevo humanismo tecnológico para establecer los derechos digitales como derechos humanos. Por su parte, Pablo Martín, subsecretario del Ministerio de Ciencia e Innovación, ha destacado la importancia y liderazgo de Cataluña y Barcelona en el campo de la IA.

La primera mesa redonda se ha centrado en las realidades y límites de la Inteligencia Artificial, planteando los elementos primordiales que la configuran y un análisis de las incidencias positivas y negativas, con la repercusión que pueden tener sobre nuestros derechos. Durante la sesión, Andreas Pottakis, Ombudsman de Grecia, ha subrayado que la IA se puede convertir en un límite para la libertad de expresión, hasta el punto que puede llegar a tomar decisiones por nosotros y cambiar así la forma en qué vivimos; en esta línea, resulta indispensable asegurar la confianza como punto clave para su adopción. A su vez, Carina Lopes, responsable de la Digital Future Society Think Tank, ha fijado como objetivos para la adopción de la IA una acción reguladora, la innovación pública y el apoyo y la reparación ciudadana.

En la segunda sesión del seminario, “De la sociedad analógica a la digital”, se han puesto en relación los elementos como pilares fundamentales de los sistemas de libertades y derechos, es decir, como es el ejercicio de la democracia. Durante la sesión, Renata Ávila, directora ejecutiva de la Fundación Ciudadano Inteligente ha encomendado a los Ombudsman la tarea de ser pioneros del futuro marcando las bases legales de la IA. Además, José María Lassalle, director del Foro de Humanismo Tecnológico de ESADE, ha hablado de la importancia de una nueva generación de derechos para paliar los efectos negativos de la evolución tecnológica. Daniel Innerarity, catedrático de Filosofía Política de la Universidad del País Vasco y miembro de la Iberbasque Foundation for Science, ha hablado sobre los algoritmos y sus sesgos inevitables.

Martes 3 de marzo de 2020

La primera parte de la mesa redonda "Derechos, retos, cuestiones fundamentales. Instituciones Internacionales y definiciones" ha versado sobre la aproximación sectorial, aplicando la teoría y debate de las sesiones anteriores de forma concreta a las diferentes materias que inciden dentro de la nuestra sociedad. Por ejemplo, en el ámbito de salud, Josep Maria Argimon, director gerente del Instituto Catalán de la Salud, ha explicado la importancia de cumplir los estándares en cuanto a los datos para cumplir con las buenas prácticas: considera que deben ser válidas, no sesgadas, transparentes y respetuosas. Ángel Gómez de Ágreda, coronel de aviación y jefe del Área de Análisis Geopolítica de la Secretaría de Política de Defensa del Ministerio de Defensa, en materia de ciberseguridad, planteó que los algoritmos nos reflejan tal como somos, y que este hecho nos causa miedo. Por otra parte, Liliana Arroyo, experta en transformación digital, ha expuesto las discriminaciones de la aplicación de la IA al ser un amplificador del imaginario social e Itziar de Lecuona, subdirectora del Observatorio de Bioética y Derecho, ha cuestionado la falta de anonimato de la sociedad frente a la importancia de proteger a las personas, a través de sus datos.

En cuanto a los tratados internacionales, se han presentado los diferentes puntos de vista de los representantes de organismos europeos cuya misión es protegerlos y hacerlos cumplir. Gregor Strojin, presidente del CAHAI (el Comité Ad-Hoc sobre inteligencia Artificial del Consejo de Europa), ha expuesto que no todo lo que es factible en tecnología es aceptable desde una perspectiva de derechos humanos. Por su parte, Geraldine Mattioli–zeltner, asesora de la Comisaria Europea de Derechos Humanos del Consejo de Europa, ha dado una visión positiva afirmando las potencialidades que tiene la IA a favor de los Derechos Humanos y Peter Bonnor, jurista principal del Ombudsman Europeo, ha animado a aprovechar la oportunidad de participar a la hora de legislar sobre IA. Martha Stickings, de la agencia de Derechos Fundamentales de la UE (FRA) ha incidido en la validez y obligatoriedad de los tratados y las leyes, en contraposición con el carácter voluntario de los códigos de ética.

La última sesión del seminario, centrada en los Roles, retos y oportunidades para las instituciones de Ombudsman, se han tratado los diferentes puntos de vista y experiencias de los Ombudsman de toda Europa. Durante la sesión, Quirine Eijkman, comisaria y vicepresidenta del Instituto Neerlandés de los Derechos Humanos, ha interpelado a los Ombudsman a la hora de implicarse más en el análisis en materia de IA y de los algoritmos. Rob Behrens, Ombudsman del parlamentario del sistema sanitario de Reino Unido, ha afirmado que en su país aún no se sienten del todo cómodos utilizando la IA, es preciso avanzar en las potencialidades que puede ofrecer. Y Eric Houtman, Ombudsman federal belga y miembro de la NEON, ha puesto el foco en la IA relacionada con las necesidades energéticas y sus ventajas hacia este aspecto.

Las conclusiones han corrido a cargo de Ulises Cortés, catedrático e investigador titular de la UPC, Barcelona Supercomputing Center (BSC) acompañado de la moderadora Catherine De Bruecker, Ombudsman federal belga. Cortés ha resaltado las ventajas de la IA, animando a utilizarla como una extensión de las habilidades humanas y destacando la importancia del sector privado a la hora de implementar políticas éticas en IA integrante los Derechos Humanos para velar por la seguridad de los ciudadanos.

Rafael Ribó, síndic de Greuges de Cataluña, ha destacado que el concepto de derechos humanos va más allá de las leyes y ha loado al IOI por el camino que está siguiendo en materia de Derechos Humanos e Inteligencia Artificial. Daniel Marco, director general de Innovación y Economía Digital de la Generalitat de Cataluña ha sintetizado el concepto de IA como bien común, transparente y para las personas.

El primer seminario sobre Inteligencia Artificial y Derechos Humanos organizado por el Síndic de Greuges de Cataluña y el IOI ha conseguido reunir a diferentes ponentes institucionales, expertos, Ombudsman, defensores y representantes de estructuras de Derechos Humanos para reflexionar y exponer diferentes puntos de vista acerca de la Inteligencia Artificial, priorizando en todo momento el factor humano y la importancia de los derechos humanos. El Síndic de Greuges ha agradecido la colaboración recibida por parte del BSC-CNS (Barcelona Supercomputing Center) y del Digital Future Society (del Mobile World Capital), así como la esponsorización de La Caixa.

• Inteligencia Artificial y Derechos Humanos. Marzo 2020

Volver