Conclusiones del III Digital Law
Debate: Europa y el Libro Blanco sobre la inteligencia artificial. Control
Jurídico de los algorritmos por Joan Lluís Pérez Francesch (relator)
ICAB – 22 y 23 de octubre de 2020
© de l’edició ICAB
© de Joan Lluís Pérez Francesch
PONENTES:
- Ramón López de Mantara
- Pablo García Mexía
- Liliana Arroyo
- Alessandro Mantelero
- Jana Gajdosova
MODERA:
- Karma Peiró
CONCLUSIONES:
Karma Peiró, ejerce de moderadora y pone de manifiesto retos de la Inteligencia Artificial, como la recogida de los datos (en especial en el caso de los sesgos) y la responsabilidad ética y jurídica por el uso de estos.
El objeto de esta mesa redonda es analizar diferentes aspectos del Libro Blanco de la Inteligencia Artificial, elaborado por la Comisión Europea.
Ramón López de Mantaras destaca que tenemos la sensación de que la I.A. está más cerca de lo que está realmente, es decir, que es menos inteligente de lo que parece. Sostiene que hay que dotar de “sentido común” a la I.A. con objeto de predecir las consecuencias de sus actos. Entiende que hay que mejorar las herramientas de la toma de decisiones, con más calidad y fiabilidad, porque no por obtener muchos datos, los resultados serán mejores. La I.A. usa algoritmos, pero estos no tienen en cuenta las excepciones, lo cual es un problema, una falta de inteligencia. Por otro lado, sostiene que dotar de autonomía a las máquinas puede llegar a ser estúpido y de consecuencias nefastas, como en el caso de las armas letales autónomas. En lo referente al Libro Blanco sobre la Inteligencia Artificial entiende que está bien enfocado, aunque presenta una cierta miopía de cara al futuro. Lo más urgente es dotar de transparencia a la I.A. pues hoy en día no es un ecosistema de confianza, con importantes agujeros negros, que afectan a la responsabilidad ética y jurídica. El ponente ha defendido que las máquinas no sean responsables, sino siempre las personas.
Pablo García Mexía, en su condición de jurista digital, nos aporta datos empíricos. En Francia, el 47% de la población piensan que es algo malo y peligroso. En todo caso, advierte de los riesgos que presenta, porque hay que ser conscientes de ello, sin perjuicio de saber valorar la parte positiva. Los riesgos son: los perfiles “irreales” de las personas, la desigualdad de trato, los sesgos de raza o situación económica, los atentados a la privacidad, etc. Exige una responsabilidad subjetiva de los que usan esa I.A. para fines comerciales y obtienen ganancias de dudosa moralidad (p.ej. los programas de ventas de billetes de avión, que en la segunda visita a un viaje aumentan el precio).
Liliana Arroyo puso el acento en las desigualdades por razón de género, una auténtica brecha de acceso y de uso de la I.A. También destacó la necesidad de incluir mecanismos de control interno para mejorar el servicio y la funcionalidad de la I.A. Consideró que participar en el diseño de los algoritmos es un gran paradigma democrático.
Por su parte, Alessandro Mantelero aportó una interesante reflexión sobre la ética cuando hablamos de derecho. Sostuvo la necesidad de diferenciar los problemas éticos de los jurídicos, para evitar las confusiones que, a su juicio, ocurren en las propuestas europeas, donde hay muchos principios, pero se necesita concretar las reglas. Este ponente entiende que hay que “vigilar” a los algoritmos, con mayor transparencia y participación ciudadana. Incluso sostiene el derecho a elegir si queremos ser tratados por medio de ellos o no. Asimismo, destaca la importancia del control preventivo de los riesgos.
Jana Gajdosova puso el énfasis en el respeto a los derechos fundamentales, en la responsabilidad y en la rendición de cuentas, exigiendo que la I.A. llegue a la ciudadanía de forma clara y comprensible.
En definitiva, el control jurídico de los algoritmos es una exigencia propia del Estado de Derecho, de la democracia y de forma destacada de la aplicación del principio de responsabilidad jurídica. Es preciso un mayor control, superando la territorialidad de los Estados, por lo que la normativa europea puede ir en esta dirección.
El derecho debe penetrar el mundo de la tecnología, para hacer de ésta un instrumento humano, evitando la tendencia a la “tiranía tecnológica”. No todo lo que es posible en el mundo digital lo ha de ser realmente, ya que el derecho ha de establecer controles, límites y sobre todo respeto a los derechos humanos.
Asimismo, le corresponde al derecho proteger a la persona, en un mundo masificado, despersonalizado, que el ser humano no acaba de controlar y que, no obstante, le proporciona bienestar e incluso beneficios. La gestión de los big data en manos de grandes compañías no puede llevarse a cabo sin la mirada puesta en los principios de la civilización.
En definitiva, recordemos que el respeto a la dignidad de la persona humana es la base de todos los avances tecnológicos y de todos los derechos fundamentales, también en el actual mundo tecnológico, digital y globalizado. La gobernanza del mundo no puede dejarse a los mercados y al abandono de la política. Los avances tecnológicos se han de poner al servicio del bienestar y de la felicidad humana, pero no a cualquier precio. Al final podemos caer en un «progreso decadente» o en un autoengaño. Claramente, este no es e camino.
