Por @Alvy — 30 de Julio de 2019

Directrices éticas para una inteligencia artificial fiable

Este documento desarrollado por expertos para la Comisión Europea es una guía ética para una IA fiable que trata básicamente de «promover una inteligencia artificial fiable» cuando los programadores y las empresas trabajen en el desarrollo de este tipo de tecnologías. Me encantaría hacer un paralelismo con las tres leyes de la robótica de Asimov, pero es que no es comparable, además de que sabemos que esas leyes no funcionan ni funcionarían nunca.

El documento completo de más de 50 páginas es este:

Las directrices tratan básicamente de abarcar «tres componentes que deben satisfacerse a lo largo de todo el ciclo de vida del sistema», a saber:

  • (a) La IA debe ser lícita, es decir, cumplir todas las leyes y reglamentos aplicables.
  • (b) La IA de ser ética, de modo que se garantice el respeto de los principios y valores éticos.
  • (c) La IA debe ser robusta, tanto desde el punto de vista técnico como social, puesto que los sistemas de IA, incluso si las intenciones son buenas, pueden provocar daños accidentales.

Obsérvese para empezar el problema que alguna de estas directrices suponen. «Una IA debe cumplir las leyes». Para que esto funcionara de forma infalible requeriría tener una lista completa de las leyes y un método de interpretarlas de forma infalible. Algo que hoy en día ni siquiera sabemos hacer los humanos: las leyes son ambiguas, las interpretan los jueces, que a veces son rebatidos por otros jueces… Es un problema bien conocido.

Luego se desarrolla cada uno de los apartados, cubriendo áreas como la acción y supervisión humanas, la solidez técnica y la seguridad o la gestión de la privacidad y de los datos. También es importante la transparencia, lo cual se refiere a la trazabilidad, explicabilidad y la comunicación. Y otro componente no menos importante son la diversidad, no discriminación y equidad, el bienestar social y ambiental y la rendición de cuentas.

Relacionado:

Compartir en Flipboard Compartir en Facebook Tuitear
Desarrolla más rápido con Xojo