La base de datos de incidentes de las inteligencias artificiales ya existe. El top 3 lo encabezan de momento Facebook, Tesla y Google

The Artificial Intelligence Incident Database

Igual que existen la base de datos de películas, de libros o de videojuegos en Internet a alguien se le ha ocurrido la feliz idea de crear la base de datos de incidentes de las inteligencias artificiales, donde se van anotando cuidadosamente las casos que saltan a las noticias. La tabla contiene una lista de sucesos del MundoReal™ que han acabado en daños (o casi) para las personas.

Este formato se parece mucho al de los incidentes de seguridad informática. La idea es que dando a conocer estos casos, que en ocasiones son bugs, fallos de concepto o problemas todavía desconocidos en las que alguien o algo la ha liao. Sabiendo más al respecto se pueden evitar malos mayores. Sobre cada incidente hay un pequeño informe que indica qué IA/empresa ha protagonizado el «problema», a qué entidad ha dañado y el tipo de prejuicio causado.

La lista de momento la encabezan:

Los tipos de incidentes son muy variados: en el caso de Facebook hay fallos de su traductor, censura errónea, contenido «científico» generado por su IA que resultó ser dañino y sesgos en algunos de sus algoritmos. En el de Tesla son más bien fallos del sistema de conducción autónoma y otros sistemas de los vehículos, y problemas en la robótica de la fabricación de los coches y en el de Google hay desde insultos con el autocompletar al famoso incidente en que su IA confundía a las personas negras con gorilas y a anuncios racistas filtrados en Google AdSense.

La idea parece buena, aunque el trabajo va a ser ímprobo a medida que aparecen más y más IAs por todas partes. El sitio parece muy bien diseñado pero ha de actualizarse continuamente. La sección de taxonomías es especialmente interesante porque permite filtrar los datos por tipos de daños, datos demográficos, tecnologías, objetivos de las IAs y demás. Por ejemplo entre los objetivos están: conducir, filtrar palabrotas, filtrar contenidos de odio, reconocer rostros, y otros.

Se puede seguir la actualidad de los incidentes en su blog o en Twitter @IncidentsDB y otras redes sociales. Está claro que peligros hay muchos e incidentes va a haberlos también, así que no está mal mantenerse al día.

Relacionado: