Por @Alvy — 20 de Agosto de 2018

Sobre la ética de los asistentes inteligentes / Siri

Se dice que los filósofos del siglo XXI tendrán mucho trabajo y además bien remunerado, debido sobre todo a las consideraciones que muchos sectores han de tener con los nuevos desarrollos: robots, inteligencia artificial, medicina/bioética… Un ejemplo cercano puede ser este artículo titulado Towards an Ethics of AI Assistants: An Initial Framework [PDF] (Hacia una ética de los asistentes inteligentes: un marco inicial) del filósofo John Danaher, que no deja ser una aproximación inicial a algunos de los problemas genéricos a los que se enfrenta el mundo tecnológico:

Los asistentes personales de IA son ya prácticamente ubicuos. Los sistemas operativos de los smartphones vienen con un asistente personal con inteligencia artificial que promete ayudar con las tareas cognitivas básicas: búsqueda, planificación, mensajería, organización, etc. El uso de tales dispositivos es efectivamente una forma de subcontratación algorítmica: que un algoritmo «inteligente» haga algo en nuestro nombre.

Hay quien ya ha expresado su preocupación por esta externalización algorítmica. Afirman que es deshumanizante, conduce a la degeneración cognitiva y nos roba nuestra libertad y autonomía.

Otras personas tienen un punto de vista más sutil: argumentan que los asistentes digitales pueden ser problemáticos sólo en aquellos casos en los que su uso degrade las «virtudes interpersonales».

El trabajo es interesante aunque es largo y un tanto espeso. Entre otras cuestiones se menciona el efecto degenerativo (el famoso argumento de «los ordenadores nos hacen más tontos»):

Si algo que nos obligue a utilizar nuestros propios recursos cognitivos internos mejora nuestra memoria y comprensión, entonces cualquier cosa que elimine la necesidad de ejercer esos recursos internos reducirá nuestra memoria y comprensión.

Aunque los problemas asociados a la IA de los agentes inteligentes cotidianos tienen muchos ángulos, también explica que estas herramientas suelen abarcar ciertas áreas de conocimiento que por su naturaleza han de ser reducidas, y no suelen tener fácil salir de ahí – incluyendo sus sesgos y otras limitaciones. El caso es que si confiamos en ellos en demasía acabamos siendo esclavos de esas mismas limitaciones y sesgos y nos convertimos en meros «ejecutores de sugerencias». Algo así como confiar demasiado en las recomendaciones de Netflix y no probar nunca nada nuevo, simplemente porque confiamos demasiado en que hay algo «inteligente» detrás.

(Vía Philosophical Disquisitions.)

Compartir en Flipboard  Compartir en Facebook  Tuitear