Por @Alvy — 24 de Octubre de 2017

Cómo construir una máquina consciente de sí misma Wired

Wired nos deleita de vez en cuando con perlas de sabiduría como estas diez mil palabras de Hugh Howey acerca del estado de la inteligencia artificial y su posible futuro: How To Build a Self-Conscious Machine (Cómo construir una máquina consciente de sí misma). Si eres de los que aprecian las buenas lecturas largas sobre tecnología, esta te gustará.

El artículo es profundo y toca muchos palos, desde el Test de Turing (al que la verdad no da mucha relevancia) a todos los experimentos de Google al respecto y principalmente a la inteligencia de los coches autónomos, quizá los que más rápidamente estamos viendo ascender en la escalada hacia la IA. (También menciones a Watson de IBM, a las IA que juegan al ajedrez, al Go, etcétera.)

El punto fuerte del artículo es plantear que la llegada de la inteligencia artificial tendrá lugar cuando diseñemos sistemas capaces de funcionar en base a la teoría de la mente de los seres humanos. La teoría de la mente trata acerca de la capacidad de atribuir pensamientos a otras personas o entidades – además de la consciencia de uno mismo – algo que curiosamente resulta ser un tanto «secundario» en este planteamiento. En el mundo real se traduce en que vemos a los demás a través de nuestros sentidos, intentamos adivinar en base a eso lo que van a hacer o cómo razonan y actuamos en consecuencia. Y más o menos funciona – al menos nos ha servido tras miles de años de evolución hasta el estado actual.

Esta teoría llevada a las máquinas tiene sus ventajas y desventajas. Por un lado haría más fácil su desarrollo, aunque requiere que en cierto modo las máquinas inventen una forma de «crear teorías sobre por qué suceden las cosas» para luego comprobar si son correctas – algo en lo que además además casi siempre deberían errar. Respecto a esto hay un sinfín de referencias a cómo el cerebro humano «se engaña a sí mismo» e inventa historias sobre por qué toma ciertas decisiones, porque se ha comprobado que pone en marcha acciones antes de ser consciente de lo que está haciendo.

Para todo esto la IA necesitaría contar con cierto lenguaje propio, que probablemente sería un poco metafórico y cuyas explicaciones surgidas del ensayo-y-error sobre el conocimiento de los demás nos resultarían un tanto absurdas (¡anda, como las de muchos humanos!) por lo que muchas veces sería difícil de identificar como «algo inteligente».

No obstante, el desarrollo de este tipo de inteligencia artificial produciría en máquinas inteligentes muy parecidas a los humanos – eso sí, con nuestros sesgos y problemas subyacentes. No hacerlo así sino ansiar un resultado «superior» supondría enfrentarse quizá a escenarios tipo Terminator o Matrix; y ver nuestras peores pesadillas cumplirse, como sucedía en el experimento mental del coleccionista de sellos.

Por poner un pequeño ejemplo: hoy en día los coches autónomos aprenden «todos de todos»; la información que recopilan se envía a grandes servidores que mejoran el conocimiento global y mejora los algoritmos en las siguientes actualizaciones – para toda la flota (de momento, casi siempre del mismo fabricante). Visión artificial, situaciones peligrosas y de accidentes… infinidad de casos. Se oyen ejemplos como que si hay un bache en cierta carretera puede que los siguientes coches puedan anticiparlo al cabo de un rato; lo mismo con los avisos en tiempo real de problemas de tráfico, obras, etcétera. No obstante las estrategias de la teoría de juegos nos han enseñado que no siempre ser tan abierto y confiado supone una ventaja: un coche que transmitiera información falsa sobre su imperiosa necesidad de recarga podría obtener prioridad en una electrolinera; quizá incluso pudiera aprender maniobras que hicieran «apartarse» y cambiar de carril a otros coches para llegar más rápido a su destino. Estas máquinas extraerían lo peor de esa teoría de la mente: lo peor de nosotros los humanos, el egoísmo y la avaricia.

No obstante todo lo anterior el artículo es bastante esperanzador, pero no tanto porque la tecnología no vaya a seguir derroteros descarriados –que si hay beneficio para alguien, o algo puede suponer una ventaja competitiva, sin duda se hará aunque, sea ilegal o inmoral– sino porque nosotros, humanos, que padecemos de esos mismos problemas, hemos mejorado y podemos mejorar como especie todavía más en este tiempo mientras desarrollamos y depuramos esa inteligencia artificial que implantaremos en todo tipo de máquinas. Ojalá sea así.

Compartir en Flipboard  Compartir en Facebook  Tuitear