¿Qué es la singularidad tecnológica?

En su última película (Trascendence), Johnny Deep hace el papel de un prestigioso investigador en el campo de la inteligencia artificial que trabaja en la creación de una máquina que combina la inteligencia colectiva con las emociones humanas. Siguiendo con el género de la ciencia ficción, Ex Machina (todavía no estrenada) trata sobre los límites de la inteligencia artificial y las relaciones hombre-máquina. En la misma línea Antonio Banderas acaba de presentar Autómata en el último Festival de San Sebastián, cinta ambientada en 2044, año en el que los robots amenazan con tomar el control del mundo.

Podríamos citar muchos más ejemplos de películas de temática parecida pero todas ellas tienen en común que describen un futuro muy similar al que postulan los defensores de la denominada singularidad tecnológica o simplemente singularidad (singularity en inglés). Wikipedia la define como “un acontecimiento futuro en el que se predice que el progreso tecnológico y el cambio social se acelerarán debido al desarrollo de inteligencia sobrehumana, cambiando nuestro entorno de manera tal, que cualquier ser humano anterior a la singularidad sería incapaz de comprender o predecir”.

Foto del usuario de Flickr Paul Keller

Los partidarios de esta filosofía argumentan que los avances en los campos de inteligencia artificial, nanotecnología, robótica, neurología, computación cognoscitiva y genética posibilitarán en un futuro cercano un desarrollo exponencial del ser humano hasta convertirlo en un superhombre (en eso coinciden con el transhumanismo) que podría incluso llegar a ser inmortal. Esto último de la inmortalidad podría sonar a broma pero lo afirman científicos tan prestigiosos como Stephen Hawking o Marvin Minsky.

Ray Kurzweil es uno de los principales defensores de esa corriente. En su libro “La singularidad está cerca” expone la teoría de los rendimientos acelerados, una ley que -según él- llevará a la humanidad a un escenario donde se producirá un explosión de inteligencia que transformará el mundo de forma drástica. Pero Kurzweil no está no sólo. Otros prestigiosos científicos (Aubrey de Grey, Michio Kaku o el citado Marvin Minsky entre otros) y empresas pioneras como Google le apoyan en la difusión de las bondades de la singularidad y el transhumanismo. De hecho, han creado una universidad en California (Singularity University) cuya misión es “educar, inspirar y dar empowerment a los líderes para aplicar tecnologías exponenciales que solucionen los grandes desafíos a los que se enfrenta la humanidad actualmente”

¿Se cumplirá finalmente lo que pronostican Kurzweil y compañía? Lo cierto es que un futuro como el que nos presentan las películas citadas poblado de cíborgs y controlado por máquinas replicantes más inteligentes que nosotros, parece poco halagüeño para las “personas normales”. Las tres reglas de la robótica de Asimov podrían servir para el momento en el que fueron publicadas (1942), pero creo que convendría abrir un debate social amplio sobre los aspectos éticos y legales de estos avances médicos y tecnológicos.

Este artículo fue publicado originariamente en Rincón de la Tecnología el 4 de noviembre.

 

Robots sociales que aprenden y entienden tus emociones (I).

Ya están aquí y han venido para quedarse. Me refiero a los robots sociales, máquinas capaces de captar las emociones humanas y/o de aprender en cada interacción. El ejemplo más claro es Pepper. Se trata de un robot que está presente desde hace meses en las tiendas de Tokio del operador de telecomunicaciones japones Softbank y cuyo objetivo declarado es vivir con humanos aunque no para cocinar ni limpiar, sino para ser su "compañero emocional", en sentido de hablar y entender la alegría, tristeza o sorpresa de su interlocutor e incluso ser capaz de expresar algunas emociones básicas.

Aldebaran, la empresa que lo ha creado, afirma que la experiencia que están acumulando en las tiendas, servirá para desarrollar una versión más sofisticada de Pepper que saldrá a la venta en Japón en febrero de 2015 por unos 2.000 dólares.

Foto del usuario de Flickr Martica

Por otro lado, IPsoft acaba de presentar Amelia, un sistema basado en inteligencia artificial que habla más de 20 idiomas y es capaz de leer y entender textos, seguir procesos, resolver problemas, responder a cuestiones y, lo más importante, aprender de la experiencia. ¿Cómo lo hace? Según sus creadores, Amelia es capaz de entender el contexto, aplicar la lógica y deducir implicaciones.

Baby X es un proyecto curioso del Laboratorio de Tecnologías Animadas de Auckland (Nueva Zelanda). Lo lidera Mark Sagar, con experiencia en la creación de personajes generados por ordenador en películas como King Kong o Avatar, que  lo define como "una exploración de la interacción emocional a través de un avatar interactivo". Baby X es un programa que imita el proceso biológico de aprendizaje simulando mediante algoritmos las reacciones del cerebro y las expresiones faciales. Merece la pena ver los vídeos del link anterior porque si no es difícil de entender el proyecto. Por cierto que para desarollar el avatar, Sagar ha tomado a su hija Francesca como modelo. 

Tanto Amelia como Baby X pueder ser embebidos en humanoides (como Pepper), que les aporten las funciones mecánicas de las que carecen. Ambos comparten además el objetivo último de comportarse naturalmente o de forma lo más parecida a como lo haría un ser humano.

El objetivo de Viv es ser el primer asistente personal inteligente. Los fundadores de esta startup trabajaron antes en el desarrollo de Siri y aseguran que Viv será capaz de entender tus preferencias y usar multitud de conexiones a la web para contestar casi cualquier pregunta o ejecutar casi cualquier acción. De hecho le llaman "cerebro global" porque se basa en contenidos disponibles en internet y no está sujeto a las limitaciones de sus programadores. Afirma que Viv será capaz de ejecutar correctamente acciones complejas como "búscame un vuelo a Dallas en un asiento en el que quepa Shaq (Shaquille O´Neal, exjugador de la NBA)" en menos de un segundo.

¿Echábais de menos a alguien? Sí, Amazon también se apunta a la fiesta y acaba de lanzar Echo, un asistente familiar que puede poner música, responder a todo tipo de preguntas y ofrecer noticias.

Si se cumplen las predicciones anteriores, en breve estarán disponibles comercialmente robots que serán capaces de aprender, de resolver problemas y de entender nuestras emociones. ¿Podemos dejar a esas máquinas al cuidado de personas mayores y niños? El autor de este artículo sobre cuidado de ancianos afirma que sí y que casi no nos va a quedar otro remedio dada la escasez de médicos para atenderlos. En el siguiente artículo analizaremos las numerosas cuestiones éticas y legales que se plantean.

Viaje al interior del cerebro humano.

Cientos de científicos de más de veinte países se han embarcado en el Human Brain Project (HBP), un proyecto a diez años financiado por la Unión Europea para entender la manera de trabajar del cerebro, con la finalidad de desarrollar tecnologías de computación que simulen su funcionamiento así como de crear nuevos tratamientos para las patologías mentales.

Foto del usuario de Flickr neil conway

En paralelo, Estados Unidos está trabajando en un proyecto similar (BRAIN initiative), para comprender cómo el cerebro piensa, aprende y recuerda. Está dotado con un presupuesto de más de 100 millones de dólares y coliderado por Rafael Yuste, cientifico español de la Universidad de Columbia. En una reciente entrevista, Yuste hacía afirmaciones tan inquietantes como las siguientes: 

"Si conocemos el disparo de todas las neuronas, seremos capaces de descifrar lo que un animal o una persona están pensando. Y si pudiéramos leer el pensamiento, podríamos llegar incluso a predecir el comportamiento que va a tener una persona."

 "la Neurociencia va a cambiar nuestra manera de percibir la responsabilidad criminal, porque transformará la definición de lo que consideramos normal y anormal o patológico en el cerebro, y por tanto de la responsabilidad de un individuo por sus comportamientos."

La iniciativa europea ha recibido fuertes críticas de científicos que consideran que no está bien concebida ni implementada y que sus objetivos no han sido debidamente consensuados con todos los actores relevantes. Otras voces autorizadas, como la de Marvin Minsky, entienden que es un error empezar grandes proyectos sobre el cerebro humano cuando aún no se ha analizado el de una libélula o de un ratón. "Es como intentar construir un coche cuando aún no has hecho una bicicleta", argumenta el considerado padre de la inteligencia artificial con la libertad que le aportan sus 87 años y su merecida fama de brillante científico. 

En cualquier caso, la inteligencia artificial y el deep learning son dos de los campos que más interés despiertan entre las grandes empresas tecnológicas actualmente. Este interesante artículo del MIT Technology Review detalla la evolución hacia una computación basada en el funcionamiento del cerebro. 

Por poner ejemplos concretos, IBM está apostando fuerte por el cognoscitive computing para hacer frente a los enormes desafíos que plantea el big data. Watson es su mejor embajador. Microsoft no se queda atrás y está trabajando activamente en el reconocimiento de imágenes (una de las tareas más difíciles para una máquina) y de voz, con resultados sorprendentes en éste último caso. Google es uno de los líderes en el campo del deep learning y ha fichado a los mayores expertos mundiales en la materia: Ray Kurzweil, Geoffrey Hinton y Andrew Ng para colaborar en su iniciativa Google Brain. Netflix ha sido uno de los últimos en apuntarse a esta tendencia con la objetivo de mejorar su sistema de recomendaciones de películas. También empiezan a surgir proyectos de inteligencia artificial en formato SaaS, que contribuirán a su difusión en pequeñas y medianas empresas.

Si los avances en estas materias evolucionan de forma similar a como ha ocurrido el campo de la genética, en pocos años podremos ver máquinas capaces de aprender, recordar y ¿pensar?. ¿Estamos preparados para esta nueva generación de replicantes?

Responsabilidad y robots. ¿Hace falta modificar el régimen actual?

Los temas de responsabilidad son uno de los más delicados para los abogados. En el caso de los contratos no siempre es fácil encontrar un equilibrio razonable respecto al nivel de obligaciones y penalizaciones que tiene que asumir cada parte. En cuanto a la responsabilidad extracontractual (torts en derecho anglosajón), es cierto que en España/Europa no llegamos al nivel de locura (perdón, litigiosidad) de EEUU, pero también se plantean numerosos conflictos.

Foto del usuario de Flickr Jeffrey

Por eso no es de extrañar que las cuestiones relativas a responsabilidad sean las que más atención reciban en la presentación de la profesora Lilian Edwards (@lilianedwards) sobre la regulación de los robots (páginas 24 y siguientes). Edwards plantea preguntas del tipo ¿qué pasa si un humanoide militar mata a un civil? ¿y si un robot dedicado a cuidar ancianos le indica que tome más pastillas de las que debería? ¿quién es responsable si un coche sin conductor es hackeado y atropella a un peatón? ¿y si un "robot sexual" aplica las preferencias de un usuario (ej. recibir azotes) a otro y le provoca daños? Muchos de estos casos no van a ocurrir en el corto plazo pero coincido con la profesora Edwards en que conviene empezar a pensar sobre ello.

En el régimen actual, lo primero que habría que determinar es si estamos ante un caso de responsabilidad contractual o extracontractual. Además habría que estudiar si ha existido negligencia en alguno de los intervinientes y valorar la aplicación al caso concreto de la normativa y jurisprudencia sobre protección de los consumidores. Edwards plantea en su presentación si tendría sentido crear una categoría especial de responsabilidad para ciertos casos en los que intervengan robots. 

Ryan Calo se acerca también a la cuestión de la responsabilidad desde una perspectiva diferente. En su trabajo académico de 2010 Open Robotics propone que se conceda un cierto grado de inmunidad a los fabricantes de plataformas robóticas abiertas (entendiendo por tales las que permiten la instalación de aplicaciones o programas de terceros) respecto al uso que los usuarios hagan de las mismas, de manera similar al régimen que existe para los intermediarios de internet. Calo afirma que el mundo de los estándares abiertos plantea definitivamente más retos jurídicos que el de las plataformas propietarias o propietarias pero también genera muchas más oportunidades para los desarrolladores, así como ventajas indudables para los usuarios.

En mi opinión, mientras los robots sean máquinas con autonomía limitada y escasa capacidad de razonar/tomar decisiones, no es necesario que modifiquemos el sistema legal de responsabilidad, al menos en España, porque el que tenemos actualmente sirve para dar respuesta a las situaciones planteadas. Sin embargo la inteligencia artificial es uno de los campos de mayor crecimiento y es posible que en unos años veamos ordenadores que puedan imitar el funcionamiento del cerebro humano y ser capaces pensar autónomamente. Si ese momento llega, no me cabe duda de que tendríamos que replantearnos los esquemas legales de la responsabilidad (y probablemente de casi todo lo demás).

Humanos derrotados por máquinas

El gran escritor austriaco Stefan Sweig murió en 1942 pero si hubiera estado vivo a finales del siglo pasado sin duda hubiera incluido un capítulo adicional en su deliciosa novela "Momentos estelares de la humanidad" para narrar lo que ocurrió el 11 de mayo de 1997.

Había gran expectación ese día en Nueva York porque se jugaba la última partida de la segunda ronda de enfrentamientos entre el gran maestro Gary Kasparov, el mejor jugador de ajedrez del momento, y Deep Blue, la supercomputadora creada por IBM para derrotarle. Kasparov había salido airoso de la primera ronda de partidas ganando 4-2 el año anterior.

Antes de la trascendental partida, el marcador reflejaba un empate a 2.5. Si ganaba la máquina sería la primera vez que un ordenador derrotara a un campeón mundial en un enfrentamiento de varias partidas. Tristemente la emoción duró poco. Kasparov jugaba con negras y abandonó después de sólo 19 movimientos. Momento oscuro para la humanidad. El ruso pidió la revancha pero IBM no sólo declinó el ofrecimiento sino que puso fin al proyecto Deep Blue, que ya había dado los resultados esperados.

foto del usuario de Flickr Francesca Special K

IBM volvió a repetir la historia poco después con Watson, una supercomputadora con un sistema de inteligencia artificial capaz de responder a preguntas planteadas en lenguaje normal, especialmente desarrollada para participar en el programa de TV americano Jeopardy!. En febrero de 2011 Watson consiguió superar a los dos ganadores históricos anteriores Brad Rutter y Ken Jennings. La jugada fue redonda para IBM pues no sólo consiguió una gran repercusión y el premio de 1 millón de dolares, sino que demostró a todo el mundo sus avances con máquinas inteligentes que podían entender y responder a los seres humanos e incluso superarles en entornos reales.

Ahora Watson está dedicado a "poner inteligencia" en la creciente cantidad de datos sin estructurar que se generan online diariamente. De hecho, IBM es una de las compañías más activas en las áreas de computación cognoscitiva e inteligencia artificial, pero de eso trataremos en otro artículo.

Una última historia para terminar. El mundo geek anduvo nervioso varias semanas del mes pasado por las noticias de una máquina que,  haciendose pasar por Eugene Goostman, un joven ucraniano de 13 años, había conseguido pasar el "test de Turing" por primera vez en la historia. El origen de esta famosa prueba se remonta a la predicción que hizo Alan Turing en un trabajo publicado en 1950 "Computing Machinery and Intelligence", en el que afirmaba que en 50 años las computadoras serían tan buenas imitando a los humanos que una persona normal no tendría más de un 70% de probabilidades de hacer una identificación correcta después de 15 minutos de interrogatorio.

foto del usuario de Flickr christopher_brown

Aunque muchos han cuestionado el resultado y no está claro que las máquinas hayan sido capaces de romper el techo que distingue a la inteligencia humana de la artificial, lo que sí es cierto es que ésta ha mejorado exponencialmente en los últimos años y dentro de poco será muy difícil distinguir si estás interactuando con otro ser humano o con un software de última generación, salvo que seas Harrison Ford...

replicante legal arranca hoy con el objetivo de poner algo de luz sobre los temas legales que rodean a estos temas. Espero que lo disfrutéis.