Viaje al interior del cerebro humano.

Cientos de científicos de más de veinte países se han embarcado en el Human Brain Project (HBP), un proyecto a diez años financiado por la Unión Europea para entender la manera de trabajar del cerebro, con la finalidad de desarrollar tecnologías de computación que simulen su funcionamiento así como de crear nuevos tratamientos para las patologías mentales.

Foto del usuario de Flickr neil conway

En paralelo, Estados Unidos está trabajando en un proyecto similar (BRAIN initiative), para comprender cómo el cerebro piensa, aprende y recuerda. Está dotado con un presupuesto de más de 100 millones de dólares y coliderado por Rafael Yuste, cientifico español de la Universidad de Columbia. En una reciente entrevista, Yuste hacía afirmaciones tan inquietantes como las siguientes: 

"Si conocemos el disparo de todas las neuronas, seremos capaces de descifrar lo que un animal o una persona están pensando. Y si pudiéramos leer el pensamiento, podríamos llegar incluso a predecir el comportamiento que va a tener una persona."

 "la Neurociencia va a cambiar nuestra manera de percibir la responsabilidad criminal, porque transformará la definición de lo que consideramos normal y anormal o patológico en el cerebro, y por tanto de la responsabilidad de un individuo por sus comportamientos."

La iniciativa europea ha recibido fuertes críticas de científicos que consideran que no está bien concebida ni implementada y que sus objetivos no han sido debidamente consensuados con todos los actores relevantes. Otras voces autorizadas, como la de Marvin Minsky, entienden que es un error empezar grandes proyectos sobre el cerebro humano cuando aún no se ha analizado el de una libélula o de un ratón. "Es como intentar construir un coche cuando aún no has hecho una bicicleta", argumenta el considerado padre de la inteligencia artificial con la libertad que le aportan sus 87 años y su merecida fama de brillante científico. 

En cualquier caso, la inteligencia artificial y el deep learning son dos de los campos que más interés despiertan entre las grandes empresas tecnológicas actualmente. Este interesante artículo del MIT Technology Review detalla la evolución hacia una computación basada en el funcionamiento del cerebro. 

Por poner ejemplos concretos, IBM está apostando fuerte por el cognoscitive computing para hacer frente a los enormes desafíos que plantea el big data. Watson es su mejor embajador. Microsoft no se queda atrás y está trabajando activamente en el reconocimiento de imágenes (una de las tareas más difíciles para una máquina) y de voz, con resultados sorprendentes en éste último caso. Google es uno de los líderes en el campo del deep learning y ha fichado a los mayores expertos mundiales en la materia: Ray Kurzweil, Geoffrey Hinton y Andrew Ng para colaborar en su iniciativa Google Brain. Netflix ha sido uno de los últimos en apuntarse a esta tendencia con la objetivo de mejorar su sistema de recomendaciones de películas. También empiezan a surgir proyectos de inteligencia artificial en formato SaaS, que contribuirán a su difusión en pequeñas y medianas empresas.

Si los avances en estas materias evolucionan de forma similar a como ha ocurrido el campo de la genética, en pocos años podremos ver máquinas capaces de aprender, recordar y ¿pensar?. ¿Estamos preparados para esta nueva generación de replicantes?

De los wearables al transhumanismo

Chris Dancy pasa por ser la persona más conectada del mundo. Todo empezó hace dos años cuando quería perder peso y empezó a instalarse sensores para entender lo que ocurría en su cuerpo. El año pasado se gastó 40.000 dólares en dispositivos conectados y no sale a la calle sin sus Google Glass, Galaxy Gear, Pebble watch, un par de smartphones de última generación y gadgets similares. Dancy un tipo peculiar, que ha acuñado el término "Big Mother" para referirse al hecho que es él quien tiene el control de la ingente información que generan los aparatos que lleva.

Amal Graafstra no se queda atrás aunque él ha pensado que la mejor manera de estar conectado es implantándose un chip en cada mano. Y no sólo eso sino que ha creado su propia empresa (con el elocuente nombre de Dangerous Things) para comercializar chips implantables bajo la piel. ¿Qué ventajas tienen esos chips subcutáneos? Permiten abrir puertas, cruzar las barreras del metro de Londres o arrancar una moto sin necesidad de llevar nada más encima y sin que lo perdamos o nos lo roben.

Foto del usuario de Flick christopher frier brown

El profesor Kevin Warwick ha llevado el tema un paso más allá. Dirige el proyecto Cyborg y se ha implantado un chip que está conectado a su sistema nervioso y que le permite, entre otras cosas, interactuar con un brazo robótico, un desarrollo que puede ser muy importante para personas con algún tipo de parálisis corporal. El profesor Warwick destaca que su cerebro fue capaz de adaptarse y en sólo seis semanas podía reconocer las señales que procedían de dicho brazo artificial.

Si la tecnología nos ha conducido hasta aquí, es posible pensar que el siguiente movimiento nos llevará hacia microchips con memoria instalados y conectados con el cerebro y con el mundo exterior a través de cualquier tecnología inalámbrica. Si eso fuera así, uniríamos la capacidad de pensar y crear del cerebro humano, con el acceso inmediato a prácticamente cualquier información vía internet (o a la almacenada localmente en la memoria del chip cuando no tuviéramos conectividad). También podríamos llegar a un resultado parecido con una prótesis interna para el oído que se pudiera conectar a internet.

Es decir, estas prótesis o implantes podrían mejorar ostensiblemente no sólo el cuerpo sino también la mente de quien las llevara y convertirle en una suerte de cíborg con unas capacidades muy por encima de la media. Las personas con más recursos tendrían más posibilidades para acceder a estos dispositivos y la brecha social se agrandaría. Pero ¿tiene sentido que personas sin ningún tipo de discapacidad se instalen aparatos que les mejoren su memoria o capacidad intelecual? ¿no les colocaría eso en mucha mejor situación en exámenes, oposiciones u otras pruebas de acceso? ¿podemos tunear nuestro cuerpo sin ningún límite ni control?

Ilustración de DARPA

He dejado para el final la noticia que más me ha llamado la atención. La Agencia de Proyectos de Investigación Avanzados de Defensa americana (DARPA por su siglas en inglés) acaba de anunciar el programa ElectRX, dotado con un presupuesto de 79 millones de dólares y cuyo objetivo es desarrollar pequeños dispositivos electrónicos que interactúen con el sistema nervioso y lo modulen, con la esperanza de curar enfermedades crónicas tanto psicológicas (depresión) como físicas (artritis). Esa técnica se conoce como neuromodulación pero, como se ha publicado en algunos medios, parece que el objetivo final del DARPA no es ese sino la neuroaugmentation, es decir el aumento de capacidad neuronal de los soldados para que se conviertan en super guerreros.

Bienvenidos al transhumanismo. En otro artículo analizaremos los (enormes) retos legales que plantea.

Responsabilidad y robots. ¿Hace falta modificar el régimen actual?

Los temas de responsabilidad son uno de los más delicados para los abogados. En el caso de los contratos no siempre es fácil encontrar un equilibrio razonable respecto al nivel de obligaciones y penalizaciones que tiene que asumir cada parte. En cuanto a la responsabilidad extracontractual (torts en derecho anglosajón), es cierto que en España/Europa no llegamos al nivel de locura (perdón, litigiosidad) de EEUU, pero también se plantean numerosos conflictos.

Foto del usuario de Flickr Jeffrey

Por eso no es de extrañar que las cuestiones relativas a responsabilidad sean las que más atención reciban en la presentación de la profesora Lilian Edwards (@lilianedwards) sobre la regulación de los robots (páginas 24 y siguientes). Edwards plantea preguntas del tipo ¿qué pasa si un humanoide militar mata a un civil? ¿y si un robot dedicado a cuidar ancianos le indica que tome más pastillas de las que debería? ¿quién es responsable si un coche sin conductor es hackeado y atropella a un peatón? ¿y si un "robot sexual" aplica las preferencias de un usuario (ej. recibir azotes) a otro y le provoca daños? Muchos de estos casos no van a ocurrir en el corto plazo pero coincido con la profesora Edwards en que conviene empezar a pensar sobre ello.

En el régimen actual, lo primero que habría que determinar es si estamos ante un caso de responsabilidad contractual o extracontractual. Además habría que estudiar si ha existido negligencia en alguno de los intervinientes y valorar la aplicación al caso concreto de la normativa y jurisprudencia sobre protección de los consumidores. Edwards plantea en su presentación si tendría sentido crear una categoría especial de responsabilidad para ciertos casos en los que intervengan robots. 

Ryan Calo se acerca también a la cuestión de la responsabilidad desde una perspectiva diferente. En su trabajo académico de 2010 Open Robotics propone que se conceda un cierto grado de inmunidad a los fabricantes de plataformas robóticas abiertas (entendiendo por tales las que permiten la instalación de aplicaciones o programas de terceros) respecto al uso que los usuarios hagan de las mismas, de manera similar al régimen que existe para los intermediarios de internet. Calo afirma que el mundo de los estándares abiertos plantea definitivamente más retos jurídicos que el de las plataformas propietarias o propietarias pero también genera muchas más oportunidades para los desarrolladores, así como ventajas indudables para los usuarios.

En mi opinión, mientras los robots sean máquinas con autonomía limitada y escasa capacidad de razonar/tomar decisiones, no es necesario que modifiquemos el sistema legal de responsabilidad, al menos en España, porque el que tenemos actualmente sirve para dar respuesta a las situaciones planteadas. Sin embargo la inteligencia artificial es uno de los campos de mayor crecimiento y es posible que en unos años veamos ordenadores que puedan imitar el funcionamiento del cerebro humano y ser capaces pensar autónomamente. Si ese momento llega, no me cabe duda de que tendríamos que replantearnos los esquemas legales de la responsabilidad (y probablemente de casi todo lo demás).

¿Pueden tener derechos los robots?

La pregunta suena absurda y la respuesta parece obvia: NO.

La abogada Kate Darling (@grok_) no lo tiene tan claro y desde hace meses lleva a cabo workshops para estudiar la interacción de personas con los llamados "robots sociales" (máquinas autónomas con forma humana/animal que se comunican e interactuan con las personas a un nivel emocional e incluso aprenden de ellas).

Foto del usuario de Flickr Travis Isaacs

El experimento que hace Kate es muy curioso: primero reparte entre la audiencia varios Pleos como el de la imagen y deja que la gente juegue con los pequeños dinosarios durante un rato. Luego les da cuchillos y artilugios similares y les pide que los destrocen, cosa que prácticamente nadie está dispuesto a hacer, lo cual es llamativo porque seguramente ninguno de ellos tendría ningún problema en tirar a la basura un modelo antiguo de coche teledirigido. 

¿Por qué ocurre eso? Quizás la explicación es que los robots sociales tienen forma humana o animal y pueden mostrar un comportamiento autónomo que los hace parecer "vivos" y ello provoca una reacción emocional en nosotros, como se ha demostrado en un estudio reciente.

Basándose en los resultados de tus experimentos, Darling propone llegar todavía más lejos y pone sobre la mesa la conveniencia de otorgar ciertos derechos a estos robots sociales, como se ha hecho en la legislación para prevenir el maltrato animal. Su razonamiento es interesante ¿cuál es la razón de ser de esta normativa? ¿se trata sólo de evitar su sufrimiento? Si así fuera ¿por qué se protege a los perros pero no a los insectos? Quizá no se trate tanto del maltrato hacia los animales sino de nuestra reacción emocial frente a ese acto de crueldad, concluye Kate para justificar su tesis. En mi opinión el planteamiento es cuestionable y no lo comparto porque podría llevar al absurdo de tener que atribuir derechos a cualquier máquina u objeto que nos suscite algún tipo de empatía.

De forma similar, Jincey Lumpkin plantea en una charla de TED el tema de derechos de los robots, en este caso desde la perspectiva sexual. La ponencia empieza con una pregunta interesante ¿cuándo un robot deja de ser una máquina y se convierte en "alguien"? para, inmediatamente, plantear otra cuestión más agresiva ¿puede un robot ser violado? Hay que aclarar que no se está refiriendo a muñecas hinchables más o menos sofisticadas sino a un humanoide llamado Roxxxy dotado de un cierto grado de inteligencia artificial que le permite tener conversaciones, responder al tacto y recordar tus gustos. 

¿Puede prestar su consentiemiento un humanoide de estas características? En el caso de que no tenga opción de negarse al acto sexual, Jincey sugiere que sería un supuesto parecido al de la esclavitud, que debería estar prohibido. Creo que de nuevo se están llevando las cosas al extremo y que para poder empezar a plantearse el otorgar algún tipo de personalidad a dichos robots, antes deberían demostrar un grado de autonomía y capacidad de razonamiento muy superior al que tienen ahora.

Notas sobre la privacidad de drones y robots domésticos.

Foto del usuario de Flickr epSos.de

¿Qué es un robot? Estoy de acuerdo con la opinión de Gigaom de que es difícil de dar una respuesta precisa porque evoluciona constantemente. 

Margot Kaminski (@MargotKaminski) propone una definición interesante: es un software con cuerpo. Margot es una abogada y profesora de Yale, especializada en nuevas tecnologías que hace unos meses dió una charla en el Berkman Center for Internet and Society de Harvard sobre robots y privacidad. 

El estudio que da origen a la charla de Kaminski tiene por objeto la regulación de los drones, que es uno de los temas legales más polémicos actualmente en EEUU. Desde hace meses, miles de pequeños aviones no tripulados equipados con cámaras de grabación de foto/vídeo están invadiendo el cielo de San Francisco y otras ciudades y espacios abiertos. El regulador aeronáutico nacional (FAA) está siendo objeto de numerosas críticas por su retraso a la hora de aprobar una regulación adhoc, que no se espera hasta septiembre de 2015. Muchos Estados han considerado que se trata de un tema urgente y han aprobado sus propias normas sin esperar a conocer las directrices de dicha agencia. Lo curioso es que la FAA no tiene competencia ni experiencia en la regulación de cuestiones relativas a privacidad, que es es uno de los aspectos más controvertidos de los drones.

En cualquier caso, la problématica que genera el vuelo de drones en espacio abiertos estaría dentro de lo que Kaminski denomina "privacidad en público" y es de natureleza distinta a la que empezará a surgir cuando los hogares se llenen de robots domésticos tipo Paro o Asimo, cuya finalidad es cuidar de niños y ancianos o simplemente entretener y/o ayudar en las labores familiares. Otro ejemplo de robot similar sería Jibo, que puede realizar videollamadas, mostrar imágenes en su pantalla, reconocer caras y objetos, leer cuentos y hacer fotos cuando lo pidas. También actúa como asistente personal para recordarte tareas pendientes y aprende de tus gustos gracias a su algoritimo de inteligencia artificial.

Foto del usuario de Flickr Denise Cross Photography

Esa es la cara amable pero no podemos perder de vista la indudable pérdida de intimidad que supone tener una máquina sincronizada con tu móvil, conectada a internet y grabando (al menos potencialmente) todo lo que pasa en tu casa. Presumo que la información no se almacenará en el dispositivo sino en la nube. Al momento me surgen un buen número de preguntas: 

• ¿qué datos van a tener y qué uso hará la empresa de esos datos? 

• ¿se podrá acceder a ellos y borrarlos efectivamente? 

• ¿cómo se va a configurar el aparato teniendo en cuenta que se trata de un dispositivo de uso familiar, que puede ser utilizado por menores de edad o ancianos? ¿cómo podemos estar seguros de que no se explota su espacial vulnerabilidad?

• ¿tendrá un sistema operativo abierto que admita aplicaciones de terceros? 

• ¿qué medidas de seguridad se van a implementar para impedir que sea hackeado? 

• ¿habrá que informar a los amigos que entren en tu casa de que pueden ser grabados o fotografiados?

•  ¿podrán ser utilizados como prueba válida en un juicio?

La privacy by design y el sentido común parecen más necesarios que nunca en este tipo de productos/servicios.

 

Retos éticos y legales que plantea un futuro robótico

Me gusta Ryan Calo (@rcalo). Le sigo desde hace meses y me parece el abogado que mejor entiende el futuro que nos está esperando a la vuelta de la esquina. Otro día hablaré de alguno de sus brillantes trabajos académicos.

Foto del usuario de Flickr oskay

Hoy quiero comentar el foro en el que intervino hace unas semanas en la facultad de derecho de Berkeley junto a varios expertos para tratar los retos morales y legales que plantea la irrupción en la sociedad de robots de distintos tipos. Lamentablemente no tenemos el vídeo de la sesión pero sí se puede escuchar el audio aquí (una hora y media, en inglés).

En la sesión se abordaron algunos temas polémicos como por ejemplo si sería ético asignar robots con aspecto de niños a pedófilos, supondiendo que esa medida pudiera erradicar o disminuir el problema. Está demostrado que muchos pedófilos no están rehabilitados al salir de la cárcel y siguen suponiendo un problema para la sociedad. En esas circunstancias, ¿tiene sentido hacer una prueba piloto para ver si la medida puede ser efectiva?

El auge de los robots puede forzar al derecho penal a tener que replantearse cuestiones importantes como el concepto de mens rea o intencionalidad. Actus non facit reum nisi mens sit rea, reza el aforismo latino. La mente también tiene que ser culpable, es decir tiene que existir una intención de cometer el acto delictivo. Calo puso un interesante ejemplo a este respecto: Darius Kazemiha ha creado un sotware que hace compras aleatorias en Amazon. ¿Qué ocurriría si su programa informático compra algo que es ilegal en el Estado en el que vive, como por ejemplo los caramelos con alcohol en Massachusetts? ¿Sería culpable Darius? Probablemente no respondo yo, pero me temo que iba a tener que dar muchas explicaciones cuando el FBI llamara a su puerta.

Foto del usuario de Flickr Manish Prabhune

En el foro mencionado también se habló de Cupido, pero no del Dios del amor sino de la legalidad de máquinas como Chaotic Unmanned Personal Intercept Drone (CUPID), el dron que ha desarrollado la empresa Chaotic Moon y que sirve para patrullar zonas determinadas, identificar potenciales intrusos y dispararles un rayo paralizante. Desert Wolf, la empresa que comercializa Skunk Riot Control Copter ha optado por otra solución: un dron que dispara balas de plástico y lanza spray de pimienta a grandes aglomeraciones de personas difíciles de controlar, como por ejemplo una huelga violenta. Prefiero no imaginar  el potencial destructivo de esos aparatos en manos de milicias asesinas o gobiernos sin escrúpulos.

¿Y si resulta que finalmente no tenemos que morir?

Según el famoso dicho, la única verdad en la vida es que todos tenemos que morir. De hecho, nuestro sistema legal está basado en la premisa de que los seres humanos nacemos y morimos. Hay que tener en cuenta que la pena de muerte es el mayor castigo se puede imponer en derecho penal (en los países en los que está permitida) y los derechos y obligaciones civiles desaparecen cuando una persona fallece (con algunas excepciones como podría ser el derecho de autor que pervive 70 años desde la muerte del creador de la obra)

 

foto del usuario de Flickr david.orban

¿Qué pasaría si ese axioma se demostrara incorrecto y algunos individuos fueran capaces de alcanzar la inmortalidad? ¿Imposible? No es lo que piensa la quinta persona más rica del mundo, el CEO de Oracle Larry Ellison, que dona anualmente 40 millones de dólares a la fundación que lleva su nombre y que se dedica a intentar acabar con la mortalidad. Otros millonarios de Silicon Valley, como los cofundadores de Google (Sergey Brin) o de Paypal (Peter Thiel) también odian la muerte y están financiando la Methuselah Foundation, cuyo creador Aubrey de Grey sostiene que "la primera persona que alcanzará los 1.000 años está viva en este momento"

Uno puede pensar que esto es sólo una moda que ha calado entre los millonarios californianos del mundo de la tecnología, que parecen vivir siempre en una burbuja. ¿Alguien conoce a Dmitry Itskov? Éste magnate ruso de 33 años tiene un plan grandioso: construir robots que sean capaces de almacenar la mente humana y mantener su consciencia en funcionamiento. El proyecto se llama Avatar (¡otra vez! aunque esta idea es anterior a la del Pentágono) y será desarrollado en fases, siendo la última de ellas la aparición de hologramas que sustituirán a los cuerpos tangibles y que serán capaces de alojar la consciencia humana.

Itskov empezó la aventura en Rusia en solitario y ahora se está asociando con científicos punteros a nivel mundial. Muchos de ellos se reunieron en Nueva York en junio de 2013, en un foro llamado Global Future 2045, para discutir sobre robots, telepresencias antropomórficas, neuroingeniería, neo-humanidad, inmortalidad cibernética, etc.

Ray Kurzweil es uno de los expertos que participaron en el congreso de Nueva York. De hecho, lo que hubiera sido una sorpresa hubiera sido no verle por allí porque es ponente habitual en este tipo de eventos. Kurzweil es un inventor americano que defiende a ultranza el futurismo y que predica sus ideas sobre tecnologías para alargar la vida, nanotecnología, robots, inteligencia artifical o biotecnología en su página web y en sus numerosas charlas.

Kurzweil es también uno de los principales promotores de la idea de singularidad (también conocida como singularidad tecnológica), que en palabras de la Wikipedia es un acontecimiento futuro en el que se predice que el progreso tecnológico y el cambio social se acelerarán debido al desarrollo de inteligencia sobrehumana, modificando nuestro entorno de manera radical o incluso, la naturaleza humana. Evidentemente no todo el mundo comparte estas ideas tan disruptivas pero Kurzweil, junto con Peter Diamandis y otras personas con grandes recursos fundaron hace unos años la Singularity University, cuya misión declarada es "educar, inspirar y apoderar a los líderes para que apliquen tecnologías exponenciales que ayuden a afrontar los grandes retos a los que se enfrenta la humanidad"

Parafraseando la famosa canción de REM, nos podemos preguntar si está llegando el fin del mundo tal y como lo conocemos. No está claro pero creo que los reguladores y legisladores deberían empezar a tomarse en serio estas cuestiones.

¿Estamos preparados para tener jefe algorítmico?

El número de tareas que son desarrolladas por máquinas es cada vez mayor en nuestros días. Los avances en capacidad de computación junto con el acceso a grandes cantidades de datos (big data) están haciendo que las máquinas sean cada vez más potentes. Como hemos visto en artículos anteriores, los ordenadores empiezan a tener cada vez más "inteligencia" y son capaces de pilotar coches o aviones de forma similar a como lo hacen los seres humanos.

¿Quiere decir lo anterior que las computadoras inteligentes pueden desempeñar trabajos cotidianos mejor que nosotros? Un reciente estudio de la universidad de Oxford ha llegado a la preocupante conclusión de que casi la mitad de los ocupaciones analizadas en EEUU están en riesgo de ser desarrolladas por máquinas en un plazo de varios años. Parece que cada vez vamos a ver más Baxters a nuestro alrededor aunque, lógicamente, cuando más creativo y artístico sea el trabajo, menor riesgo de sustitución.

Los abogados podemos estar contentos porque salimos en el puesto 115 en un listado de 702 trabajos, siendo el número 1 la ocupación con menor riesgo de automatización. Sin embargo el estudio ha detectado una tendencia creciente que desplaza a asistentes y a abogados de baja cualificación por programas con sofisticados algoritmos, que son capaces de rastrear y analizar una cantidad ingente de información y bases de datos y presentarlos de una manera ordenada.

foto del usuario de Flickr Riebart

Foxconn ilustra perfectamente esa tendencia hacia la automatización. La mayor compañía privada china anunció recientemente que en breve empezará a utilizar robots para la producción del iPhone6, lo cual es un poco irónico porque esa empresa tiene una reputación terrible por las constantes quejas de trato discriminatorio, condiciones de trabajo penosas que han provocado suicidios, abusos de los mandos, salarios bajos y contaminación medioambiental.

Encontrar trabajo estos días no es fácil. Una pista que puede ayudar es entender que muchas grandes empresas utilizan un software especial para filtrar el aluvión de CVs que reciben cada vez que publican una vacante. De hecho, algunas compañías hacen los candidatos tengan que interactuar con una máquina diseñada para medir no sólo el lenguaje verbal sino también el no verbal. Prueba a quejarte y es muy probable que acabes hablando con uno de los miles de chat bots (también conocidos como asistentes virtuales) que se ocupan de los centros de atención al cliente.

Peor sería tener un jefe robot, ¿no? Pues también eso es una realidad con la aparición de proyectos como Amazon Mechanical Turk. Se trata de una herramienta que publica las tareas disponibles (cosas apasionantes como introducir los horarios de apertura de un restaurante o revisar fotos de ropa). A continuación, un algoritmo, basándose en el desempeño anterior, colocará a la persona más arriba o más abajo de la lista de candidatos para los trabajos y le ajustará la retribución.

 Aquí se empiezan a plantear cuestiones jurídicas delicadas: ¿puede ese jefe algorítmico no sólo contratar sino también evaluar e incluso despedir empleados? Es decir ¿cuánta autonomía estamos dispuestos a conceder a este tipo de soluciones? Uno de los grandes despachos de abogados laboralistas americanos, Littler, ha creado hace meses un grupo especial de letrados dedicados a "robotics" y ha publicado un interesante documento sobre las áreas de práctica laboral que más se van a ver más afectadas por estos nuevos desarrollos tecnológicos.

Valoración de los killer robots.

En un reciente artículo (en inglés) apunté la problemática de los llamados killer robots o robots asesinos. Partidarios y detractores argumentan sobre la conveniencia de autorizarlos o prohibirlos. El asunto ha llegado hasta la ONU, donde un grupo de expertos analizó en junio por primera vez los aspectos más relevantes del asunto. En dicho artículo hay un link a todas las ponencias (texto y audio) de la reunión.

foto del usuario de Flickr **RCB**

Entiendo perfectamente las ventajas que tiene sustituir a seres humanos por máquinas en el campo de batalla, sobre todo en las llamadas "tareas 3D" (del inglés: Dull-repetitivas, Dirty-sucias/contaminantes y Dangerous-peligrosas). No tiene sentido que sea un ser humano el que arriesgue su vida en la desactivación de explosivos o ayudando en zonas con contaminación radioactiva. Sin embargo, considero que ello no puede llevar a justificar la proliferación de soldados-robots autónomos o en los que casi no exista supervisión humana.  

Homo homini lupus. La frase lapidaria de Plauto se ve refrendada todos los días. Pero el ser humano también es capaz de empatizar y tener misericordia y si eliminamos esas cualidades y dejamos en manos de máquinas el uso de la violencia, cruzamos un Rubicón del que no hay vuelta atrás. Creo sinceramente que la sociedad ahora mismo no está preparada para aceptar Avatares como los que plantea el Pentágono y que los robots se deben ir incorporando progresivamente al ejército para realizar tareas auxiliares y siempre supervisadas por un ser humano. En resumen, mi tesis es que los killer robots se deben prohibir hasta que estemos seguros de que se dan las circunstancias adecuadas para autorizarlos.

La tecnología se puede utilizar para hacer el mal pero también puede resolver muchos de los problemas a los que se enfrenta la humanidad. E igual que terminé de una forma positiva el artículo que cito al principio, me gustaría finalizar éste con otro ejemplo de lo conoce en inglés como "drones for good", es decir el uso positivo que se puede hacer de los drones o robots, en este caso para asistir a personas mayores.

La tecnología va casi siempre por delante de la ley

Imagina que un amigo te llama hace diez años y te invita a dar una vuelta en un coche sin volante ni pedales. Aunque esa persona estuviera trabajando en una start up puntera en Silicon Valley, es muy probable que pensaras que se había vuelto loco. Ahora echa un ojo a la foto de abajo. Parece un juguete pero es el nuevo prototipo de coche sin conductor presentado por Google en mayo.

 

foto del usuario de Flickr sam_churchill

Google asegura que sus coches no tripulados han sido capaces de completar más de un millón de kilómetros de conducción autónoma sin incidentes relevantes. Pero ¿eso es legal? Depende. En España no pero en EEUU sí en algunas zonas. Nevada fue el primer estado en conceder en mayo de 2012 una licencia "sólo para pruebas", después del intenso lobby que llevó a cabo el gigante de internet. Florida y California también permiten actualmente vehículos no tripulados en sus carreteras.

Estamos ante un claro ejemplo de como los desarrollos tecnológicos suelen ir muy por delante de la regulación vigente. Hace un siglo, cuando los primeros Ford T empezaron a invadir las carreteras americanas, ningún legislador podía presumir que los coches se conducirían solos. La situación es diferente ahora y, antes o después, la normativa se tendrá que adaptar a estos cambios.

Jeff Bezos presume de ir siempre un paso por delante de sus competidores. Lo hizo de nuevo cuando anunció el nuevo sistema de entrega Prime Air. Amazon afirma que sus drones podrán entregar paquetes en menos de 30 minutos aunque ellos mismos admiten que parece ciencia ficción. De nuevo la tecnología está preparada pero ahora mismo dicho servicio no es legal en USA como la propia FAA (el regulador de aviación americano) se ha encargado de destacar. De hecho, de momento la FAA sólo ha concedido permiso a la petrolera BP para operaciones comerciales con drones con la finalidad de monitorizar sus emplazamientos.

Es curioso porque mientras la FAA está intentando encontrar el equilibrio adecuando, en España se acaba de aprobar una regulación especial para regular los drones, con la finalidad de que este sector emergente pueda desarrollar todo el potencial. De acuerdo con esta normativa, los drones no podrán sobrevolar nucleos urbanos y tendrán que llevar una placa con sus datos identificativos. Además, los que pesen más de 25 kilos tendrán que estar inscritos en el registro de matrícula de aeronaves y disponer del correspondiente certificado de aeronavegabilidad.

En cualquier caso, bienvenida sea una legislación, aunque sea temporal, que establece unas reglas claras para unos aparatos que cada vez son más fáciles de encontrar y manejar.

Humanos derrotados por máquinas

El gran escritor austriaco Stefan Sweig murió en 1942 pero si hubiera estado vivo a finales del siglo pasado sin duda hubiera incluido un capítulo adicional en su deliciosa novela "Momentos estelares de la humanidad" para narrar lo que ocurrió el 11 de mayo de 1997.

Había gran expectación ese día en Nueva York porque se jugaba la última partida de la segunda ronda de enfrentamientos entre el gran maestro Gary Kasparov, el mejor jugador de ajedrez del momento, y Deep Blue, la supercomputadora creada por IBM para derrotarle. Kasparov había salido airoso de la primera ronda de partidas ganando 4-2 el año anterior.

Antes de la trascendental partida, el marcador reflejaba un empate a 2.5. Si ganaba la máquina sería la primera vez que un ordenador derrotara a un campeón mundial en un enfrentamiento de varias partidas. Tristemente la emoción duró poco. Kasparov jugaba con negras y abandonó después de sólo 19 movimientos. Momento oscuro para la humanidad. El ruso pidió la revancha pero IBM no sólo declinó el ofrecimiento sino que puso fin al proyecto Deep Blue, que ya había dado los resultados esperados.

foto del usuario de Flickr Francesca Special K

IBM volvió a repetir la historia poco después con Watson, una supercomputadora con un sistema de inteligencia artificial capaz de responder a preguntas planteadas en lenguaje normal, especialmente desarrollada para participar en el programa de TV americano Jeopardy!. En febrero de 2011 Watson consiguió superar a los dos ganadores históricos anteriores Brad Rutter y Ken Jennings. La jugada fue redonda para IBM pues no sólo consiguió una gran repercusión y el premio de 1 millón de dolares, sino que demostró a todo el mundo sus avances con máquinas inteligentes que podían entender y responder a los seres humanos e incluso superarles en entornos reales.

Ahora Watson está dedicado a "poner inteligencia" en la creciente cantidad de datos sin estructurar que se generan online diariamente. De hecho, IBM es una de las compañías más activas en las áreas de computación cognoscitiva e inteligencia artificial, pero de eso trataremos en otro artículo.

Una última historia para terminar. El mundo geek anduvo nervioso varias semanas del mes pasado por las noticias de una máquina que,  haciendose pasar por Eugene Goostman, un joven ucraniano de 13 años, había conseguido pasar el "test de Turing" por primera vez en la historia. El origen de esta famosa prueba se remonta a la predicción que hizo Alan Turing en un trabajo publicado en 1950 "Computing Machinery and Intelligence", en el que afirmaba que en 50 años las computadoras serían tan buenas imitando a los humanos que una persona normal no tendría más de un 70% de probabilidades de hacer una identificación correcta después de 15 minutos de interrogatorio.

foto del usuario de Flickr christopher_brown

Aunque muchos han cuestionado el resultado y no está claro que las máquinas hayan sido capaces de romper el techo que distingue a la inteligencia humana de la artificial, lo que sí es cierto es que ésta ha mejorado exponencialmente en los últimos años y dentro de poco será muy difícil distinguir si estás interactuando con otro ser humano o con un software de última generación, salvo que seas Harrison Ford...

replicante legal arranca hoy con el objetivo de poner algo de luz sobre los temas legales que rodean a estos temas. Espero que lo disfrutéis.