Explorando el transhumanismo y la "personalidad mecánica"

¿Qué nos hace humanos? Hemos escuchado esa pregunta muchas veces y la respuesta suele enfocarse a lo (poco) que nos diferencia de los primates. Apenas el 1% de nuestro ADN es distinto, lo que no parece mucho después de más de seis millones de años de evolución separada.

El caso es que también podemos formular la misma cuestión en relación a qué nos distingue de las máquinas. La respuesta podía ser obvia hace unos años pero hoy no lo es tanto. Dos interesantes artículos, uno de ExtremeTech sobre transhumanismo y otro reciente de la BBC sobre cíborgs plantean temas sobre los que merece la pena reflexionar.

Tomada de Flickr, usuario khalid Albaih

En esencia, el transhumanismo propone trasformar y mejorar sus capacidades físicas y psíquicas del ser humano a través de la tecnología. Para los defensores de este movimiento, es perfectamente legítimo "instalarse" cualquier tipo de prótesis o implante que potencie el rendimiento del cuerpo. A día de hoy no hay normas que impidan a esas personas convertirse en cíborgs. Tenemos cada vez más ejemplos y en un artículo reciente de Replicante mencionamos a varios.

Ahora imaginemos que la ciencia y la tecnología son capaces de crear algo parecido a un Robocop en un futuro cercano. ¿Sería una máquina o una persona? Formulada desde un punto de vista jurídico la cuestión sería: ¿si me instalo multitud de elementos robóticos/artificiales en mi cuerpo, puedo  en algún momento perder mi personalidad humana y convertirme en máquina? El Código Civil español dice que la personalidad se extingue por la muerte de la persona. Debemos entender que se refiere a la muerte cerebral porque el cuerpo no puede sobrevivir sin la mente. A la inversa sí es posible y es lo que propone el profesor Kevin Warwick: olvidarse del cuerpo y dirigir los esfuerzos y recursos que ahora dedicamos a curar enfermedades como el cáncer, a encontrar formas de mantener el cerebro vivo fuera de nuestro cuerpo.

Esa afirmación podría parecer una boutade si no fuera porque científicos tan prestigiosos como Stephen Hawking o Marvin Minsk está hablando de ir varios pasos más allá y coinciden en que será posible alcanzar la inmortalidad (o una cierta forma de ella) mediante la copia de nuestro cerebro, al estilo de la reciente película Trascendence. Siento disentir de la opinión de ambos sabios pero creo que no sería buena idea y que traería más problemas que ventajas.

Vamos a plantear ahora la pregunta desde otro ángulo ¿podrían en algún momento las máquinas ser consideradas personas? Para poder contestar conviene definir antes cuáles son los rasgos característicos de los seres humanos. Dejando al margen aspectos religiosos y espirituales, podríamos enumerar: la memoria, los sentimientos, la consciencia de uno mismo y la capacidad de comunicarse mediante el lenguaje, de razonar, de aprender, de crear, entre otros.

Sé que a día de hoy no ocurre pero ¿si un robot con apariencia humana llegara en algún momento a tener todos esos elementos le consideraríamos persona? Si acudimos de nuevo al Código Civil la respuesta es claramente negativa. El artículo 30 establece que "la personalidad se adquiere en el momento del nacimiento con vida, una vez producido el entero desprendimiento del seno materno". De acuerdo con esta norma, un robot nunca podrá tener personalidad civil (y evidentemente tampoco jurídica) pero creo que tendría sentido desarrollar una nueva categoría de personalidad, a la que podríamos llamar "personalidad mecánica", para englobar a las máquinas que sean capaces de crear y de tomar decisiones y razonar autónomamente. De otra manera veo muy difícil dar una respuesta coherente a las frecuentes cuestiones de responsabilidad (y, en menor medida de propiedad intelectual) que se plantearán en cuanto estén disponibles comercialmente.

robolaw (III): el debate sobre las mejoras en el cuerpo humano y algunas reflexiones sobre robots cirujanos y robots cuidadores

El informe de robolaw dedica tres apartados a estudiar la problemática de las prótesis robóticas, la cirugía asistida por máquinas y los robots dedicados al cuidado de ancianos y personas discapacidas.

El primero de los tres es el que me parece más interesante, sobre todo la cuestión del human enhancement o "mejora artificial" del cuerpo humano. Nadie pone en duda que alguien que ha sufrido una amputación de un miembro como consecuencia de un accidente, pueda recuperar las funcionalidades perdidas con una prótesis. El debate está en qué hacemos con quien -previamente enfermo o no- quiere instarse una prótesis que (artificialmente) le habilite para ver u oir excepcionalmente bien, o tener mucha más fuerza, velocidad, resistencia, memoria o inteligencia que la persona más capaz o incluso que le permita adquirir capacidades no disponibles para los humanos, como el caso del primer cyborg reconocido por un gobierno, Neil Harbisson, que puede "escuchar colores" que no están al alcance de nadie más.

Foto de Neil Harbisson tomada de Wikimedia Commons. Autor Moon Ribas

A este respecto, el informe sugiere abrir un amplio debate social y plantea varias preguntas relevantes: ¿qué formas de intervención en el cuerpo estamos preparados para consentir? ¿vamos a poner límites más allá de la seguridad y la viabilidad tecnologica? ¿debemos considerar cuestiones biológicas o también psicológicas y de identidad personal? ¿quién y bajo qué límites, circunstancias o principios estará habilitado para tomar la decisión de "mejorarse artificialmente"?

Para arrojar algo de luz sobre dichas cuestiones, robolaw propone acudir a los principios recogidos en la Carta Europea de los Derechos Humanos (ECFR por sus siglas en inglés). La dignidad humana aparece en el artículo 1 de la ECFR pero se suele definir de forma negativa, en el sentido de evitar conductas que la menoscaben y por tanto no ofrece cobertura para justificar que una persona sana se coloque una prótesis que mejore radicalmente su rendimiento. Así mismo, el derecho a la salud no implica que se pueda mejorar el propio cuerpo sin límite. Finalmente, el documento sugiere que el principio de igualdad y no discriminación se tome en consideración para prevenir que los más ricos se aprovechen de estas tecnologías para convertirse en super hombres

Por otro lado, el informe hace un planteamiento novedoso y propone utilizar el principio de precaución del artículo 191 del Tratado de Funcionamiento de la UE (TFEU), pensado inicialmente para la protección del medio ambiente. Aplicado a este caso sería: dado el desconocimiento actual de sus efectos a medio y largo plazo y las profundas implicaciones filosóficas, éticas e incluso religiosas, parece aconsejable rechazar las técnicas de mejora humana más radicales (innovación responsable) y no dejar que sea el individuo sino un comité médico quien decida que prótesis se debe instalar, una vez analizadas las características del caso concreto. En aplicación de lo anterior, el informe concluye que las prótesis deberían ser herramientas para devolver a las personas las funcionalidades que hayan perdido pero no instrumentos de mejora.

En cuanto a la cirugía asistida por máquinas, robolaw se centra en la problemática que generan robots como da Vinci. En la foto de abajo se puede ver que los elementos principales son la/s consola/s desde la que operan los cirujanos y la unidad que está en contacto con el paciente, que consta de tres brazos articulados y una cámara endoscópica.

copyright 2014 Intuitive Surgical Inc

©[year] Intuitive Surgical, Inc.

El hecho de que cirujano y paciente estén físicamente separados y que el doctor opere a través del robot tiene varias implicaciones destacadas en el informe:

- la responsabilidad no debería ser conjunto de todos los intervinientes en la operación sino que se debería atribuir al doctor/es que maneje/n la consola principal, dado que es quien tiene el control prácticamente único de la situación.

- como el médico puede estar en otro país (telemedicina), se recomienda que la Comisión Europea adopte unas reglas que uniformicen el régimen de responsabilidad así como los estándares de seguros, para evitar situaciones de conflicto de leyes aplicables, al menos en Europa.

- se recomienda que dichos robots tenga una "caja negra" que registre todos los comandos recibidos, los procesos ejecutados por la máquina y cualquier error del sistema u otra información relevante, para facilitar la determinación de responsabilidad en caso de fallos que se puedan producir durante las operaciones.


Por último, la parte del informe relativa a los robot cuidadores es la que me parece la más floja. Se centra en la asistencia a ancianos y discapacitados sin tener en cuenta las situaciones que plantearía el cuidado de niños, ni aportar nada relevante. Tampoco aborda la problemática de los robots con emociones (como Pepper o Baby X) y la influencia que éstos pueden ejercer sobre los menores de edad y las personas más sensible y vulnerables.

Robolaw (II): coches sin conductor

Los coches que conducimos actualmente están incorporando gradualmente funcionalidades que nos facilitan la conducción y mejoran nuestra seguridad (entre otras podemos mencionar: aviso de cambio involuntario de carril, sistema de frenado de emergencia, regulador/limitador de velocidad, aparcamiento asistido, etc.)

No hemos llegado todavía a la situación que se describe en el video anterior de Volvo pero Google y los grandes fabricantes están trabajando para que los coches sin conductor sean una realidad comercial en menos de 10 años. Podemos intuir que serán como "supercomputadoras con ruedas", que incorporarán un software muy sofisticado (parece probable que la "inteligencia" resida en los coches más que en las carreteras), así como mapas en tres dimensiones, sensores de todo tipo para evitar choques e incluso comunicación entre vehículos (projecto Car-to-X alemán).

Robolaw dedica el segundo capítulo de su informe a los coches sin conductor. En primer lugar analiza las ventajas que aportaría, entre ellas la reducción de accidentes (el 95% de los mismos está causado por un error humano, con una tasa anual de 30.000 muertos y 1.5 millones de heridos), la disminución del consumo de combustible, el incremento de la movilidad de personas con problemas de visión u otra discapacidad y la mejora del medio ambiente, por el probable impulso que esta tecnología supondría para los sistemas de compartición de vehiculos.

Foto de Wikimedia Commons. Autor Steve Jurvetson

A continuación, el documento trata el dilema ético conocido como trolley paradox, que el profesor Patrick Lin desarrolla en su artículo "The robot car of tomorrow may just be programmed to hit you". El supuesto teórico es el siguiente: imaginemos que el conductor de un tren que sufre una avería tiene que decidir entre desviar el tren y matar a un niño o mantener la dirección y matar a cinco personas. Otro parecido sería: si el accidente es inevitable y el resultado va a ser atropellar un motorista ¿evitamos al que va sin casco porque es más vulnerable y elegimos chocarnos contra el que lleva casco, penalizando así al que cumple las normas? Lin argumenta que ese tipo de decisiones no podemos programarlas previamente, ni dejarlas a la decisión de sistemas autónomos inteligentes puesto que implican un juicio moral y por ello aboga porque en los coches siempre haya una presencia humana que pueda tomar el control en ese tipo de situaciones.

Otro asunto interesante analizado en el documento es el equilibrio entre seguridad y libertad. El ejemplo típico sería el diseño del coche autónomo para que nunca superara los límites de velocidad establecidos o para que sólo fuera capaz de ejecutar ciertas acciones. ¿Aceptamos esta tecnoregulación o dejamos algo de libertad al individuo para configurar su vehículo?

El análisis legal se centra en el tema de la responsabilidad por los accidentes que se puedan producir y plantea  una pregunta previa ¿qué nivel de seguridad vamos a exigir de los coches autónomos? ¿El mismo que el de un conductor medio, el de un conductor sobresaliente u otro? La cuestión es relevante porque dónde coloquemos el listón de seguridad exigible y el de responsabilidad asociado, puede afectar a la disponibilidad comercial de esta nueva tecnología. Es el chilling effect que comentamos en el artículo anterior. Si lo situamos muy alto, los fabricantes no se arriesgarán a poner a la venta estos vehículos hasta que estén seguros de alcanzar esos niveles, lo cual puede retrasar excesivamente la disponibilidad de una tecnología que puede reportar grandes beneficios para la sociedad. Por el contrario, un nivel de responsabilidad excesivamente bajo impide que se consigan los objetivos perseguidos por la normativa, principalmente la prevención de accidentes y la adecuada compensación de las víctimas.

El informe de robolaw analiza distintas opciones de configurar la responsabilidad, destacando el importante papel que deben jugar las empresas aseguradoras y hace varias recomendaciones, de las que me quedo con las dos siguientes:

- promover un amplio debate social sobre el nivel de seguridad que esperamos de los coches sin conductor.

- armonizar la normativa europea en lo relativo a responsabilidad de vehículos a motor y cobertura de los sistemas de seguros.

No quiero terminar este artículo sin mencionar la polémica que surgió años atrás cuando Bill Gates reprochó a la industría automovilística que no habían evolucionado al mismo ritmo que la informática. La respuesta de Jack Welch fue contundente y puede servir para ilustrar el tipo de problemas que pueden presentar los coches de futuro.

Robolaw (I): orientaciones para regular los robots en Europa.

La Comisión Europea ha financiado un projecto llamado robolaw, cuyo objetivo era elaborar un informe detallado con todas las cuestiones éticas y legales que plantean los robots, así como ofrecer orientaciones y principios que puedan guiar a los reguladores europeos y nacionales cuando tengan que legislar sobre esta cuestión. La iniciativa, liderada por la Scuola Superiore Sant´ Anna de Pisa, empezó en marzo de 2012 y el informe final se acaba de hacer público hace unos días.

Foto del usuario de Flickr cjmartin

Debo empezar diciendo que el informe es de lo más interesante que he leído últimamente. Tiene una parte general, que es la que analizaré en este artículo, y cuatro apartados en los que trata con detalle la problemática de los coches sin conductor, los robots cirujanos, las prótesis robóticas y los robots para el cuidado de personas ancianas o discapacidas. El documento es bastante extenso (más de 200 páginas) y no pretendo hacer un resumen pormenorizado sino apuntar los aspectos que me han resultado más interesantes.

En primer lugar, me gusta que no sólo trate los temas legales sino también los éticos. Tiene sentido que antes de preparar una norma sobre un tema novedoso y con tantas implicaciones, se analicen los principios que deben informar dicha legislación para que ésta pueda responder a las necesidades de la sociedad. El informe considera que la justicia, la dignidad, la privacidad, la solidaridad, la protección de los consumidores y de los derechos fundamentales, la no discriminación, la integración de los discapacidados y el derecho a la asistencia sanitaria son valores esenciales que deben estar presentes en cualquier análisis normativo de esta cuestión. Además entiende que la regulación puede plasmarse en leyes y decretos pero también en "soft law" (normas técnicas, estándares, códigos de conducta y de buenas prácticas, etc) como forma de conseguir mayor una precisión y flexibilidad.

También me resulta interesante la idea de "code as law" o regulation by design": la tecnología no es sólo objeto de regulación sino que también participa en la misma por ejemplo mediante la implementación en las máquinas/sistemas autónomos de un conjunto de requisitos éticos y legales, de forma que puedan comportarse de acuerdo con dichas reglas.

El informe plantea cuestiones polémicas como si se debe conceder personalidad legal diferenciada a los robots para realizar ciertas transacciones, para ser considerado responsable o para comparecer en juicio, dado que cada vez son más inteligentes y capaces de aprender y de hacer tareas antes reservadas a las personas e incluso de llevar a cabo comportamientos no previstos (emergent behaviours) por su diseñador, en el caso de sistemas complejos que interactúan con otros componentes de sistema o del entorno. 

Lógicamente la cuestión de la responsabilidad, una de las más debatidas en el documento. Es un tema difícil por la propia complejidad realidad a regular y por el hecho de que los robots son cada vez más multipropósito y ninguno de los intervinientes (fabricante del hardware, desarrollador del software y usuario final principalmente) tiene suficiente control sobre las acciones de la máquina. El informe plantea varias ideas: a) conceder "personalidad electrónica" a los robots, en base a los argumentos expuestos anteriormente b) limitar la responsabilidad de los fabricantes otorgando una cierta inmunidad selectiva en el caso de plataformas abiertas, siguiendo el planteamiento de Ryan Calo expuesto en otro artículo de Replicante Legal o c) incrementar la responsabilidad de los dueños de los robots, estableciendo eso sí un límite en la cantidad de daños a compensar. Como se destaca en las conclusiones del análisis, establecer un régimen de responsabilidad adecuado es clave para evitar el denominado "chilling effect" (si las reglas son muy estrictas se perjudica la innovación y el desarrollo de los productos/servicios).

Finalmente, el informe apunta argumentos a favor y en contra de dos cuestiones relevantes, aunque no ofrece una posición definida: ¿es necesaria una lex robotica? y ¿cuándo es el momento correcto de regular cuestiones tan novedosas: al principio cuando todavía no está claro por dónde irá el desarrollo tecnológico y cuáles serán sus efectos o en el momento en que la tecnología se consolide, aunque sea más caro y difícil de revertir? 

Viaje al interior del cerebro humano.

Cientos de científicos de más de veinte países se han embarcado en el Human Brain Project (HBP), un proyecto a diez años financiado por la Unión Europea para entender la manera de trabajar del cerebro, con la finalidad de desarrollar tecnologías de computación que simulen su funcionamiento así como de crear nuevos tratamientos para las patologías mentales.

Foto del usuario de Flickr neil conway

En paralelo, Estados Unidos está trabajando en un proyecto similar (BRAIN initiative), para comprender cómo el cerebro piensa, aprende y recuerda. Está dotado con un presupuesto de más de 100 millones de dólares y coliderado por Rafael Yuste, cientifico español de la Universidad de Columbia. En una reciente entrevista, Yuste hacía afirmaciones tan inquietantes como las siguientes: 

"Si conocemos el disparo de todas las neuronas, seremos capaces de descifrar lo que un animal o una persona están pensando. Y si pudiéramos leer el pensamiento, podríamos llegar incluso a predecir el comportamiento que va a tener una persona."

 "la Neurociencia va a cambiar nuestra manera de percibir la responsabilidad criminal, porque transformará la definición de lo que consideramos normal y anormal o patológico en el cerebro, y por tanto de la responsabilidad de un individuo por sus comportamientos."

La iniciativa europea ha recibido fuertes críticas de científicos que consideran que no está bien concebida ni implementada y que sus objetivos no han sido debidamente consensuados con todos los actores relevantes. Otras voces autorizadas, como la de Marvin Minsky, entienden que es un error empezar grandes proyectos sobre el cerebro humano cuando aún no se ha analizado el de una libélula o de un ratón. "Es como intentar construir un coche cuando aún no has hecho una bicicleta", argumenta el considerado padre de la inteligencia artificial con la libertad que le aportan sus 87 años y su merecida fama de brillante científico. 

En cualquier caso, la inteligencia artificial y el deep learning son dos de los campos que más interés despiertan entre las grandes empresas tecnológicas actualmente. Este interesante artículo del MIT Technology Review detalla la evolución hacia una computación basada en el funcionamiento del cerebro. 

Por poner ejemplos concretos, IBM está apostando fuerte por el cognoscitive computing para hacer frente a los enormes desafíos que plantea el big data. Watson es su mejor embajador. Microsoft no se queda atrás y está trabajando activamente en el reconocimiento de imágenes (una de las tareas más difíciles para una máquina) y de voz, con resultados sorprendentes en éste último caso. Google es uno de los líderes en el campo del deep learning y ha fichado a los mayores expertos mundiales en la materia: Ray Kurzweil, Geoffrey Hinton y Andrew Ng para colaborar en su iniciativa Google Brain. Netflix ha sido uno de los últimos en apuntarse a esta tendencia con la objetivo de mejorar su sistema de recomendaciones de películas. También empiezan a surgir proyectos de inteligencia artificial en formato SaaS, que contribuirán a su difusión en pequeñas y medianas empresas.

Si los avances en estas materias evolucionan de forma similar a como ha ocurrido el campo de la genética, en pocos años podremos ver máquinas capaces de aprender, recordar y ¿pensar?. ¿Estamos preparados para esta nueva generación de replicantes?