robolaw (III): el debate sobre las mejoras en el cuerpo humano y algunas reflexiones sobre robots cirujanos y robots cuidadores

El informe de robolaw dedica tres apartados a estudiar la problemática de las prótesis robóticas, la cirugía asistida por máquinas y los robots dedicados al cuidado de ancianos y personas discapacidas.

El primero de los tres es el que me parece más interesante, sobre todo la cuestión del human enhancement o "mejora artificial" del cuerpo humano. Nadie pone en duda que alguien que ha sufrido una amputación de un miembro como consecuencia de un accidente, pueda recuperar las funcionalidades perdidas con una prótesis. El debate está en qué hacemos con quien -previamente enfermo o no- quiere instarse una prótesis que (artificialmente) le habilite para ver u oir excepcionalmente bien, o tener mucha más fuerza, velocidad, resistencia, memoria o inteligencia que la persona más capaz o incluso que le permita adquirir capacidades no disponibles para los humanos, como el caso del primer cyborg reconocido por un gobierno, Neil Harbisson, que puede "escuchar colores" que no están al alcance de nadie más.

Foto de Neil Harbisson tomada de Wikimedia Commons. Autor Moon Ribas

A este respecto, el informe sugiere abrir un amplio debate social y plantea varias preguntas relevantes: ¿qué formas de intervención en el cuerpo estamos preparados para consentir? ¿vamos a poner límites más allá de la seguridad y la viabilidad tecnologica? ¿debemos considerar cuestiones biológicas o también psicológicas y de identidad personal? ¿quién y bajo qué límites, circunstancias o principios estará habilitado para tomar la decisión de "mejorarse artificialmente"?

Para arrojar algo de luz sobre dichas cuestiones, robolaw propone acudir a los principios recogidos en la Carta Europea de los Derechos Humanos (ECFR por sus siglas en inglés). La dignidad humana aparece en el artículo 1 de la ECFR pero se suele definir de forma negativa, en el sentido de evitar conductas que la menoscaben y por tanto no ofrece cobertura para justificar que una persona sana se coloque una prótesis que mejore radicalmente su rendimiento. Así mismo, el derecho a la salud no implica que se pueda mejorar el propio cuerpo sin límite. Finalmente, el documento sugiere que el principio de igualdad y no discriminación se tome en consideración para prevenir que los más ricos se aprovechen de estas tecnologías para convertirse en super hombres

Por otro lado, el informe hace un planteamiento novedoso y propone utilizar el principio de precaución del artículo 191 del Tratado de Funcionamiento de la UE (TFEU), pensado inicialmente para la protección del medio ambiente. Aplicado a este caso sería: dado el desconocimiento actual de sus efectos a medio y largo plazo y las profundas implicaciones filosóficas, éticas e incluso religiosas, parece aconsejable rechazar las técnicas de mejora humana más radicales (innovación responsable) y no dejar que sea el individuo sino un comité médico quien decida que prótesis se debe instalar, una vez analizadas las características del caso concreto. En aplicación de lo anterior, el informe concluye que las prótesis deberían ser herramientas para devolver a las personas las funcionalidades que hayan perdido pero no instrumentos de mejora.

En cuanto a la cirugía asistida por máquinas, robolaw se centra en la problemática que generan robots como da Vinci. En la foto de abajo se puede ver que los elementos principales son la/s consola/s desde la que operan los cirujanos y la unidad que está en contacto con el paciente, que consta de tres brazos articulados y una cámara endoscópica.

copyright 2014 Intuitive Surgical Inc

©[year] Intuitive Surgical, Inc.

El hecho de que cirujano y paciente estén físicamente separados y que el doctor opere a través del robot tiene varias implicaciones destacadas en el informe:

- la responsabilidad no debería ser conjunto de todos los intervinientes en la operación sino que se debería atribuir al doctor/es que maneje/n la consola principal, dado que es quien tiene el control prácticamente único de la situación.

- como el médico puede estar en otro país (telemedicina), se recomienda que la Comisión Europea adopte unas reglas que uniformicen el régimen de responsabilidad así como los estándares de seguros, para evitar situaciones de conflicto de leyes aplicables, al menos en Europa.

- se recomienda que dichos robots tenga una "caja negra" que registre todos los comandos recibidos, los procesos ejecutados por la máquina y cualquier error del sistema u otra información relevante, para facilitar la determinación de responsabilidad en caso de fallos que se puedan producir durante las operaciones.


Por último, la parte del informe relativa a los robot cuidadores es la que me parece la más floja. Se centra en la asistencia a ancianos y discapacitados sin tener en cuenta las situaciones que plantearía el cuidado de niños, ni aportar nada relevante. Tampoco aborda la problemática de los robots con emociones (como Pepper o Baby X) y la influencia que éstos pueden ejercer sobre los menores de edad y las personas más sensible y vulnerables.

Robolaw (II): coches sin conductor

Los coches que conducimos actualmente están incorporando gradualmente funcionalidades que nos facilitan la conducción y mejoran nuestra seguridad (entre otras podemos mencionar: aviso de cambio involuntario de carril, sistema de frenado de emergencia, regulador/limitador de velocidad, aparcamiento asistido, etc.)

No hemos llegado todavía a la situación que se describe en el video anterior de Volvo pero Google y los grandes fabricantes están trabajando para que los coches sin conductor sean una realidad comercial en menos de 10 años. Podemos intuir que serán como "supercomputadoras con ruedas", que incorporarán un software muy sofisticado (parece probable que la "inteligencia" resida en los coches más que en las carreteras), así como mapas en tres dimensiones, sensores de todo tipo para evitar choques e incluso comunicación entre vehículos (projecto Car-to-X alemán).

Robolaw dedica el segundo capítulo de su informe a los coches sin conductor. En primer lugar analiza las ventajas que aportaría, entre ellas la reducción de accidentes (el 95% de los mismos está causado por un error humano, con una tasa anual de 30.000 muertos y 1.5 millones de heridos), la disminución del consumo de combustible, el incremento de la movilidad de personas con problemas de visión u otra discapacidad y la mejora del medio ambiente, por el probable impulso que esta tecnología supondría para los sistemas de compartición de vehiculos.

Foto de Wikimedia Commons. Autor Steve Jurvetson

A continuación, el documento trata el dilema ético conocido como trolley paradox, que el profesor Patrick Lin desarrolla en su artículo "The robot car of tomorrow may just be programmed to hit you". El supuesto teórico es el siguiente: imaginemos que el conductor de un tren que sufre una avería tiene que decidir entre desviar el tren y matar a un niño o mantener la dirección y matar a cinco personas. Otro parecido sería: si el accidente es inevitable y el resultado va a ser atropellar un motorista ¿evitamos al que va sin casco porque es más vulnerable y elegimos chocarnos contra el que lleva casco, penalizando así al que cumple las normas? Lin argumenta que ese tipo de decisiones no podemos programarlas previamente, ni dejarlas a la decisión de sistemas autónomos inteligentes puesto que implican un juicio moral y por ello aboga porque en los coches siempre haya una presencia humana que pueda tomar el control en ese tipo de situaciones.

Otro asunto interesante analizado en el documento es el equilibrio entre seguridad y libertad. El ejemplo típico sería el diseño del coche autónomo para que nunca superara los límites de velocidad establecidos o para que sólo fuera capaz de ejecutar ciertas acciones. ¿Aceptamos esta tecnoregulación o dejamos algo de libertad al individuo para configurar su vehículo?

El análisis legal se centra en el tema de la responsabilidad por los accidentes que se puedan producir y plantea  una pregunta previa ¿qué nivel de seguridad vamos a exigir de los coches autónomos? ¿El mismo que el de un conductor medio, el de un conductor sobresaliente u otro? La cuestión es relevante porque dónde coloquemos el listón de seguridad exigible y el de responsabilidad asociado, puede afectar a la disponibilidad comercial de esta nueva tecnología. Es el chilling effect que comentamos en el artículo anterior. Si lo situamos muy alto, los fabricantes no se arriesgarán a poner a la venta estos vehículos hasta que estén seguros de alcanzar esos niveles, lo cual puede retrasar excesivamente la disponibilidad de una tecnología que puede reportar grandes beneficios para la sociedad. Por el contrario, un nivel de responsabilidad excesivamente bajo impide que se consigan los objetivos perseguidos por la normativa, principalmente la prevención de accidentes y la adecuada compensación de las víctimas.

El informe de robolaw analiza distintas opciones de configurar la responsabilidad, destacando el importante papel que deben jugar las empresas aseguradoras y hace varias recomendaciones, de las que me quedo con las dos siguientes:

- promover un amplio debate social sobre el nivel de seguridad que esperamos de los coches sin conductor.

- armonizar la normativa europea en lo relativo a responsabilidad de vehículos a motor y cobertura de los sistemas de seguros.

No quiero terminar este artículo sin mencionar la polémica que surgió años atrás cuando Bill Gates reprochó a la industría automovilística que no habían evolucionado al mismo ritmo que la informática. La respuesta de Jack Welch fue contundente y puede servir para ilustrar el tipo de problemas que pueden presentar los coches de futuro.

Robolaw (I): orientaciones para regular los robots en Europa.

La Comisión Europea ha financiado un projecto llamado robolaw, cuyo objetivo era elaborar un informe detallado con todas las cuestiones éticas y legales que plantean los robots, así como ofrecer orientaciones y principios que puedan guiar a los reguladores europeos y nacionales cuando tengan que legislar sobre esta cuestión. La iniciativa, liderada por la Scuola Superiore Sant´ Anna de Pisa, empezó en marzo de 2012 y el informe final se acaba de hacer público hace unos días.

Foto del usuario de Flickr cjmartin

Debo empezar diciendo que el informe es de lo más interesante que he leído últimamente. Tiene una parte general, que es la que analizaré en este artículo, y cuatro apartados en los que trata con detalle la problemática de los coches sin conductor, los robots cirujanos, las prótesis robóticas y los robots para el cuidado de personas ancianas o discapacidas. El documento es bastante extenso (más de 200 páginas) y no pretendo hacer un resumen pormenorizado sino apuntar los aspectos que me han resultado más interesantes.

En primer lugar, me gusta que no sólo trate los temas legales sino también los éticos. Tiene sentido que antes de preparar una norma sobre un tema novedoso y con tantas implicaciones, se analicen los principios que deben informar dicha legislación para que ésta pueda responder a las necesidades de la sociedad. El informe considera que la justicia, la dignidad, la privacidad, la solidaridad, la protección de los consumidores y de los derechos fundamentales, la no discriminación, la integración de los discapacidados y el derecho a la asistencia sanitaria son valores esenciales que deben estar presentes en cualquier análisis normativo de esta cuestión. Además entiende que la regulación puede plasmarse en leyes y decretos pero también en "soft law" (normas técnicas, estándares, códigos de conducta y de buenas prácticas, etc) como forma de conseguir mayor una precisión y flexibilidad.

También me resulta interesante la idea de "code as law" o regulation by design": la tecnología no es sólo objeto de regulación sino que también participa en la misma por ejemplo mediante la implementación en las máquinas/sistemas autónomos de un conjunto de requisitos éticos y legales, de forma que puedan comportarse de acuerdo con dichas reglas.

El informe plantea cuestiones polémicas como si se debe conceder personalidad legal diferenciada a los robots para realizar ciertas transacciones, para ser considerado responsable o para comparecer en juicio, dado que cada vez son más inteligentes y capaces de aprender y de hacer tareas antes reservadas a las personas e incluso de llevar a cabo comportamientos no previstos (emergent behaviours) por su diseñador, en el caso de sistemas complejos que interactúan con otros componentes de sistema o del entorno. 

Lógicamente la cuestión de la responsabilidad, una de las más debatidas en el documento. Es un tema difícil por la propia complejidad realidad a regular y por el hecho de que los robots son cada vez más multipropósito y ninguno de los intervinientes (fabricante del hardware, desarrollador del software y usuario final principalmente) tiene suficiente control sobre las acciones de la máquina. El informe plantea varias ideas: a) conceder "personalidad electrónica" a los robots, en base a los argumentos expuestos anteriormente b) limitar la responsabilidad de los fabricantes otorgando una cierta inmunidad selectiva en el caso de plataformas abiertas, siguiendo el planteamiento de Ryan Calo expuesto en otro artículo de Replicante Legal o c) incrementar la responsabilidad de los dueños de los robots, estableciendo eso sí un límite en la cantidad de daños a compensar. Como se destaca en las conclusiones del análisis, establecer un régimen de responsabilidad adecuado es clave para evitar el denominado "chilling effect" (si las reglas son muy estrictas se perjudica la innovación y el desarrollo de los productos/servicios).

Finalmente, el informe apunta argumentos a favor y en contra de dos cuestiones relevantes, aunque no ofrece una posición definida: ¿es necesaria una lex robotica? y ¿cuándo es el momento correcto de regular cuestiones tan novedosas: al principio cuando todavía no está claro por dónde irá el desarrollo tecnológico y cuáles serán sus efectos o en el momento en que la tecnología se consolide, aunque sea más caro y difícil de revertir? 

Responsabilidad y robots. ¿Hace falta modificar el régimen actual?

Los temas de responsabilidad son uno de los más delicados para los abogados. En el caso de los contratos no siempre es fácil encontrar un equilibrio razonable respecto al nivel de obligaciones y penalizaciones que tiene que asumir cada parte. En cuanto a la responsabilidad extracontractual (torts en derecho anglosajón), es cierto que en España/Europa no llegamos al nivel de locura (perdón, litigiosidad) de EEUU, pero también se plantean numerosos conflictos.

Foto del usuario de Flickr Jeffrey

Por eso no es de extrañar que las cuestiones relativas a responsabilidad sean las que más atención reciban en la presentación de la profesora Lilian Edwards (@lilianedwards) sobre la regulación de los robots (páginas 24 y siguientes). Edwards plantea preguntas del tipo ¿qué pasa si un humanoide militar mata a un civil? ¿y si un robot dedicado a cuidar ancianos le indica que tome más pastillas de las que debería? ¿quién es responsable si un coche sin conductor es hackeado y atropella a un peatón? ¿y si un "robot sexual" aplica las preferencias de un usuario (ej. recibir azotes) a otro y le provoca daños? Muchos de estos casos no van a ocurrir en el corto plazo pero coincido con la profesora Edwards en que conviene empezar a pensar sobre ello.

En el régimen actual, lo primero que habría que determinar es si estamos ante un caso de responsabilidad contractual o extracontractual. Además habría que estudiar si ha existido negligencia en alguno de los intervinientes y valorar la aplicación al caso concreto de la normativa y jurisprudencia sobre protección de los consumidores. Edwards plantea en su presentación si tendría sentido crear una categoría especial de responsabilidad para ciertos casos en los que intervengan robots. 

Ryan Calo se acerca también a la cuestión de la responsabilidad desde una perspectiva diferente. En su trabajo académico de 2010 Open Robotics propone que se conceda un cierto grado de inmunidad a los fabricantes de plataformas robóticas abiertas (entendiendo por tales las que permiten la instalación de aplicaciones o programas de terceros) respecto al uso que los usuarios hagan de las mismas, de manera similar al régimen que existe para los intermediarios de internet. Calo afirma que el mundo de los estándares abiertos plantea definitivamente más retos jurídicos que el de las plataformas propietarias o propietarias pero también genera muchas más oportunidades para los desarrolladores, así como ventajas indudables para los usuarios.

En mi opinión, mientras los robots sean máquinas con autonomía limitada y escasa capacidad de razonar/tomar decisiones, no es necesario que modifiquemos el sistema legal de responsabilidad, al menos en España, porque el que tenemos actualmente sirve para dar respuesta a las situaciones planteadas. Sin embargo la inteligencia artificial es uno de los campos de mayor crecimiento y es posible que en unos años veamos ordenadores que puedan imitar el funcionamiento del cerebro humano y ser capaces pensar autónomamente. Si ese momento llega, no me cabe duda de que tendríamos que replantearnos los esquemas legales de la responsabilidad (y probablemente de casi todo lo demás).