Robots y propiedad intelectual

Cuando en un descuido de David Slater, el macaco agarró su cámara e hizo varias fotos, no se podía imaginar que acababa de hacer el monkey selfie más famoso de la historia y de iniciar una disputa legal que ha durado varios años y en la que ha tenido que intervenir hasta la US copyright office, que acaba de dictaminar que ese tipo de obras no pueden ser objeto de protección a través de copyright. En el Reino Unido el macaco tampoco podría ser considerado el autor de la foto pero Slater sí si demuestra que ha puesto los medios y ha contribuído activamente a la creación de la obra.

Autor/titular de los derechos ¿?

Podemos concluir entonces que los animales no pueden ser titulares de derechos de propiedad intelectual pero ¿qué ocurre si una poesía o una canción es creada por una máquina? Puede parecer ciencia ficción pero ya hay libros completamente generados por algoritmos y algunos apuntan que en el año 2030 el 90% de las noticias de prensa se elaborará sin intervención humana.

Los distintos sistemas de copyright coinciden en que el primer requisito para que una obra sea protegible es que sea una creación original. Sin embargo, existen divergencias entre la normativa continental y la anglosajona en lo que se refiere al concepto de autor. La primera da mucha importancia a los derechos morales, conectados con la personalidad del autor y en muchos casos irrenunciables e inalienables. Por contra, la tradición anglosajona pone el énfasis los derechos ecónomicos y prácticamente ignora los derechos morales.

En el Reino Unido (y se podría interpretar que también en EEUU en ciertos casos) una obra puede obtener la protección de copyright, incluso si ha sido creada por una máquina, siempre que sea original. En España en cambio no cabe esta posibilidad porque se considera autor a la "persona natural que crea alguna obra literaria, artística o científica", aunque la protección que concede la ley de propiedad intelectual se puede extender en ciertos casos a las personas jurídicas.

Uno de los fines de la normativa de propiedad intelectual es favorecer la creación. Está claro que los algoritmos no necesitan ese incentivo para generar contenidos literarios o musicales pero también es legítimo pensar que las personas que desarrollan ese software pueden tener un interés económico. Cuestión diferente es quién debe de ser el titular de los derechos de las obras generadas por ordenador (la persona que crea el código, la empresa que le paga, el usuario que usa ese programa para generar el contenido final o el propio algoritmo, si se trata de un sistema capaz de aprender de si mismo y aceptamos el concepto de personalidad mecánica que mencionábamos en otro artículo de Replicante) y cuánto deben durar los mismos (70 años desde la muerte del autor no parece lo más lógico para estos casos).

¿Y qué hacemos con los robots que interpretan obras de teatro? La Ley de Propiedad Intelectual española establece que "se entiende por artista intérprete o ejecutante a la persona que represente, cante, lea, recite, interprete o ejecute en cualquier forma una obra". Aunque la norma no dice "persona natural" como en el caso de los autores, me temo que todavía no estamos preparados para atribuir este tipo de derechos a un robot, aunque éste pueda ser capaz de sumergirnos en el peculiar mundo de Kafka mejor que algunos humanos.

Robots sociales que aprenden y entienden tus emociones (I).

Ya están aquí y han venido para quedarse. Me refiero a los robots sociales, máquinas capaces de captar las emociones humanas y/o de aprender en cada interacción. El ejemplo más claro es Pepper. Se trata de un robot que está presente desde hace meses en las tiendas de Tokio del operador de telecomunicaciones japones Softbank y cuyo objetivo declarado es vivir con humanos aunque no para cocinar ni limpiar, sino para ser su "compañero emocional", en sentido de hablar y entender la alegría, tristeza o sorpresa de su interlocutor e incluso ser capaz de expresar algunas emociones básicas.

Aldebaran, la empresa que lo ha creado, afirma que la experiencia que están acumulando en las tiendas, servirá para desarrollar una versión más sofisticada de Pepper que saldrá a la venta en Japón en febrero de 2015 por unos 2.000 dólares.

Foto del usuario de Flickr Martica

Por otro lado, IPsoft acaba de presentar Amelia, un sistema basado en inteligencia artificial que habla más de 20 idiomas y es capaz de leer y entender textos, seguir procesos, resolver problemas, responder a cuestiones y, lo más importante, aprender de la experiencia. ¿Cómo lo hace? Según sus creadores, Amelia es capaz de entender el contexto, aplicar la lógica y deducir implicaciones.

Baby X es un proyecto curioso del Laboratorio de Tecnologías Animadas de Auckland (Nueva Zelanda). Lo lidera Mark Sagar, con experiencia en la creación de personajes generados por ordenador en películas como King Kong o Avatar, que  lo define como "una exploración de la interacción emocional a través de un avatar interactivo". Baby X es un programa que imita el proceso biológico de aprendizaje simulando mediante algoritmos las reacciones del cerebro y las expresiones faciales. Merece la pena ver los vídeos del link anterior porque si no es difícil de entender el proyecto. Por cierto que para desarollar el avatar, Sagar ha tomado a su hija Francesca como modelo. 

Tanto Amelia como Baby X pueder ser embebidos en humanoides (como Pepper), que les aporten las funciones mecánicas de las que carecen. Ambos comparten además el objetivo último de comportarse naturalmente o de forma lo más parecida a como lo haría un ser humano.

El objetivo de Viv es ser el primer asistente personal inteligente. Los fundadores de esta startup trabajaron antes en el desarrollo de Siri y aseguran que Viv será capaz de entender tus preferencias y usar multitud de conexiones a la web para contestar casi cualquier pregunta o ejecutar casi cualquier acción. De hecho le llaman "cerebro global" porque se basa en contenidos disponibles en internet y no está sujeto a las limitaciones de sus programadores. Afirma que Viv será capaz de ejecutar correctamente acciones complejas como "búscame un vuelo a Dallas en un asiento en el que quepa Shaq (Shaquille O´Neal, exjugador de la NBA)" en menos de un segundo.

¿Echábais de menos a alguien? Sí, Amazon también se apunta a la fiesta y acaba de lanzar Echo, un asistente familiar que puede poner música, responder a todo tipo de preguntas y ofrecer noticias.

Si se cumplen las predicciones anteriores, en breve estarán disponibles comercialmente robots que serán capaces de aprender, de resolver problemas y de entender nuestras emociones. ¿Podemos dejar a esas máquinas al cuidado de personas mayores y niños? El autor de este artículo sobre cuidado de ancianos afirma que sí y que casi no nos va a quedar otro remedio dada la escasez de médicos para atenderlos. En el siguiente artículo analizaremos las numerosas cuestiones éticas y legales que se plantean.

Robolaw (I): orientaciones para regular los robots en Europa.

La Comisión Europea ha financiado un projecto llamado robolaw, cuyo objetivo era elaborar un informe detallado con todas las cuestiones éticas y legales que plantean los robots, así como ofrecer orientaciones y principios que puedan guiar a los reguladores europeos y nacionales cuando tengan que legislar sobre esta cuestión. La iniciativa, liderada por la Scuola Superiore Sant´ Anna de Pisa, empezó en marzo de 2012 y el informe final se acaba de hacer público hace unos días.

Foto del usuario de Flickr cjmartin

Debo empezar diciendo que el informe es de lo más interesante que he leído últimamente. Tiene una parte general, que es la que analizaré en este artículo, y cuatro apartados en los que trata con detalle la problemática de los coches sin conductor, los robots cirujanos, las prótesis robóticas y los robots para el cuidado de personas ancianas o discapacidas. El documento es bastante extenso (más de 200 páginas) y no pretendo hacer un resumen pormenorizado sino apuntar los aspectos que me han resultado más interesantes.

En primer lugar, me gusta que no sólo trate los temas legales sino también los éticos. Tiene sentido que antes de preparar una norma sobre un tema novedoso y con tantas implicaciones, se analicen los principios que deben informar dicha legislación para que ésta pueda responder a las necesidades de la sociedad. El informe considera que la justicia, la dignidad, la privacidad, la solidaridad, la protección de los consumidores y de los derechos fundamentales, la no discriminación, la integración de los discapacidados y el derecho a la asistencia sanitaria son valores esenciales que deben estar presentes en cualquier análisis normativo de esta cuestión. Además entiende que la regulación puede plasmarse en leyes y decretos pero también en "soft law" (normas técnicas, estándares, códigos de conducta y de buenas prácticas, etc) como forma de conseguir mayor una precisión y flexibilidad.

También me resulta interesante la idea de "code as law" o regulation by design": la tecnología no es sólo objeto de regulación sino que también participa en la misma por ejemplo mediante la implementación en las máquinas/sistemas autónomos de un conjunto de requisitos éticos y legales, de forma que puedan comportarse de acuerdo con dichas reglas.

El informe plantea cuestiones polémicas como si se debe conceder personalidad legal diferenciada a los robots para realizar ciertas transacciones, para ser considerado responsable o para comparecer en juicio, dado que cada vez son más inteligentes y capaces de aprender y de hacer tareas antes reservadas a las personas e incluso de llevar a cabo comportamientos no previstos (emergent behaviours) por su diseñador, en el caso de sistemas complejos que interactúan con otros componentes de sistema o del entorno. 

Lógicamente la cuestión de la responsabilidad, una de las más debatidas en el documento. Es un tema difícil por la propia complejidad realidad a regular y por el hecho de que los robots son cada vez más multipropósito y ninguno de los intervinientes (fabricante del hardware, desarrollador del software y usuario final principalmente) tiene suficiente control sobre las acciones de la máquina. El informe plantea varias ideas: a) conceder "personalidad electrónica" a los robots, en base a los argumentos expuestos anteriormente b) limitar la responsabilidad de los fabricantes otorgando una cierta inmunidad selectiva en el caso de plataformas abiertas, siguiendo el planteamiento de Ryan Calo expuesto en otro artículo de Replicante Legal o c) incrementar la responsabilidad de los dueños de los robots, estableciendo eso sí un límite en la cantidad de daños a compensar. Como se destaca en las conclusiones del análisis, establecer un régimen de responsabilidad adecuado es clave para evitar el denominado "chilling effect" (si las reglas son muy estrictas se perjudica la innovación y el desarrollo de los productos/servicios).

Finalmente, el informe apunta argumentos a favor y en contra de dos cuestiones relevantes, aunque no ofrece una posición definida: ¿es necesaria una lex robotica? y ¿cuándo es el momento correcto de regular cuestiones tan novedosas: al principio cuando todavía no está claro por dónde irá el desarrollo tecnológico y cuáles serán sus efectos o en el momento en que la tecnología se consolide, aunque sea más caro y difícil de revertir? 

Responsabilidad y robots. ¿Hace falta modificar el régimen actual?

Los temas de responsabilidad son uno de los más delicados para los abogados. En el caso de los contratos no siempre es fácil encontrar un equilibrio razonable respecto al nivel de obligaciones y penalizaciones que tiene que asumir cada parte. En cuanto a la responsabilidad extracontractual (torts en derecho anglosajón), es cierto que en España/Europa no llegamos al nivel de locura (perdón, litigiosidad) de EEUU, pero también se plantean numerosos conflictos.

Foto del usuario de Flickr Jeffrey

Por eso no es de extrañar que las cuestiones relativas a responsabilidad sean las que más atención reciban en la presentación de la profesora Lilian Edwards (@lilianedwards) sobre la regulación de los robots (páginas 24 y siguientes). Edwards plantea preguntas del tipo ¿qué pasa si un humanoide militar mata a un civil? ¿y si un robot dedicado a cuidar ancianos le indica que tome más pastillas de las que debería? ¿quién es responsable si un coche sin conductor es hackeado y atropella a un peatón? ¿y si un "robot sexual" aplica las preferencias de un usuario (ej. recibir azotes) a otro y le provoca daños? Muchos de estos casos no van a ocurrir en el corto plazo pero coincido con la profesora Edwards en que conviene empezar a pensar sobre ello.

En el régimen actual, lo primero que habría que determinar es si estamos ante un caso de responsabilidad contractual o extracontractual. Además habría que estudiar si ha existido negligencia en alguno de los intervinientes y valorar la aplicación al caso concreto de la normativa y jurisprudencia sobre protección de los consumidores. Edwards plantea en su presentación si tendría sentido crear una categoría especial de responsabilidad para ciertos casos en los que intervengan robots. 

Ryan Calo se acerca también a la cuestión de la responsabilidad desde una perspectiva diferente. En su trabajo académico de 2010 Open Robotics propone que se conceda un cierto grado de inmunidad a los fabricantes de plataformas robóticas abiertas (entendiendo por tales las que permiten la instalación de aplicaciones o programas de terceros) respecto al uso que los usuarios hagan de las mismas, de manera similar al régimen que existe para los intermediarios de internet. Calo afirma que el mundo de los estándares abiertos plantea definitivamente más retos jurídicos que el de las plataformas propietarias o propietarias pero también genera muchas más oportunidades para los desarrolladores, así como ventajas indudables para los usuarios.

En mi opinión, mientras los robots sean máquinas con autonomía limitada y escasa capacidad de razonar/tomar decisiones, no es necesario que modifiquemos el sistema legal de responsabilidad, al menos en España, porque el que tenemos actualmente sirve para dar respuesta a las situaciones planteadas. Sin embargo la inteligencia artificial es uno de los campos de mayor crecimiento y es posible que en unos años veamos ordenadores que puedan imitar el funcionamiento del cerebro humano y ser capaces pensar autónomamente. Si ese momento llega, no me cabe duda de que tendríamos que replantearnos los esquemas legales de la responsabilidad (y probablemente de casi todo lo demás).

Notas sobre la privacidad de drones y robots domésticos.

Foto del usuario de Flickr epSos.de

¿Qué es un robot? Estoy de acuerdo con la opinión de Gigaom de que es difícil de dar una respuesta precisa porque evoluciona constantemente. 

Margot Kaminski (@MargotKaminski) propone una definición interesante: es un software con cuerpo. Margot es una abogada y profesora de Yale, especializada en nuevas tecnologías que hace unos meses dió una charla en el Berkman Center for Internet and Society de Harvard sobre robots y privacidad. 

El estudio que da origen a la charla de Kaminski tiene por objeto la regulación de los drones, que es uno de los temas legales más polémicos actualmente en EEUU. Desde hace meses, miles de pequeños aviones no tripulados equipados con cámaras de grabación de foto/vídeo están invadiendo el cielo de San Francisco y otras ciudades y espacios abiertos. El regulador aeronáutico nacional (FAA) está siendo objeto de numerosas críticas por su retraso a la hora de aprobar una regulación adhoc, que no se espera hasta septiembre de 2015. Muchos Estados han considerado que se trata de un tema urgente y han aprobado sus propias normas sin esperar a conocer las directrices de dicha agencia. Lo curioso es que la FAA no tiene competencia ni experiencia en la regulación de cuestiones relativas a privacidad, que es es uno de los aspectos más controvertidos de los drones.

En cualquier caso, la problématica que genera el vuelo de drones en espacio abiertos estaría dentro de lo que Kaminski denomina "privacidad en público" y es de natureleza distinta a la que empezará a surgir cuando los hogares se llenen de robots domésticos tipo Paro o Asimo, cuya finalidad es cuidar de niños y ancianos o simplemente entretener y/o ayudar en las labores familiares. Otro ejemplo de robot similar sería Jibo, que puede realizar videollamadas, mostrar imágenes en su pantalla, reconocer caras y objetos, leer cuentos y hacer fotos cuando lo pidas. También actúa como asistente personal para recordarte tareas pendientes y aprende de tus gustos gracias a su algoritimo de inteligencia artificial.

Foto del usuario de Flickr Denise Cross Photography

Esa es la cara amable pero no podemos perder de vista la indudable pérdida de intimidad que supone tener una máquina sincronizada con tu móvil, conectada a internet y grabando (al menos potencialmente) todo lo que pasa en tu casa. Presumo que la información no se almacenará en el dispositivo sino en la nube. Al momento me surgen un buen número de preguntas: 

• ¿qué datos van a tener y qué uso hará la empresa de esos datos? 

• ¿se podrá acceder a ellos y borrarlos efectivamente? 

• ¿cómo se va a configurar el aparato teniendo en cuenta que se trata de un dispositivo de uso familiar, que puede ser utilizado por menores de edad o ancianos? ¿cómo podemos estar seguros de que no se explota su espacial vulnerabilidad?

• ¿tendrá un sistema operativo abierto que admita aplicaciones de terceros? 

• ¿qué medidas de seguridad se van a implementar para impedir que sea hackeado? 

• ¿habrá que informar a los amigos que entren en tu casa de que pueden ser grabados o fotografiados?

•  ¿podrán ser utilizados como prueba válida en un juicio?

La privacy by design y el sentido común parecen más necesarios que nunca en este tipo de productos/servicios.

 

Retos éticos y legales que plantea un futuro robótico

Me gusta Ryan Calo (@rcalo). Le sigo desde hace meses y me parece el abogado que mejor entiende el futuro que nos está esperando a la vuelta de la esquina. Otro día hablaré de alguno de sus brillantes trabajos académicos.

Foto del usuario de Flickr oskay

Hoy quiero comentar el foro en el que intervino hace unas semanas en la facultad de derecho de Berkeley junto a varios expertos para tratar los retos morales y legales que plantea la irrupción en la sociedad de robots de distintos tipos. Lamentablemente no tenemos el vídeo de la sesión pero sí se puede escuchar el audio aquí (una hora y media, en inglés).

En la sesión se abordaron algunos temas polémicos como por ejemplo si sería ético asignar robots con aspecto de niños a pedófilos, supondiendo que esa medida pudiera erradicar o disminuir el problema. Está demostrado que muchos pedófilos no están rehabilitados al salir de la cárcel y siguen suponiendo un problema para la sociedad. En esas circunstancias, ¿tiene sentido hacer una prueba piloto para ver si la medida puede ser efectiva?

El auge de los robots puede forzar al derecho penal a tener que replantearse cuestiones importantes como el concepto de mens rea o intencionalidad. Actus non facit reum nisi mens sit rea, reza el aforismo latino. La mente también tiene que ser culpable, es decir tiene que existir una intención de cometer el acto delictivo. Calo puso un interesante ejemplo a este respecto: Darius Kazemiha ha creado un sotware que hace compras aleatorias en Amazon. ¿Qué ocurriría si su programa informático compra algo que es ilegal en el Estado en el que vive, como por ejemplo los caramelos con alcohol en Massachusetts? ¿Sería culpable Darius? Probablemente no respondo yo, pero me temo que iba a tener que dar muchas explicaciones cuando el FBI llamara a su puerta.

Foto del usuario de Flickr Manish Prabhune

En el foro mencionado también se habló de Cupido, pero no del Dios del amor sino de la legalidad de máquinas como Chaotic Unmanned Personal Intercept Drone (CUPID), el dron que ha desarrollado la empresa Chaotic Moon y que sirve para patrullar zonas determinadas, identificar potenciales intrusos y dispararles un rayo paralizante. Desert Wolf, la empresa que comercializa Skunk Riot Control Copter ha optado por otra solución: un dron que dispara balas de plástico y lanza spray de pimienta a grandes aglomeraciones de personas difíciles de controlar, como por ejemplo una huelga violenta. Prefiero no imaginar  el potencial destructivo de esos aparatos en manos de milicias asesinas o gobiernos sin escrúpulos.

Valoración de los killer robots.

En un reciente artículo (en inglés) apunté la problemática de los llamados killer robots o robots asesinos. Partidarios y detractores argumentan sobre la conveniencia de autorizarlos o prohibirlos. El asunto ha llegado hasta la ONU, donde un grupo de expertos analizó en junio por primera vez los aspectos más relevantes del asunto. En dicho artículo hay un link a todas las ponencias (texto y audio) de la reunión.

foto del usuario de Flickr **RCB**

Entiendo perfectamente las ventajas que tiene sustituir a seres humanos por máquinas en el campo de batalla, sobre todo en las llamadas "tareas 3D" (del inglés: Dull-repetitivas, Dirty-sucias/contaminantes y Dangerous-peligrosas). No tiene sentido que sea un ser humano el que arriesgue su vida en la desactivación de explosivos o ayudando en zonas con contaminación radioactiva. Sin embargo, considero que ello no puede llevar a justificar la proliferación de soldados-robots autónomos o en los que casi no exista supervisión humana.  

Homo homini lupus. La frase lapidaria de Plauto se ve refrendada todos los días. Pero el ser humano también es capaz de empatizar y tener misericordia y si eliminamos esas cualidades y dejamos en manos de máquinas el uso de la violencia, cruzamos un Rubicón del que no hay vuelta atrás. Creo sinceramente que la sociedad ahora mismo no está preparada para aceptar Avatares como los que plantea el Pentágono y que los robots se deben ir incorporando progresivamente al ejército para realizar tareas auxiliares y siempre supervisadas por un ser humano. En resumen, mi tesis es que los killer robots se deben prohibir hasta que estemos seguros de que se dan las circunstancias adecuadas para autorizarlos.

La tecnología se puede utilizar para hacer el mal pero también puede resolver muchos de los problemas a los que se enfrenta la humanidad. E igual que terminé de una forma positiva el artículo que cito al principio, me gustaría finalizar éste con otro ejemplo de lo conoce en inglés como "drones for good", es decir el uso positivo que se puede hacer de los drones o robots, en este caso para asistir a personas mayores.