Robots y propiedad intelectual

Cuando en un descuido de David Slater, el macaco agarró su cámara e hizo varias fotos, no se podía imaginar que acababa de hacer el monkey selfie más famoso de la historia y de iniciar una disputa legal que ha durado varios años y en la que ha tenido que intervenir hasta la US copyright office, que acaba de dictaminar que ese tipo de obras no pueden ser objeto de protección a través de copyright. En el Reino Unido el macaco tampoco podría ser considerado el autor de la foto pero Slater sí si demuestra que ha puesto los medios y ha contribuído activamente a la creación de la obra.

Autor/titular de los derechos ¿?

Podemos concluir entonces que los animales no pueden ser titulares de derechos de propiedad intelectual pero ¿qué ocurre si una poesía o una canción es creada por una máquina? Puede parecer ciencia ficción pero ya hay libros completamente generados por algoritmos y algunos apuntan que en el año 2030 el 90% de las noticias de prensa se elaborará sin intervención humana.

Los distintos sistemas de copyright coinciden en que el primer requisito para que una obra sea protegible es que sea una creación original. Sin embargo, existen divergencias entre la normativa continental y la anglosajona en lo que se refiere al concepto de autor. La primera da mucha importancia a los derechos morales, conectados con la personalidad del autor y en muchos casos irrenunciables e inalienables. Por contra, la tradición anglosajona pone el énfasis los derechos ecónomicos y prácticamente ignora los derechos morales.

En el Reino Unido (y se podría interpretar que también en EEUU en ciertos casos) una obra puede obtener la protección de copyright, incluso si ha sido creada por una máquina, siempre que sea original. En España en cambio no cabe esta posibilidad porque se considera autor a la "persona natural que crea alguna obra literaria, artística o científica", aunque la protección que concede la ley de propiedad intelectual se puede extender en ciertos casos a las personas jurídicas.

Uno de los fines de la normativa de propiedad intelectual es favorecer la creación. Está claro que los algoritmos no necesitan ese incentivo para generar contenidos literarios o musicales pero también es legítimo pensar que las personas que desarrollan ese software pueden tener un interés económico. Cuestión diferente es quién debe de ser el titular de los derechos de las obras generadas por ordenador (la persona que crea el código, la empresa que le paga, el usuario que usa ese programa para generar el contenido final o el propio algoritmo, si se trata de un sistema capaz de aprender de si mismo y aceptamos el concepto de personalidad mecánica que mencionábamos en otro artículo de Replicante) y cuánto deben durar los mismos (70 años desde la muerte del autor no parece lo más lógico para estos casos).

¿Y qué hacemos con los robots que interpretan obras de teatro? La Ley de Propiedad Intelectual española establece que "se entiende por artista intérprete o ejecutante a la persona que represente, cante, lea, recite, interprete o ejecute en cualquier forma una obra". Aunque la norma no dice "persona natural" como en el caso de los autores, me temo que todavía no estamos preparados para atribuir este tipo de derechos a un robot, aunque éste pueda ser capaz de sumergirnos en el peculiar mundo de Kafka mejor que algunos humanos.

La realidad virtual ha llegado para quedarse

 En junio del año pasado Second Life celebró su décimo aniversario. Para conmemorarlo, sus creadores publicaron los datos más relevantes del servicio, entre ellos 36 millones de usuarios registrados, $3.2 billones de dólares de transacciones de bienes virtuales y más de 200.000 años de tiempo empleado por los usuarios en esa plataforma. La realidad, sin embargo, es que ese mundo virtual no ha llegado a ser el game changer que pretendía y hoy el mercado apunta en otras direcciones.

Foto del usuario de Flickr fotologic

Lo más cool ahora mismo en el mundo de la realidad virtual son las gafas de Oculus, la compañía recientemente adquirida por Facebook después de haber recibido una inversión inicial $2.4 millones a través de la web de crowdfunding Kickstarter. Oculus tiene como objetivo ofrecer una tecnología de realidad virtual envolvente, atractiva y asequible. Aunque inicialmente se desarrolló pensando en el mundo de los juegos, las gafas también se pueden usar para viajes virtuales o para pruebas de coches. La industria del porno ya se está frotando las manos pensando en las enormes posibilidades que ofrecen este tipo de dispositivos.

De hecho, el potencial de estas tecnologías es casi ilimitado. Esta infografía detalla los cambios que se van a producir en los puestos de trabajo cuando se consoliden la realidad virtual y la aumentada: la formación del personal técnico será mucho más fácil y eficaz, seremos mucho más productivos y podremos evitar desplazamientos gracias a salas de reuniones a las que podremos teletransportarnos.

Además parece que lo de ver dragones volando alrededor tuyo va a dejar de ser patrimonio exclusivo del LSD. Al menos eso es lo que promete la misteriosa Magic Leap, que acaba de cerrar una ronda de financiación de más de 500 millones de dólares, liderada -como no- por Google. Se conocen pocos detalles del proyecto pero parece que se trata de algo parecido a unas gafas que proyectan imágenes en tres dimensiones directamente sobre los ojos de quien las lleva, haciéndole creer que son reales. Su creador (Rony Abovitz) ve Magic Leap como un nuevo interfaz que puede sustituir a las pantalles de los ordenadores y teléfonos móviles y revolucionar las interacciones médico-paciente y las comunicaciones personales. Lo llama "cinematic reality" porque considera que los términos realidad virtual y realidad aumentada están anticuados.

Jason Silva va todavía más allá y afirma que podremos compartir nuestros sueños y pensamientos con otros (literalmente). Cree que pasaremos de las realidades virtuales a las “real virtualities” y pone como ejemplo al pulpo que se transforma según el entorno. El video es curioso. De hecho tiene pinta de que lo ha grabado después de una intensa sesión de Magic Leap con unicornios y elfos flotando por la habitación...

¿Matrix? Por si acaso Apple ha patentado una tecnología que genera imágenes en 3D y hologramas que el usuario podrá manipular con sus manos y Google ha solicitado la misma protección para un "sistema de seguimiento con la mirada". Según  cuenta la OMPI en este interesante artículo, también ha habido intentos de patentar o registar como marcas determinados gestos. 

Las implicaciones para el copyright y los sistemas contractuales de licenciamiento asociados también serán grandes puesto que es probable que estos dispositivos se utilicen masivamente para consumir contenidos, para "asistir virtualmente" a conciertos o eventos deportivos y/o para acceder a contenidos relacionados con lo que se emite en otra pantalla.

El camino hacia los coches sin conductor.

Una cálida mañana de junio de 2026 diste tu brazo a torcer. La presión de tus amigos, vecinos y familiares había sido muy fuerte, con los niños a la cabeza de la manifestación. ¡Papá, somos los únicos que no lo tenemos! A ti te encantaba tu viejo BMW X5 comprado en 2014, cuando los coches todavía se dejaban conducir.

El vendedor te estaba explicando las bondades del flamante Tesla BB7500 que acababas de adquirir, y por tu cabeza pasó fugazmente el famoso anuncio de tu amigo Toni Segarra: "¿Te gusta conducir?". Mientras, te dio por pensar en cómo habíamos llegado a la situación en que los vehículos con conductor habían pasado a ser minoría en las calles y ciudades españolas.

Foto del usuario de Flickr raneko

Los sistemas de ayuda a la conducción se fueron generalizando con el cambio de siglo. Al principio era que los coches aparcaban solos o que activaban automáticamente el frenado de emergencia ante el riesgo de colisión inminente. A partir de 2017 aparecieron los primeros vehículos que podían acelerar, frenar y circular hasta 100 kms/hora sin intervención humana en ciertos trayectos. La adopción masiva de la tecnología 'car-to-x' y la consolidación de las ciudades inteligentes introdujeron mejoras significativas en la seguridad vial: los coches se comunicaban entre ellos y también interactuaban constantemente con los semáforos, las señales y los 'smartphones' de los peatones. Los atascos en las grandes urbes fueron disminuyendo progresivamente porque los automóviles elegían la ruta y la forma de conducción más eficientes.

Evidentemente hubo problemas en el camino. Los expertos pronosticaron que los sistemas informáticos de estos vehículos fallarían y serían 'hackeados', y no se equivocaron. En febrero de 2021, un grupo de terroristas del Estado Islámico se hizo con el control de varios camiones no tripulados del ejército americano y los estrelló en distintos puntos de Los Ángeles y San Francisco causando numerosos muertos y sembrando el caos en California. Unas semanas antes se había producido un grave accidente en París cuando el sistema operativo de un Ford sin ocupantes falló repentinamente y el coche aceleró en lugar de frenar frente a un 'Stop' que señalizaba la entrada de un hospital.

Sorprendentemente para muchos, los temas técnicos más graves se solucionaron en un plazo breve y la opinión generalizada ahora es que los coches completamente autónomos (CCA) tienen un nivel de seguridad aceptable. De hecho, es raro ver algún siniestro en las carreteras, con la excepción de los automóviles que todavía son conducidos por personas.

Un tema que generó cierta polémica fue el accidente en el que falleció un motorista y su acompañante en 2022, en Praga. Un adolescente borracho cruzó indebidamente la calle justo delante de un taxi no tripulado de Uber, que hizo un giro brusco para esquivarle y provocó el choque fatal con la moto. En las investigaciones posteriores se comprobó que el algoritmo del vehículo decidió que la opción menos mala en ese caso era colisionar con el motorista que circulaba correctamente. Este accidente provocó un amplio debate en los medios europeos sobre cómo deberían programarse los algoritmos de los CCA. Después de muchas discusiones en la Comisión y el Parlamento Europeo, se decidió aprobar una Directiva con unos principios mínimos aplicables a estos sistemas, entre ellos que en el caso de la colisión fuera inevitable, el CCA nunca debería chocar contra los que estaban cumpliendo las normas. 

Los que sí se equivocaron de cabo a rabo fueron los abogados que apostaron por que se produciría un aluvión de pleitos complejísimos por cuestiones relacionadas con la responsabilidad en caso de accidentes. Ocurrió todo lo contrario: la cantidad de información procedente de las cámaras y sensores de los CCA hizo que no hubiera dudas sobre cómo se había producido el siniestro y a quién correspondía pagar los daños. De hecho, ahora mismo los asuntos relativos a accidentes en los que sólo intervienen vehículos no tripulados no llegan los jueces, sino que los resuelve HALDRIVE, un superordenador que recibe y procesa la información que remiten automáticamente los coches después del siniestro y emite, en pocos minutos, un veredicto con su resolución estableciendo los daños que, en su caso, corresponde pagar al dueño del CCA causante del choque.

Lo más complicado desde el punto de vista legal fue adaptar la Convención de Viena de 1968 de vehículos a motor. Las discusiones en el grupo de expertos de la ONU fueron interminables. En abril de 2014 se enmendó para permitir que el conductor pudiera apartar las manos de volante en ciertas circunstancias. En enero de 2017 se aceptó que los coches pudieran circular de manera completamente autónoma, aunque con bastantes restricciones (entre otras, no podían pasar de 30 Kms/hora en ciudad y 100 kms/hora en autovías) y siempre con presencia de una persona que pudiera tomar los mandos del vehículo en caso de problemas. El Tratado se fue modificando en los años siguientes hasta que, en octubre de 2020, la presión de Google y los grandes fabricantes de automóviles consiguió que se suprimiera la obligación de que hubiera una persona al mando del vehículo. Los países desarrollados fueron adaptado progresivamente sus normativas nacionales y, ahora mismo, prácticamente todos permiten la circulación de CCA, aunque con restricciones que varían de un estado a otro.

"¡Cómo mola!" El grito de tu hijo mayor interrumpe tus pensamientos. El vendedor le está explicando cómo programar el coche para que le recoja en su discoteca preferida. Basta con darle indicaciones a través de la 'app' de Tesla. El coche se ocupa de localizar la posición exacta de tu móvil, recogerte dónde estés y llevarte a casa, sin tener que preocuparte por las copas de más que puedas haber tomado.

Sonríes. Al final va a ser divertido y útil esto de tener un coche que te empieza a recordar a Kitt.

Este artículo se publicó originariamente en Hoja de Router el 4 de diciembre.

Wearables y privacidad

A pesar de que las gafas de Google no están funcionando como se esperaba (y ya hay muchas voces hablando del fracaso de este proyecto), todos los informes de analistas apuntan a un crecimiento exponencial de los llamados wearables o dispositivos conectados a internet que llevamos con nosotros. Analysys Mason estima que el año que viene se venderán casi 14 millones de dispositivos (frente al millón de este año) y que el mercado crecerá un 1.150% hasta 2020, empujado -como no- por Apple y su Watch.

Foto del usuario de Flickr Keoni Cabral

Steve Mann es uno de los pioneros en el campo de los wearables. No en vano este profesor canadiense lleva más de 35 años diseñando, fabricando y probando gafas computerizadas. En este interesante artículo cuenta su experiencia. Chris Dancy tampoco se queda atrás. Mashable le considera “la persona más conectada del mundo”. Comenzó hace dos años porque quería perder peso y se  instaló múltiples sensores para entender lo que ocurría en su cuerpo. El año pasado se gastó 40.000 dólares en dispositivos conectados y ahora no sale a la calle sin sus Google Glass, Galaxy Gear, Pebble watch, un par de smartphones de última generación y gadgets similares. Más lejos todavía han llegado Amal Graafstra y Kevin Warwick que se han implantado chips dentro de su cuerpo y, en el caso de Warwick, el chip instalado en su brazo está incluso conectado con su sistema nervioso.

La industria de la moda se ha dado cuenta del filón y esta intentando aprovechar la oportunidad. Uno de los proyectos más interesantes en este campo lo lidera una empresa española. Se trata de First V1sion, que está trabajando en una cámara integrada en la camiseta de los deportistas profesionales para que podamos ver y casi sentir lo mismo que Messi en tiempo real.  La idea ha sido apadrinada por Wayra, la aceleradora de negocios de Telefónica y ha sido seleccionada por Intel como uno de los wearables más interesantes del año.

En cuanto a los temas legales relacionados con esta tecnología, el principal riesgo es para la privacidad, no sólo propia sino también de los terceros con los que interactuamos diariamente. Dispositivos como Memoto/Narrative Clip (una cámara  de forma cuadrada, del tamaño de una chapa, que no tiene botones y que sé activa al colgarla a la ropa) pueden tomar de manera automática fotografías referenciadas geográficamente  cada 30 segundos y te permiten hacer lo que conoce como lifelogging, algo así como llevar un registro audiovisual de tu vida, pero no sólo de la tuya sino también de las personas que te rodean y en muchos casos sin que ellos se den cuenta ni lo permitan. 

Las autoridades encargadas de la protección de la privacidad deberían empezar a recabar información sobre este tipo de iniciativas para valorar su incidencia en la esfera de intimidad de las personas.

Este artículo se publicó originalmente en Rincón de la Tecnología el 1 de diciembre.

¿Qué es la singularidad tecnológica?

En su última película (Trascendence), Johnny Deep hace el papel de un prestigioso investigador en el campo de la inteligencia artificial que trabaja en la creación de una máquina que combina la inteligencia colectiva con las emociones humanas. Siguiendo con el género de la ciencia ficción, Ex Machina (todavía no estrenada) trata sobre los límites de la inteligencia artificial y las relaciones hombre-máquina. En la misma línea Antonio Banderas acaba de presentar Autómata en el último Festival de San Sebastián, cinta ambientada en 2044, año en el que los robots amenazan con tomar el control del mundo.

Podríamos citar muchos más ejemplos de películas de temática parecida pero todas ellas tienen en común que describen un futuro muy similar al que postulan los defensores de la denominada singularidad tecnológica o simplemente singularidad (singularity en inglés). Wikipedia la define como “un acontecimiento futuro en el que se predice que el progreso tecnológico y el cambio social se acelerarán debido al desarrollo de inteligencia sobrehumana, cambiando nuestro entorno de manera tal, que cualquier ser humano anterior a la singularidad sería incapaz de comprender o predecir”.

Foto del usuario de Flickr Paul Keller

Los partidarios de esta filosofía argumentan que los avances en los campos de inteligencia artificial, nanotecnología, robótica, neurología, computación cognoscitiva y genética posibilitarán en un futuro cercano un desarrollo exponencial del ser humano hasta convertirlo en un superhombre (en eso coinciden con el transhumanismo) que podría incluso llegar a ser inmortal. Esto último de la inmortalidad podría sonar a broma pero lo afirman científicos tan prestigiosos como Stephen Hawking o Marvin Minsky.

Ray Kurzweil es uno de los principales defensores de esa corriente. En su libro “La singularidad está cerca” expone la teoría de los rendimientos acelerados, una ley que -según él- llevará a la humanidad a un escenario donde se producirá un explosión de inteligencia que transformará el mundo de forma drástica. Pero Kurzweil no está no sólo. Otros prestigiosos científicos (Aubrey de Grey, Michio Kaku o el citado Marvin Minsky entre otros) y empresas pioneras como Google le apoyan en la difusión de las bondades de la singularidad y el transhumanismo. De hecho, han creado una universidad en California (Singularity University) cuya misión es “educar, inspirar y dar empowerment a los líderes para aplicar tecnologías exponenciales que solucionen los grandes desafíos a los que se enfrenta la humanidad actualmente”

¿Se cumplirá finalmente lo que pronostican Kurzweil y compañía? Lo cierto es que un futuro como el que nos presentan las películas citadas poblado de cíborgs y controlado por máquinas replicantes más inteligentes que nosotros, parece poco halagüeño para las “personas normales”. Las tres reglas de la robótica de Asimov podrían servir para el momento en el que fueron publicadas (1942), pero creo que convendría abrir un debate social amplio sobre los aspectos éticos y legales de estos avances médicos y tecnológicos.

Este artículo fue publicado originariamente en Rincón de la Tecnología el 4 de noviembre.

 

¿Cómo están regulados los drones en España?

¿Tienes interés personal o profesional en la regulación de los drones?

Si es así date prisa en hacer comentarios porque el próximo día 15 de noviembre se cierra el periodo de información pública del proyecto de Real Decreto por el que se regula la utilización civil de las aeronaves pilotadas por control remoto. Dicho Real Decreto -una vez que sea aprobado y entre en vigor- será la norma básica que contemple los requisitos de vuelo de drones en España y derogará la regulación establecida actualmente en el artículo 50 de la Ley 18/2014 de aprobación de medidas urgentes para el crecimiento, la competitividad y la eficiencia. Por cierto que lo de que un Real Decreto derogue un artículo de una ley no deja de ser curioso, pero así lo prevé la Disposición Final 2ª de la misma.

Foto del usuario de Flickr eschipul

La regulación de estos aparatos no es un tema fácil. Que se lo digan a la FAA americana que lleva desde 2012 trabajando en una norma por mandato del Congreso y todavía no ha sido capaz de presentar una versión definitiva, aunque parece que estará preparada antes de que acabe el año.

En nuestro país, el organismo encargado de controlar el uso de drones es AESA (Agencia Estatal de Seguridad Aérea). En abril, "con el objetivo de evitar mal entendidos y posibles incidentes", AESA publicó una nota puntualizando que "no está permitido, y nunca lo ha estado, el uso de aeronaves pilotadas por control remoto con fines comerciales o profesionales". La nota anunciaba que se estaba trabajando en una norma que se aprobaría en breve (se refería a la Ley 18/2014 que hemos mencionado antes). 

Lo que me parece más interesante de la nota es la aclaración que hace respecto al concepto de dron. Lo define genéricamente como una "una aeronave pilotada por control remoto". Añade que originariamente se llamaba así a algunas de estas aeronaves de uso militar pero en la actualidad se ha extendido este nombre a todas los aparatos pilotados por control remoto, tanto militares como civiles. Sin embargo, AESA puntualiza que una aeronave pilotada por control remoto legalmente se considera dron cuando tiene un uso comercial o profesional. Cuando el uso de estas aeronaves tiene exclusivamente un fin deportivo o de recreo, son consideradas aeromodelos, y se rigen bajo la normativa de éstos.

Debemos distinguir por tanto entre drones y aeromodelos. Respecto de estos últimos, AESA precisa que la actividad del aeromodelismo la regula la Real Federación Aeronáutica de España (RFAE) y además, cada Comunidad Autónoma y cada municipio puede tener su propia normativa. En cualquier caso, los aeromodelos no pueden superar los 100 metros de altura, ni volar sobre núcleos urbanos, ni sobre grupos de población (playas, conciertos, etc). 

Es decir, los que llamamos vulgarmente "drones caseros" son aeromodelos de acuerdo con la regulación. En cuanto a los drones propiamente dichos (los que tienen fines comerciales o profesionales), la Ley 18/2014 establece un conjunto de limitaciones y reglas de obligado cumplimiento en función del peso de la aeronave en el momento del despegue y de la finalidad concreta de los vuelos. También se detallan los requisitos para los pilotos y las empresas que operen dichos aparatos. Adicionalmente, estos vuelos tendrán que ser comunicados a AESA o autorizados previamente por ésta, en función del peso del dron (por debajo de 25 kg. no será necesaria autorización sino sólo comunicación). El cumplimiento de todos esos requisitos no exime al responsable de la aeronave de la observancia del resto de la normativa aplicable, en particular en relación con el uso del espectro radioeléctrico, la protección de datos o la toma de imágenes aéreas, ni de su responsabilidad por los daños causados por la operación o la aeronave. Consciente de la dificultad de la norma, AESA ha publicado en su web una lista de preguntas frecuentes.

Hasta aquí la normativa vigente a día de hoy pero habíamos dicho que el proyecto de Real Decreto que ahora está en consulta pública va a sustituir a la Ley 18/2014. ¿Qué novedades aporta dicho documento (en su redacción actual)?

El Real Decreto se aplicará a los sistemas de aeronaves pilotadas por control remoto (a los que llama, RPAS por sus siglas en inglés Remotely Piloted Aircraft Systems), a su aeronavegabilidad, a las operaciones que se realicen con ellos y al personal que las pilote o ayude al piloto a ejercer sus funciones, con excepción de los vuelos que se desarrollen en su integridad en espacios interiores o para fines militares. A este respecto, debemos decir que el proyecto de Real Decreto no aporta grandes novedades frente a lo que disponía la Ley 18/2014, sino que más bien desarrolla su contenido.

También se aplicará al uso y operación de aeromodelos y ésta es la parte más novedosa. Los aeromodelos se definen como "aeronaves, capaces de sostenerse en la atmósfera, no susceptibles de llevar una persona a bordo, siempre que sean utilizadas exclusivamente para demostraciones aéreas, actividades deportivas, recreativas o de competición.". La norma establece los requisitos que debe cumplir el aeromodelo (de tipo técnico), la operación de vuelo (diurno, dentro del alcance visual del piloto, en zonas autorizadas y a más de 8 kms. de un aeropuerto) y el piloto (tener la cualificación necesaria y acreditar las exigencia de aptitud o exigencia requeridas).

En consecuencia, si alguien va a ir a Juguetrónica  a comprar uno de los muchos juguetitos voladores que venden, merece la pena que antes de usarlos al aire libre se lea bien las instrucciones y las normas mencionadas para evitar sustos y multas.

Los riesgos del internet de las cosas (IoT)

 2014 está siendo el año del internet del las cosas (IoT) por su siglas en inglés. @GilPress explica en este interesante artículo las razones que explican dicho auge. Además, las expectativas económicas para este grupo de tecnologías son impresionantes. Según Gartner, los productos y servicios relacionados con IoT generarán unos ingresos incrementales que superarán los $300 billones (americanos) en 2020. Por su parte, IDC prevee que el mercado mundial de soluciones IoT crecerá desde los $1.9 trillones del año pasado hasta los $7.1 trillones (también americanos) en el año 2020.

Foto del usuario de Flickr Kalexanderson

 

Es indudable que cada vez dependemos más de ordenadores y máquinas para casi cualquier actividad cotidiana. Ello nos aporta multitud de ventajas y mejoras de productividad pero no podemos olvidar que genera otros problemas. Para empezar, las máquinas fallan de vez en cuando (sobre todo cuanto más complejas son y más interconectadas están) y también corren el riesgo de atacadas y hackeadas. 

El año pasado, el índice Dow Jones cayó bruscamente por un tuit falso de Associated Press que decía que había habido dos explosiones y que el Presidente Obama estaba herido. También en 2013, Hugo Teso hizo temblar al sector aeronáutico cuando demostró que podía tomar el control de un avión comercial a través de su smartphone. Teso insiste que aquello fue sólo una prueba de concepto y que él comunica los fallos que descubre en los protocolos a la Agencia Europea de Seguridad Aérea antes de hacerlos públicos, aunque parece que ni la Agencia ni las propias empresas afectadas muestran mucho interés.

En la misma línea, dos investigadores acaban de hacer público un informe en el que demuestra cómo se pueden atacar remotamente más de 20 tipos de coches y tomar control de la dirección y/o los frenos. Para ello han estudiado sus funcionalidades inalámbricas (Bluetooth, conexiones móviles, etc); la arquitectura técnica del coche y en concreto las opciones que ofrece para acceder al sistema de frenos y de dirección del vehículo; así como las funciones de asistencia (frenado automático o aparcamiento asistido). El Infinity Q50 sale bastante mal parado del estudio mientras que la arquitectura técnica del Audi A8 es considerada la mejor. Que los coches estén conectados es estupendo, pero los fabricantes no deberían perder nunca de vista que lo más importante es la seguridad.

Los termostatos e impresoras caseras también parece que son fácilmente hackeables para, a partir de ahí, poder espiar nuestra intimidad. Del ordenador, el smartphone y los servidores en la nube, mejor ni hablamos porque todos los días tenemos noticias de vulneraciones o filtraciones. Creo que vamos a tener que prestar más atención al ensayista norteamericano Nicholas Carr y leer con atención su nuevo libro Atrapados: cómo las máquinas se apoderan de nuestras vidas.  

En una reciente entrevista concedida a El País, Carr explicaba que hemos caído en una excesiva automatización. La tecnología guía nuestras búsquedas de información, nuestra participación en la conversación de las redes, nuestras compras, nuestra búsqueda de amigos. Nos descarga de labores pesadas pero, poco a poco, nos conduce a lo que él denomina complacencia automatizada: confiamos en que la máquina lo resolverá todo, nos encomendamos a ella como si fuera todopoderosa, y dejamos nuestra atención a la deriva. 

En fin, probablemente la virtud esté en el medio, como ya apuntaba Aristóteles hace muchos siglos, pero conseguir el equilibrio correcto no parece que vaya a ser una tarea fácil.

Robots sociales que aprenden y entienden tus emociones (II). Retos morales y legales

Como veíamos en el artículo anterior, parece que lo que cuenta la película Her no está tan lejos como parece. Pero ¿cuáles son los riesgos de estos sistemas de inteligencia artificial avanzados, en especial en el caso de que cuiden o interactúen habitualmente con personas más vulnerables como menores o ancianos?

Foto del usuario de Flickr juhansonin

Es evidente que niños y mayores son mucho más fácilmente manipulables por este tipo de sistemas, máxime si están instalados en un robot con apariencia humana, en cuyo caso podrían llegar a no darse cuenta de que están comunicándose con máquinas ¿Ponemos límites a lo que pueden hacer estas herramientas o dejamos que sean programadas para maximizar el beneficio de las empresas que las comercializan? ¿Pueden simular una conversación con un niño para obtener información sobre su familia o condicionar a un anciano para que no salga de casa porque se puede perder en la calle? ¿Nos preocupa que puedan manipular sus sentimientos apelando a las emociones?

El Consejo de Ética de Dinamarca se ha planteado si es aceptable que los robots sean diseñados para hacer creer a ciertas personas que tienen sentimientos. Se inclinan a pensar que dichos sistemas no son un problema en si mismos y recomiendan a los cuidadores de la gente más vulnerable que se aseguren de que no se pone en riesgo su dignidad. Me parece un buen principio y, sobre todo, celebro que haya países que entiendan que las cuestiones éticas son relevantes y promuevan este tipo de instituciones destinadas a generar informes que sirvan de base para un acto legislativo o un eventual debate social posterior. Ojalá cundiera el ejemplo.

Siguiendo con los temas morales, los profesores de la Universidad de Notre Dame, Laurel D. Riek y Don Howard han elaborado un código ético dirigido a las personas que desarrollan robots diseñados para interactuar con humanos, que termina con unas recomendaciones bastante razonables como que sería deseable que el comportamiento de los robots fuera predecible o que la privacidad debe ser respetada de la forma más amplia. Os dejo también un postcast de media hora con una entrevista a la doctora Riek, en la que ofrece más información sobre sus motivaciones para preparar el documento y los aspectos tratados en el código.

En cuanto a los riesgos legales, ya apuntamos algunos de ellos hace unas semanas en Replicante Legal. Me parece que las empresas que comercialicen estos robots tienen que estar obligadas a informar de forma muy clara sobre qué datos van a obtener, qué uso hará de ellos, si los va a ceder a terceros y en qué circunstancias, si el usuario podrá acceder a los datos y/o borrarlos efectivamente, así como las medidas de seguridad implementadas para impedir que el dispositivo sea hackeado. Otro punto esencial es la usabilidad: debe ofrecerse a los usuarios la posibilidad de apagarlo completamente y de configurarlo fácilmente para que sólo ejecute las acciones requeridas.

En la misma línea, un interesante artículo reciente de Hoja de Router alertaba sobre los peligros de la computación afectiva. Un número creciente de empresas y dispositivos están enfocados en detectar y procesar nuestras emociones, dado el papel tan relevante que éstas juegan en cualquier decisión de compra. Lo preocupante de este caso es que la máquina podría estar recopilando esa información sin que te dieras cuenta puesto que estos sistemas no requieren una interacción directa para cumplir su finalidad. Es evidente que si los usuarios no son plenamente conscientes de todas las implicaciones para su intimidad y privacidad de estas nuevas técnicas, difícilmente podrán ser consideradas conformes con la normativa de protección de datos.

Robots sociales que aprenden y entienden tus emociones (I).

Ya están aquí y han venido para quedarse. Me refiero a los robots sociales, máquinas capaces de captar las emociones humanas y/o de aprender en cada interacción. El ejemplo más claro es Pepper. Se trata de un robot que está presente desde hace meses en las tiendas de Tokio del operador de telecomunicaciones japones Softbank y cuyo objetivo declarado es vivir con humanos aunque no para cocinar ni limpiar, sino para ser su "compañero emocional", en sentido de hablar y entender la alegría, tristeza o sorpresa de su interlocutor e incluso ser capaz de expresar algunas emociones básicas.

Aldebaran, la empresa que lo ha creado, afirma que la experiencia que están acumulando en las tiendas, servirá para desarrollar una versión más sofisticada de Pepper que saldrá a la venta en Japón en febrero de 2015 por unos 2.000 dólares.

Foto del usuario de Flickr Martica

Por otro lado, IPsoft acaba de presentar Amelia, un sistema basado en inteligencia artificial que habla más de 20 idiomas y es capaz de leer y entender textos, seguir procesos, resolver problemas, responder a cuestiones y, lo más importante, aprender de la experiencia. ¿Cómo lo hace? Según sus creadores, Amelia es capaz de entender el contexto, aplicar la lógica y deducir implicaciones.

Baby X es un proyecto curioso del Laboratorio de Tecnologías Animadas de Auckland (Nueva Zelanda). Lo lidera Mark Sagar, con experiencia en la creación de personajes generados por ordenador en películas como King Kong o Avatar, que  lo define como "una exploración de la interacción emocional a través de un avatar interactivo". Baby X es un programa que imita el proceso biológico de aprendizaje simulando mediante algoritmos las reacciones del cerebro y las expresiones faciales. Merece la pena ver los vídeos del link anterior porque si no es difícil de entender el proyecto. Por cierto que para desarollar el avatar, Sagar ha tomado a su hija Francesca como modelo. 

Tanto Amelia como Baby X pueder ser embebidos en humanoides (como Pepper), que les aporten las funciones mecánicas de las que carecen. Ambos comparten además el objetivo último de comportarse naturalmente o de forma lo más parecida a como lo haría un ser humano.

El objetivo de Viv es ser el primer asistente personal inteligente. Los fundadores de esta startup trabajaron antes en el desarrollo de Siri y aseguran que Viv será capaz de entender tus preferencias y usar multitud de conexiones a la web para contestar casi cualquier pregunta o ejecutar casi cualquier acción. De hecho le llaman "cerebro global" porque se basa en contenidos disponibles en internet y no está sujeto a las limitaciones de sus programadores. Afirma que Viv será capaz de ejecutar correctamente acciones complejas como "búscame un vuelo a Dallas en un asiento en el que quepa Shaq (Shaquille O´Neal, exjugador de la NBA)" en menos de un segundo.

¿Echábais de menos a alguien? Sí, Amazon también se apunta a la fiesta y acaba de lanzar Echo, un asistente familiar que puede poner música, responder a todo tipo de preguntas y ofrecer noticias.

Si se cumplen las predicciones anteriores, en breve estarán disponibles comercialmente robots que serán capaces de aprender, de resolver problemas y de entender nuestras emociones. ¿Podemos dejar a esas máquinas al cuidado de personas mayores y niños? El autor de este artículo sobre cuidado de ancianos afirma que sí y que casi no nos va a quedar otro remedio dada la escasez de médicos para atenderlos. En el siguiente artículo analizaremos las numerosas cuestiones éticas y legales que se plantean.

Automatización y economía colaborativa están transformando radicalmente el mercado de trabajo.

¿Los robots y los sistemas de inteligencia artificial destruirán más empleo del que crearán en 2025? Esa es la pregunta que el Pew Research Center formuló a casi 2000 expertos en tecnología e internet en un estudio que se acaba de hacer público. 

El 52% consideró que muchos de los trabajos actuales (especialmente en los campos de asistencia sanitaria, transporte, logística o atención al cliente) serán reemplazados por máquinas pero tienen fe en que el ser humano aprovechará las capacidades que le hacen único y será capaz de crear nuevos empleos y formas de ganarse la vida como lleva haciendo desde la revolución industrial. Argumentan que, historicamente, los avances tecnológicos han sido creadores netos de empleo y que estos cambios contribuirán a liberarnos de las ocupaciones más penosas, permitiendo incluso redefinir el propio concepto de trabajo. 

Foto tomada de Wikimedia Commons

La tendencia hacia la automatización es imparable. El MIT ya lo pronosticaba así hace dos años en un extenso informe sobre el futuro del mercado de trabajo. Por su parte, la BBC analiza las ventajas y desventajas de que tu jefe o empleador sea un algoritmo, como ocurre en plataformas como mobileworks o freelancer. Entre los pros destaca que da instrucciones claras, no tiene cambios de humor, procesa información a la velocidad del rayo y no hace micromanagement, ni se toma los errores como algo personal. Por contra, están focalizados en la optimización de las tareas con una rigidez que les impide tener en cuenta el impacto de factores como las enfermedades puntuales y no son capaces de captar -al menos a día de hoy- los matices que subyacen en cualquier interacción con seres humanos.

Los algoritmos también juegan un papel esencial en lo que se conoce como sharing economy (también denominada on-demand o peer economy). Los ejemplos más citados son Uber y Airbnb pero existen muchas empresas con modelos de negocio basado en la colaboración (entre ellas Fon, TaskRabbit, dogvacay o Spinlister).

Un artículo reciente de Techcrunch afirma que los algortimos están ganando la partida hoy a los sindicatos como apoyo de los trabajadores, en el sentido de que ofrecen flexibilidad respecto a cómo y cuándo trabajar, consiguiendo que oferta y demanda se equilibren mediante el constante ajuste de precios e incentivos. Esa flexibilidad es una caracterísica muy valorada por muchos jóvenes con talento puesto que les permite compatibilizar su vida laboral con sus pasiones y a la vez generar su propia reputación y marca personal. Una de las frases de ese artículo me ha gustado especialmente. Traducida sería "la economía siempre ha tenido lo que podemos denominar empleos "long-tail" pero ahora tiene la posiblidad de emparejarlos con trabajadores "long-tail". El autor (@DannyCrichton) termina abogando por modificar drásticamente la normativa laboral vigente para asegurar que se regula adecuadamente el ganarse la vida con una multiplicidad de pequeñas ocupaciones.

En el mismo sentido, un artículo de la semana pasada de El Confidencial analiza el auge de los trabajos freelance y afirma -apoyándose en un estudio- que más de 50 millones de norteamericanos son autónomos, cifra que previsiblemente crecerá en los próximos años puesto que las grandes empresas tienen planes de aumentar sus encargos a trabajadores externos.

Explorando el transhumanismo y la "personalidad mecánica"

¿Qué nos hace humanos? Hemos escuchado esa pregunta muchas veces y la respuesta suele enfocarse a lo (poco) que nos diferencia de los primates. Apenas el 1% de nuestro ADN es distinto, lo que no parece mucho después de más de seis millones de años de evolución separada.

El caso es que también podemos formular la misma cuestión en relación a qué nos distingue de las máquinas. La respuesta podía ser obvia hace unos años pero hoy no lo es tanto. Dos interesantes artículos, uno de ExtremeTech sobre transhumanismo y otro reciente de la BBC sobre cíborgs plantean temas sobre los que merece la pena reflexionar.

Tomada de Flickr, usuario khalid Albaih

En esencia, el transhumanismo propone trasformar y mejorar sus capacidades físicas y psíquicas del ser humano a través de la tecnología. Para los defensores de este movimiento, es perfectamente legítimo "instalarse" cualquier tipo de prótesis o implante que potencie el rendimiento del cuerpo. A día de hoy no hay normas que impidan a esas personas convertirse en cíborgs. Tenemos cada vez más ejemplos y en un artículo reciente de Replicante mencionamos a varios.

Ahora imaginemos que la ciencia y la tecnología son capaces de crear algo parecido a un Robocop en un futuro cercano. ¿Sería una máquina o una persona? Formulada desde un punto de vista jurídico la cuestión sería: ¿si me instalo multitud de elementos robóticos/artificiales en mi cuerpo, puedo  en algún momento perder mi personalidad humana y convertirme en máquina? El Código Civil español dice que la personalidad se extingue por la muerte de la persona. Debemos entender que se refiere a la muerte cerebral porque el cuerpo no puede sobrevivir sin la mente. A la inversa sí es posible y es lo que propone el profesor Kevin Warwick: olvidarse del cuerpo y dirigir los esfuerzos y recursos que ahora dedicamos a curar enfermedades como el cáncer, a encontrar formas de mantener el cerebro vivo fuera de nuestro cuerpo.

Esa afirmación podría parecer una boutade si no fuera porque científicos tan prestigiosos como Stephen Hawking o Marvin Minsk está hablando de ir varios pasos más allá y coinciden en que será posible alcanzar la inmortalidad (o una cierta forma de ella) mediante la copia de nuestro cerebro, al estilo de la reciente película Trascendence. Siento disentir de la opinión de ambos sabios pero creo que no sería buena idea y que traería más problemas que ventajas.

Vamos a plantear ahora la pregunta desde otro ángulo ¿podrían en algún momento las máquinas ser consideradas personas? Para poder contestar conviene definir antes cuáles son los rasgos característicos de los seres humanos. Dejando al margen aspectos religiosos y espirituales, podríamos enumerar: la memoria, los sentimientos, la consciencia de uno mismo y la capacidad de comunicarse mediante el lenguaje, de razonar, de aprender, de crear, entre otros.

Sé que a día de hoy no ocurre pero ¿si un robot con apariencia humana llegara en algún momento a tener todos esos elementos le consideraríamos persona? Si acudimos de nuevo al Código Civil la respuesta es claramente negativa. El artículo 30 establece que "la personalidad se adquiere en el momento del nacimiento con vida, una vez producido el entero desprendimiento del seno materno". De acuerdo con esta norma, un robot nunca podrá tener personalidad civil (y evidentemente tampoco jurídica) pero creo que tendría sentido desarrollar una nueva categoría de personalidad, a la que podríamos llamar "personalidad mecánica", para englobar a las máquinas que sean capaces de crear y de tomar decisiones y razonar autónomamente. De otra manera veo muy difícil dar una respuesta coherente a las frecuentes cuestiones de responsabilidad (y, en menor medida de propiedad intelectual) que se plantearán en cuanto estén disponibles comercialmente.

robolaw (III): el debate sobre las mejoras en el cuerpo humano y algunas reflexiones sobre robots cirujanos y robots cuidadores

El informe de robolaw dedica tres apartados a estudiar la problemática de las prótesis robóticas, la cirugía asistida por máquinas y los robots dedicados al cuidado de ancianos y personas discapacidas.

El primero de los tres es el que me parece más interesante, sobre todo la cuestión del human enhancement o "mejora artificial" del cuerpo humano. Nadie pone en duda que alguien que ha sufrido una amputación de un miembro como consecuencia de un accidente, pueda recuperar las funcionalidades perdidas con una prótesis. El debate está en qué hacemos con quien -previamente enfermo o no- quiere instarse una prótesis que (artificialmente) le habilite para ver u oir excepcionalmente bien, o tener mucha más fuerza, velocidad, resistencia, memoria o inteligencia que la persona más capaz o incluso que le permita adquirir capacidades no disponibles para los humanos, como el caso del primer cyborg reconocido por un gobierno, Neil Harbisson, que puede "escuchar colores" que no están al alcance de nadie más.

Foto de Neil Harbisson tomada de Wikimedia Commons. Autor Moon Ribas

A este respecto, el informe sugiere abrir un amplio debate social y plantea varias preguntas relevantes: ¿qué formas de intervención en el cuerpo estamos preparados para consentir? ¿vamos a poner límites más allá de la seguridad y la viabilidad tecnologica? ¿debemos considerar cuestiones biológicas o también psicológicas y de identidad personal? ¿quién y bajo qué límites, circunstancias o principios estará habilitado para tomar la decisión de "mejorarse artificialmente"?

Para arrojar algo de luz sobre dichas cuestiones, robolaw propone acudir a los principios recogidos en la Carta Europea de los Derechos Humanos (ECFR por sus siglas en inglés). La dignidad humana aparece en el artículo 1 de la ECFR pero se suele definir de forma negativa, en el sentido de evitar conductas que la menoscaben y por tanto no ofrece cobertura para justificar que una persona sana se coloque una prótesis que mejore radicalmente su rendimiento. Así mismo, el derecho a la salud no implica que se pueda mejorar el propio cuerpo sin límite. Finalmente, el documento sugiere que el principio de igualdad y no discriminación se tome en consideración para prevenir que los más ricos se aprovechen de estas tecnologías para convertirse en super hombres

Por otro lado, el informe hace un planteamiento novedoso y propone utilizar el principio de precaución del artículo 191 del Tratado de Funcionamiento de la UE (TFEU), pensado inicialmente para la protección del medio ambiente. Aplicado a este caso sería: dado el desconocimiento actual de sus efectos a medio y largo plazo y las profundas implicaciones filosóficas, éticas e incluso religiosas, parece aconsejable rechazar las técnicas de mejora humana más radicales (innovación responsable) y no dejar que sea el individuo sino un comité médico quien decida que prótesis se debe instalar, una vez analizadas las características del caso concreto. En aplicación de lo anterior, el informe concluye que las prótesis deberían ser herramientas para devolver a las personas las funcionalidades que hayan perdido pero no instrumentos de mejora.

En cuanto a la cirugía asistida por máquinas, robolaw se centra en la problemática que generan robots como da Vinci. En la foto de abajo se puede ver que los elementos principales son la/s consola/s desde la que operan los cirujanos y la unidad que está en contacto con el paciente, que consta de tres brazos articulados y una cámara endoscópica.

copyright 2014 Intuitive Surgical Inc

©[year] Intuitive Surgical, Inc.

El hecho de que cirujano y paciente estén físicamente separados y que el doctor opere a través del robot tiene varias implicaciones destacadas en el informe:

- la responsabilidad no debería ser conjunto de todos los intervinientes en la operación sino que se debería atribuir al doctor/es que maneje/n la consola principal, dado que es quien tiene el control prácticamente único de la situación.

- como el médico puede estar en otro país (telemedicina), se recomienda que la Comisión Europea adopte unas reglas que uniformicen el régimen de responsabilidad así como los estándares de seguros, para evitar situaciones de conflicto de leyes aplicables, al menos en Europa.

- se recomienda que dichos robots tenga una "caja negra" que registre todos los comandos recibidos, los procesos ejecutados por la máquina y cualquier error del sistema u otra información relevante, para facilitar la determinación de responsabilidad en caso de fallos que se puedan producir durante las operaciones.


Por último, la parte del informe relativa a los robot cuidadores es la que me parece la más floja. Se centra en la asistencia a ancianos y discapacitados sin tener en cuenta las situaciones que plantearía el cuidado de niños, ni aportar nada relevante. Tampoco aborda la problemática de los robots con emociones (como Pepper o Baby X) y la influencia que éstos pueden ejercer sobre los menores de edad y las personas más sensible y vulnerables.

Robolaw (II): coches sin conductor

Los coches que conducimos actualmente están incorporando gradualmente funcionalidades que nos facilitan la conducción y mejoran nuestra seguridad (entre otras podemos mencionar: aviso de cambio involuntario de carril, sistema de frenado de emergencia, regulador/limitador de velocidad, aparcamiento asistido, etc.)

No hemos llegado todavía a la situación que se describe en el video anterior de Volvo pero Google y los grandes fabricantes están trabajando para que los coches sin conductor sean una realidad comercial en menos de 10 años. Podemos intuir que serán como "supercomputadoras con ruedas", que incorporarán un software muy sofisticado (parece probable que la "inteligencia" resida en los coches más que en las carreteras), así como mapas en tres dimensiones, sensores de todo tipo para evitar choques e incluso comunicación entre vehículos (projecto Car-to-X alemán).

Robolaw dedica el segundo capítulo de su informe a los coches sin conductor. En primer lugar analiza las ventajas que aportaría, entre ellas la reducción de accidentes (el 95% de los mismos está causado por un error humano, con una tasa anual de 30.000 muertos y 1.5 millones de heridos), la disminución del consumo de combustible, el incremento de la movilidad de personas con problemas de visión u otra discapacidad y la mejora del medio ambiente, por el probable impulso que esta tecnología supondría para los sistemas de compartición de vehiculos.

Foto de Wikimedia Commons. Autor Steve Jurvetson

A continuación, el documento trata el dilema ético conocido como trolley paradox, que el profesor Patrick Lin desarrolla en su artículo "The robot car of tomorrow may just be programmed to hit you". El supuesto teórico es el siguiente: imaginemos que el conductor de un tren que sufre una avería tiene que decidir entre desviar el tren y matar a un niño o mantener la dirección y matar a cinco personas. Otro parecido sería: si el accidente es inevitable y el resultado va a ser atropellar un motorista ¿evitamos al que va sin casco porque es más vulnerable y elegimos chocarnos contra el que lleva casco, penalizando así al que cumple las normas? Lin argumenta que ese tipo de decisiones no podemos programarlas previamente, ni dejarlas a la decisión de sistemas autónomos inteligentes puesto que implican un juicio moral y por ello aboga porque en los coches siempre haya una presencia humana que pueda tomar el control en ese tipo de situaciones.

Otro asunto interesante analizado en el documento es el equilibrio entre seguridad y libertad. El ejemplo típico sería el diseño del coche autónomo para que nunca superara los límites de velocidad establecidos o para que sólo fuera capaz de ejecutar ciertas acciones. ¿Aceptamos esta tecnoregulación o dejamos algo de libertad al individuo para configurar su vehículo?

El análisis legal se centra en el tema de la responsabilidad por los accidentes que se puedan producir y plantea  una pregunta previa ¿qué nivel de seguridad vamos a exigir de los coches autónomos? ¿El mismo que el de un conductor medio, el de un conductor sobresaliente u otro? La cuestión es relevante porque dónde coloquemos el listón de seguridad exigible y el de responsabilidad asociado, puede afectar a la disponibilidad comercial de esta nueva tecnología. Es el chilling effect que comentamos en el artículo anterior. Si lo situamos muy alto, los fabricantes no se arriesgarán a poner a la venta estos vehículos hasta que estén seguros de alcanzar esos niveles, lo cual puede retrasar excesivamente la disponibilidad de una tecnología que puede reportar grandes beneficios para la sociedad. Por el contrario, un nivel de responsabilidad excesivamente bajo impide que se consigan los objetivos perseguidos por la normativa, principalmente la prevención de accidentes y la adecuada compensación de las víctimas.

El informe de robolaw analiza distintas opciones de configurar la responsabilidad, destacando el importante papel que deben jugar las empresas aseguradoras y hace varias recomendaciones, de las que me quedo con las dos siguientes:

- promover un amplio debate social sobre el nivel de seguridad que esperamos de los coches sin conductor.

- armonizar la normativa europea en lo relativo a responsabilidad de vehículos a motor y cobertura de los sistemas de seguros.

No quiero terminar este artículo sin mencionar la polémica que surgió años atrás cuando Bill Gates reprochó a la industría automovilística que no habían evolucionado al mismo ritmo que la informática. La respuesta de Jack Welch fue contundente y puede servir para ilustrar el tipo de problemas que pueden presentar los coches de futuro.

Robolaw (I): orientaciones para regular los robots en Europa.

La Comisión Europea ha financiado un projecto llamado robolaw, cuyo objetivo era elaborar un informe detallado con todas las cuestiones éticas y legales que plantean los robots, así como ofrecer orientaciones y principios que puedan guiar a los reguladores europeos y nacionales cuando tengan que legislar sobre esta cuestión. La iniciativa, liderada por la Scuola Superiore Sant´ Anna de Pisa, empezó en marzo de 2012 y el informe final se acaba de hacer público hace unos días.

Foto del usuario de Flickr cjmartin

Debo empezar diciendo que el informe es de lo más interesante que he leído últimamente. Tiene una parte general, que es la que analizaré en este artículo, y cuatro apartados en los que trata con detalle la problemática de los coches sin conductor, los robots cirujanos, las prótesis robóticas y los robots para el cuidado de personas ancianas o discapacidas. El documento es bastante extenso (más de 200 páginas) y no pretendo hacer un resumen pormenorizado sino apuntar los aspectos que me han resultado más interesantes.

En primer lugar, me gusta que no sólo trate los temas legales sino también los éticos. Tiene sentido que antes de preparar una norma sobre un tema novedoso y con tantas implicaciones, se analicen los principios que deben informar dicha legislación para que ésta pueda responder a las necesidades de la sociedad. El informe considera que la justicia, la dignidad, la privacidad, la solidaridad, la protección de los consumidores y de los derechos fundamentales, la no discriminación, la integración de los discapacidados y el derecho a la asistencia sanitaria son valores esenciales que deben estar presentes en cualquier análisis normativo de esta cuestión. Además entiende que la regulación puede plasmarse en leyes y decretos pero también en "soft law" (normas técnicas, estándares, códigos de conducta y de buenas prácticas, etc) como forma de conseguir mayor una precisión y flexibilidad.

También me resulta interesante la idea de "code as law" o regulation by design": la tecnología no es sólo objeto de regulación sino que también participa en la misma por ejemplo mediante la implementación en las máquinas/sistemas autónomos de un conjunto de requisitos éticos y legales, de forma que puedan comportarse de acuerdo con dichas reglas.

El informe plantea cuestiones polémicas como si se debe conceder personalidad legal diferenciada a los robots para realizar ciertas transacciones, para ser considerado responsable o para comparecer en juicio, dado que cada vez son más inteligentes y capaces de aprender y de hacer tareas antes reservadas a las personas e incluso de llevar a cabo comportamientos no previstos (emergent behaviours) por su diseñador, en el caso de sistemas complejos que interactúan con otros componentes de sistema o del entorno. 

Lógicamente la cuestión de la responsabilidad, una de las más debatidas en el documento. Es un tema difícil por la propia complejidad realidad a regular y por el hecho de que los robots son cada vez más multipropósito y ninguno de los intervinientes (fabricante del hardware, desarrollador del software y usuario final principalmente) tiene suficiente control sobre las acciones de la máquina. El informe plantea varias ideas: a) conceder "personalidad electrónica" a los robots, en base a los argumentos expuestos anteriormente b) limitar la responsabilidad de los fabricantes otorgando una cierta inmunidad selectiva en el caso de plataformas abiertas, siguiendo el planteamiento de Ryan Calo expuesto en otro artículo de Replicante Legal o c) incrementar la responsabilidad de los dueños de los robots, estableciendo eso sí un límite en la cantidad de daños a compensar. Como se destaca en las conclusiones del análisis, establecer un régimen de responsabilidad adecuado es clave para evitar el denominado "chilling effect" (si las reglas son muy estrictas se perjudica la innovación y el desarrollo de los productos/servicios).

Finalmente, el informe apunta argumentos a favor y en contra de dos cuestiones relevantes, aunque no ofrece una posición definida: ¿es necesaria una lex robotica? y ¿cuándo es el momento correcto de regular cuestiones tan novedosas: al principio cuando todavía no está claro por dónde irá el desarrollo tecnológico y cuáles serán sus efectos o en el momento en que la tecnología se consolide, aunque sea más caro y difícil de revertir?