Robots sociales que aprenden y entienden tus emociones (II). Retos morales y legales

Como veíamos en el artículo anterior, parece que lo que cuenta la película Her no está tan lejos como parece. Pero ¿cuáles son los riesgos de estos sistemas de inteligencia artificial avanzados, en especial en el caso de que cuiden o interactúen habitualmente con personas más vulnerables como menores o ancianos?

Foto del usuario de Flickr juhansonin

Es evidente que niños y mayores son mucho más fácilmente manipulables por este tipo de sistemas, máxime si están instalados en un robot con apariencia humana, en cuyo caso podrían llegar a no darse cuenta de que están comunicándose con máquinas ¿Ponemos límites a lo que pueden hacer estas herramientas o dejamos que sean programadas para maximizar el beneficio de las empresas que las comercializan? ¿Pueden simular una conversación con un niño para obtener información sobre su familia o condicionar a un anciano para que no salga de casa porque se puede perder en la calle? ¿Nos preocupa que puedan manipular sus sentimientos apelando a las emociones?

El Consejo de Ética de Dinamarca se ha planteado si es aceptable que los robots sean diseñados para hacer creer a ciertas personas que tienen sentimientos. Se inclinan a pensar que dichos sistemas no son un problema en si mismos y recomiendan a los cuidadores de la gente más vulnerable que se aseguren de que no se pone en riesgo su dignidad. Me parece un buen principio y, sobre todo, celebro que haya países que entiendan que las cuestiones éticas son relevantes y promuevan este tipo de instituciones destinadas a generar informes que sirvan de base para un acto legislativo o un eventual debate social posterior. Ojalá cundiera el ejemplo.

Siguiendo con los temas morales, los profesores de la Universidad de Notre Dame, Laurel D. Riek y Don Howard han elaborado un código ético dirigido a las personas que desarrollan robots diseñados para interactuar con humanos, que termina con unas recomendaciones bastante razonables como que sería deseable que el comportamiento de los robots fuera predecible o que la privacidad debe ser respetada de la forma más amplia. Os dejo también un postcast de media hora con una entrevista a la doctora Riek, en la que ofrece más información sobre sus motivaciones para preparar el documento y los aspectos tratados en el código.

En cuanto a los riesgos legales, ya apuntamos algunos de ellos hace unas semanas en Replicante Legal. Me parece que las empresas que comercialicen estos robots tienen que estar obligadas a informar de forma muy clara sobre qué datos van a obtener, qué uso hará de ellos, si los va a ceder a terceros y en qué circunstancias, si el usuario podrá acceder a los datos y/o borrarlos efectivamente, así como las medidas de seguridad implementadas para impedir que el dispositivo sea hackeado. Otro punto esencial es la usabilidad: debe ofrecerse a los usuarios la posibilidad de apagarlo completamente y de configurarlo fácilmente para que sólo ejecute las acciones requeridas.

En la misma línea, un interesante artículo reciente de Hoja de Router alertaba sobre los peligros de la computación afectiva. Un número creciente de empresas y dispositivos están enfocados en detectar y procesar nuestras emociones, dado el papel tan relevante que éstas juegan en cualquier decisión de compra. Lo preocupante de este caso es que la máquina podría estar recopilando esa información sin que te dieras cuenta puesto que estos sistemas no requieren una interacción directa para cumplir su finalidad. Es evidente que si los usuarios no son plenamente conscientes de todas las implicaciones para su intimidad y privacidad de estas nuevas técnicas, difícilmente podrán ser consideradas conformes con la normativa de protección de datos.

Robots sociales que aprenden y entienden tus emociones (I).

Ya están aquí y han venido para quedarse. Me refiero a los robots sociales, máquinas capaces de captar las emociones humanas y/o de aprender en cada interacción. El ejemplo más claro es Pepper. Se trata de un robot que está presente desde hace meses en las tiendas de Tokio del operador de telecomunicaciones japones Softbank y cuyo objetivo declarado es vivir con humanos aunque no para cocinar ni limpiar, sino para ser su "compañero emocional", en sentido de hablar y entender la alegría, tristeza o sorpresa de su interlocutor e incluso ser capaz de expresar algunas emociones básicas.

Aldebaran, la empresa que lo ha creado, afirma que la experiencia que están acumulando en las tiendas, servirá para desarrollar una versión más sofisticada de Pepper que saldrá a la venta en Japón en febrero de 2015 por unos 2.000 dólares.

Foto del usuario de Flickr Martica

Por otro lado, IPsoft acaba de presentar Amelia, un sistema basado en inteligencia artificial que habla más de 20 idiomas y es capaz de leer y entender textos, seguir procesos, resolver problemas, responder a cuestiones y, lo más importante, aprender de la experiencia. ¿Cómo lo hace? Según sus creadores, Amelia es capaz de entender el contexto, aplicar la lógica y deducir implicaciones.

Baby X es un proyecto curioso del Laboratorio de Tecnologías Animadas de Auckland (Nueva Zelanda). Lo lidera Mark Sagar, con experiencia en la creación de personajes generados por ordenador en películas como King Kong o Avatar, que  lo define como "una exploración de la interacción emocional a través de un avatar interactivo". Baby X es un programa que imita el proceso biológico de aprendizaje simulando mediante algoritmos las reacciones del cerebro y las expresiones faciales. Merece la pena ver los vídeos del link anterior porque si no es difícil de entender el proyecto. Por cierto que para desarollar el avatar, Sagar ha tomado a su hija Francesca como modelo. 

Tanto Amelia como Baby X pueder ser embebidos en humanoides (como Pepper), que les aporten las funciones mecánicas de las que carecen. Ambos comparten además el objetivo último de comportarse naturalmente o de forma lo más parecida a como lo haría un ser humano.

El objetivo de Viv es ser el primer asistente personal inteligente. Los fundadores de esta startup trabajaron antes en el desarrollo de Siri y aseguran que Viv será capaz de entender tus preferencias y usar multitud de conexiones a la web para contestar casi cualquier pregunta o ejecutar casi cualquier acción. De hecho le llaman "cerebro global" porque se basa en contenidos disponibles en internet y no está sujeto a las limitaciones de sus programadores. Afirma que Viv será capaz de ejecutar correctamente acciones complejas como "búscame un vuelo a Dallas en un asiento en el que quepa Shaq (Shaquille O´Neal, exjugador de la NBA)" en menos de un segundo.

¿Echábais de menos a alguien? Sí, Amazon también se apunta a la fiesta y acaba de lanzar Echo, un asistente familiar que puede poner música, responder a todo tipo de preguntas y ofrecer noticias.

Si se cumplen las predicciones anteriores, en breve estarán disponibles comercialmente robots que serán capaces de aprender, de resolver problemas y de entender nuestras emociones. ¿Podemos dejar a esas máquinas al cuidado de personas mayores y niños? El autor de este artículo sobre cuidado de ancianos afirma que sí y que casi no nos va a quedar otro remedio dada la escasez de médicos para atenderlos. En el siguiente artículo analizaremos las numerosas cuestiones éticas y legales que se plantean.

Automatización y economía colaborativa están transformando radicalmente el mercado de trabajo.

¿Los robots y los sistemas de inteligencia artificial destruirán más empleo del que crearán en 2025? Esa es la pregunta que el Pew Research Center formuló a casi 2000 expertos en tecnología e internet en un estudio que se acaba de hacer público. 

El 52% consideró que muchos de los trabajos actuales (especialmente en los campos de asistencia sanitaria, transporte, logística o atención al cliente) serán reemplazados por máquinas pero tienen fe en que el ser humano aprovechará las capacidades que le hacen único y será capaz de crear nuevos empleos y formas de ganarse la vida como lleva haciendo desde la revolución industrial. Argumentan que, historicamente, los avances tecnológicos han sido creadores netos de empleo y que estos cambios contribuirán a liberarnos de las ocupaciones más penosas, permitiendo incluso redefinir el propio concepto de trabajo. 

Foto tomada de Wikimedia Commons

La tendencia hacia la automatización es imparable. El MIT ya lo pronosticaba así hace dos años en un extenso informe sobre el futuro del mercado de trabajo. Por su parte, la BBC analiza las ventajas y desventajas de que tu jefe o empleador sea un algoritmo, como ocurre en plataformas como mobileworks o freelancer. Entre los pros destaca que da instrucciones claras, no tiene cambios de humor, procesa información a la velocidad del rayo y no hace micromanagement, ni se toma los errores como algo personal. Por contra, están focalizados en la optimización de las tareas con una rigidez que les impide tener en cuenta el impacto de factores como las enfermedades puntuales y no son capaces de captar -al menos a día de hoy- los matices que subyacen en cualquier interacción con seres humanos.

Los algoritmos también juegan un papel esencial en lo que se conoce como sharing economy (también denominada on-demand o peer economy). Los ejemplos más citados son Uber y Airbnb pero existen muchas empresas con modelos de negocio basado en la colaboración (entre ellas Fon, TaskRabbit, dogvacay o Spinlister).

Un artículo reciente de Techcrunch afirma que los algortimos están ganando la partida hoy a los sindicatos como apoyo de los trabajadores, en el sentido de que ofrecen flexibilidad respecto a cómo y cuándo trabajar, consiguiendo que oferta y demanda se equilibren mediante el constante ajuste de precios e incentivos. Esa flexibilidad es una caracterísica muy valorada por muchos jóvenes con talento puesto que les permite compatibilizar su vida laboral con sus pasiones y a la vez generar su propia reputación y marca personal. Una de las frases de ese artículo me ha gustado especialmente. Traducida sería "la economía siempre ha tenido lo que podemos denominar empleos "long-tail" pero ahora tiene la posiblidad de emparejarlos con trabajadores "long-tail". El autor (@DannyCrichton) termina abogando por modificar drásticamente la normativa laboral vigente para asegurar que se regula adecuadamente el ganarse la vida con una multiplicidad de pequeñas ocupaciones.

En el mismo sentido, un artículo de la semana pasada de El Confidencial analiza el auge de los trabajos freelance y afirma -apoyándose en un estudio- que más de 50 millones de norteamericanos son autónomos, cifra que previsiblemente crecerá en los próximos años puesto que las grandes empresas tienen planes de aumentar sus encargos a trabajadores externos.

Explorando el transhumanismo y la "personalidad mecánica"

¿Qué nos hace humanos? Hemos escuchado esa pregunta muchas veces y la respuesta suele enfocarse a lo (poco) que nos diferencia de los primates. Apenas el 1% de nuestro ADN es distinto, lo que no parece mucho después de más de seis millones de años de evolución separada.

El caso es que también podemos formular la misma cuestión en relación a qué nos distingue de las máquinas. La respuesta podía ser obvia hace unos años pero hoy no lo es tanto. Dos interesantes artículos, uno de ExtremeTech sobre transhumanismo y otro reciente de la BBC sobre cíborgs plantean temas sobre los que merece la pena reflexionar.

Tomada de Flickr, usuario khalid Albaih

En esencia, el transhumanismo propone trasformar y mejorar sus capacidades físicas y psíquicas del ser humano a través de la tecnología. Para los defensores de este movimiento, es perfectamente legítimo "instalarse" cualquier tipo de prótesis o implante que potencie el rendimiento del cuerpo. A día de hoy no hay normas que impidan a esas personas convertirse en cíborgs. Tenemos cada vez más ejemplos y en un artículo reciente de Replicante mencionamos a varios.

Ahora imaginemos que la ciencia y la tecnología son capaces de crear algo parecido a un Robocop en un futuro cercano. ¿Sería una máquina o una persona? Formulada desde un punto de vista jurídico la cuestión sería: ¿si me instalo multitud de elementos robóticos/artificiales en mi cuerpo, puedo  en algún momento perder mi personalidad humana y convertirme en máquina? El Código Civil español dice que la personalidad se extingue por la muerte de la persona. Debemos entender que se refiere a la muerte cerebral porque el cuerpo no puede sobrevivir sin la mente. A la inversa sí es posible y es lo que propone el profesor Kevin Warwick: olvidarse del cuerpo y dirigir los esfuerzos y recursos que ahora dedicamos a curar enfermedades como el cáncer, a encontrar formas de mantener el cerebro vivo fuera de nuestro cuerpo.

Esa afirmación podría parecer una boutade si no fuera porque científicos tan prestigiosos como Stephen Hawking o Marvin Minsk está hablando de ir varios pasos más allá y coinciden en que será posible alcanzar la inmortalidad (o una cierta forma de ella) mediante la copia de nuestro cerebro, al estilo de la reciente película Trascendence. Siento disentir de la opinión de ambos sabios pero creo que no sería buena idea y que traería más problemas que ventajas.

Vamos a plantear ahora la pregunta desde otro ángulo ¿podrían en algún momento las máquinas ser consideradas personas? Para poder contestar conviene definir antes cuáles son los rasgos característicos de los seres humanos. Dejando al margen aspectos religiosos y espirituales, podríamos enumerar: la memoria, los sentimientos, la consciencia de uno mismo y la capacidad de comunicarse mediante el lenguaje, de razonar, de aprender, de crear, entre otros.

Sé que a día de hoy no ocurre pero ¿si un robot con apariencia humana llegara en algún momento a tener todos esos elementos le consideraríamos persona? Si acudimos de nuevo al Código Civil la respuesta es claramente negativa. El artículo 30 establece que "la personalidad se adquiere en el momento del nacimiento con vida, una vez producido el entero desprendimiento del seno materno". De acuerdo con esta norma, un robot nunca podrá tener personalidad civil (y evidentemente tampoco jurídica) pero creo que tendría sentido desarrollar una nueva categoría de personalidad, a la que podríamos llamar "personalidad mecánica", para englobar a las máquinas que sean capaces de crear y de tomar decisiones y razonar autónomamente. De otra manera veo muy difícil dar una respuesta coherente a las frecuentes cuestiones de responsabilidad (y, en menor medida de propiedad intelectual) que se plantearán en cuanto estén disponibles comercialmente.

robolaw (III): el debate sobre las mejoras en el cuerpo humano y algunas reflexiones sobre robots cirujanos y robots cuidadores

El informe de robolaw dedica tres apartados a estudiar la problemática de las prótesis robóticas, la cirugía asistida por máquinas y los robots dedicados al cuidado de ancianos y personas discapacidas.

El primero de los tres es el que me parece más interesante, sobre todo la cuestión del human enhancement o "mejora artificial" del cuerpo humano. Nadie pone en duda que alguien que ha sufrido una amputación de un miembro como consecuencia de un accidente, pueda recuperar las funcionalidades perdidas con una prótesis. El debate está en qué hacemos con quien -previamente enfermo o no- quiere instarse una prótesis que (artificialmente) le habilite para ver u oir excepcionalmente bien, o tener mucha más fuerza, velocidad, resistencia, memoria o inteligencia que la persona más capaz o incluso que le permita adquirir capacidades no disponibles para los humanos, como el caso del primer cyborg reconocido por un gobierno, Neil Harbisson, que puede "escuchar colores" que no están al alcance de nadie más.

Foto de Neil Harbisson tomada de Wikimedia Commons. Autor Moon Ribas

A este respecto, el informe sugiere abrir un amplio debate social y plantea varias preguntas relevantes: ¿qué formas de intervención en el cuerpo estamos preparados para consentir? ¿vamos a poner límites más allá de la seguridad y la viabilidad tecnologica? ¿debemos considerar cuestiones biológicas o también psicológicas y de identidad personal? ¿quién y bajo qué límites, circunstancias o principios estará habilitado para tomar la decisión de "mejorarse artificialmente"?

Para arrojar algo de luz sobre dichas cuestiones, robolaw propone acudir a los principios recogidos en la Carta Europea de los Derechos Humanos (ECFR por sus siglas en inglés). La dignidad humana aparece en el artículo 1 de la ECFR pero se suele definir de forma negativa, en el sentido de evitar conductas que la menoscaben y por tanto no ofrece cobertura para justificar que una persona sana se coloque una prótesis que mejore radicalmente su rendimiento. Así mismo, el derecho a la salud no implica que se pueda mejorar el propio cuerpo sin límite. Finalmente, el documento sugiere que el principio de igualdad y no discriminación se tome en consideración para prevenir que los más ricos se aprovechen de estas tecnologías para convertirse en super hombres

Por otro lado, el informe hace un planteamiento novedoso y propone utilizar el principio de precaución del artículo 191 del Tratado de Funcionamiento de la UE (TFEU), pensado inicialmente para la protección del medio ambiente. Aplicado a este caso sería: dado el desconocimiento actual de sus efectos a medio y largo plazo y las profundas implicaciones filosóficas, éticas e incluso religiosas, parece aconsejable rechazar las técnicas de mejora humana más radicales (innovación responsable) y no dejar que sea el individuo sino un comité médico quien decida que prótesis se debe instalar, una vez analizadas las características del caso concreto. En aplicación de lo anterior, el informe concluye que las prótesis deberían ser herramientas para devolver a las personas las funcionalidades que hayan perdido pero no instrumentos de mejora.

En cuanto a la cirugía asistida por máquinas, robolaw se centra en la problemática que generan robots como da Vinci. En la foto de abajo se puede ver que los elementos principales son la/s consola/s desde la que operan los cirujanos y la unidad que está en contacto con el paciente, que consta de tres brazos articulados y una cámara endoscópica.

copyright 2014 Intuitive Surgical Inc

©[year] Intuitive Surgical, Inc.

El hecho de que cirujano y paciente estén físicamente separados y que el doctor opere a través del robot tiene varias implicaciones destacadas en el informe:

- la responsabilidad no debería ser conjunto de todos los intervinientes en la operación sino que se debería atribuir al doctor/es que maneje/n la consola principal, dado que es quien tiene el control prácticamente único de la situación.

- como el médico puede estar en otro país (telemedicina), se recomienda que la Comisión Europea adopte unas reglas que uniformicen el régimen de responsabilidad así como los estándares de seguros, para evitar situaciones de conflicto de leyes aplicables, al menos en Europa.

- se recomienda que dichos robots tenga una "caja negra" que registre todos los comandos recibidos, los procesos ejecutados por la máquina y cualquier error del sistema u otra información relevante, para facilitar la determinación de responsabilidad en caso de fallos que se puedan producir durante las operaciones.


Por último, la parte del informe relativa a los robot cuidadores es la que me parece la más floja. Se centra en la asistencia a ancianos y discapacitados sin tener en cuenta las situaciones que plantearía el cuidado de niños, ni aportar nada relevante. Tampoco aborda la problemática de los robots con emociones (como Pepper o Baby X) y la influencia que éstos pueden ejercer sobre los menores de edad y las personas más sensible y vulnerables.

Robolaw (II): coches sin conductor

Los coches que conducimos actualmente están incorporando gradualmente funcionalidades que nos facilitan la conducción y mejoran nuestra seguridad (entre otras podemos mencionar: aviso de cambio involuntario de carril, sistema de frenado de emergencia, regulador/limitador de velocidad, aparcamiento asistido, etc.)

No hemos llegado todavía a la situación que se describe en el video anterior de Volvo pero Google y los grandes fabricantes están trabajando para que los coches sin conductor sean una realidad comercial en menos de 10 años. Podemos intuir que serán como "supercomputadoras con ruedas", que incorporarán un software muy sofisticado (parece probable que la "inteligencia" resida en los coches más que en las carreteras), así como mapas en tres dimensiones, sensores de todo tipo para evitar choques e incluso comunicación entre vehículos (projecto Car-to-X alemán).

Robolaw dedica el segundo capítulo de su informe a los coches sin conductor. En primer lugar analiza las ventajas que aportaría, entre ellas la reducción de accidentes (el 95% de los mismos está causado por un error humano, con una tasa anual de 30.000 muertos y 1.5 millones de heridos), la disminución del consumo de combustible, el incremento de la movilidad de personas con problemas de visión u otra discapacidad y la mejora del medio ambiente, por el probable impulso que esta tecnología supondría para los sistemas de compartición de vehiculos.

Foto de Wikimedia Commons. Autor Steve Jurvetson

A continuación, el documento trata el dilema ético conocido como trolley paradox, que el profesor Patrick Lin desarrolla en su artículo "The robot car of tomorrow may just be programmed to hit you". El supuesto teórico es el siguiente: imaginemos que el conductor de un tren que sufre una avería tiene que decidir entre desviar el tren y matar a un niño o mantener la dirección y matar a cinco personas. Otro parecido sería: si el accidente es inevitable y el resultado va a ser atropellar un motorista ¿evitamos al que va sin casco porque es más vulnerable y elegimos chocarnos contra el que lleva casco, penalizando así al que cumple las normas? Lin argumenta que ese tipo de decisiones no podemos programarlas previamente, ni dejarlas a la decisión de sistemas autónomos inteligentes puesto que implican un juicio moral y por ello aboga porque en los coches siempre haya una presencia humana que pueda tomar el control en ese tipo de situaciones.

Otro asunto interesante analizado en el documento es el equilibrio entre seguridad y libertad. El ejemplo típico sería el diseño del coche autónomo para que nunca superara los límites de velocidad establecidos o para que sólo fuera capaz de ejecutar ciertas acciones. ¿Aceptamos esta tecnoregulación o dejamos algo de libertad al individuo para configurar su vehículo?

El análisis legal se centra en el tema de la responsabilidad por los accidentes que se puedan producir y plantea  una pregunta previa ¿qué nivel de seguridad vamos a exigir de los coches autónomos? ¿El mismo que el de un conductor medio, el de un conductor sobresaliente u otro? La cuestión es relevante porque dónde coloquemos el listón de seguridad exigible y el de responsabilidad asociado, puede afectar a la disponibilidad comercial de esta nueva tecnología. Es el chilling effect que comentamos en el artículo anterior. Si lo situamos muy alto, los fabricantes no se arriesgarán a poner a la venta estos vehículos hasta que estén seguros de alcanzar esos niveles, lo cual puede retrasar excesivamente la disponibilidad de una tecnología que puede reportar grandes beneficios para la sociedad. Por el contrario, un nivel de responsabilidad excesivamente bajo impide que se consigan los objetivos perseguidos por la normativa, principalmente la prevención de accidentes y la adecuada compensación de las víctimas.

El informe de robolaw analiza distintas opciones de configurar la responsabilidad, destacando el importante papel que deben jugar las empresas aseguradoras y hace varias recomendaciones, de las que me quedo con las dos siguientes:

- promover un amplio debate social sobre el nivel de seguridad que esperamos de los coches sin conductor.

- armonizar la normativa europea en lo relativo a responsabilidad de vehículos a motor y cobertura de los sistemas de seguros.

No quiero terminar este artículo sin mencionar la polémica que surgió años atrás cuando Bill Gates reprochó a la industría automovilística que no habían evolucionado al mismo ritmo que la informática. La respuesta de Jack Welch fue contundente y puede servir para ilustrar el tipo de problemas que pueden presentar los coches de futuro.

Robolaw (I): orientaciones para regular los robots en Europa.

La Comisión Europea ha financiado un projecto llamado robolaw, cuyo objetivo era elaborar un informe detallado con todas las cuestiones éticas y legales que plantean los robots, así como ofrecer orientaciones y principios que puedan guiar a los reguladores europeos y nacionales cuando tengan que legislar sobre esta cuestión. La iniciativa, liderada por la Scuola Superiore Sant´ Anna de Pisa, empezó en marzo de 2012 y el informe final se acaba de hacer público hace unos días.

Foto del usuario de Flickr cjmartin

Debo empezar diciendo que el informe es de lo más interesante que he leído últimamente. Tiene una parte general, que es la que analizaré en este artículo, y cuatro apartados en los que trata con detalle la problemática de los coches sin conductor, los robots cirujanos, las prótesis robóticas y los robots para el cuidado de personas ancianas o discapacidas. El documento es bastante extenso (más de 200 páginas) y no pretendo hacer un resumen pormenorizado sino apuntar los aspectos que me han resultado más interesantes.

En primer lugar, me gusta que no sólo trate los temas legales sino también los éticos. Tiene sentido que antes de preparar una norma sobre un tema novedoso y con tantas implicaciones, se analicen los principios que deben informar dicha legislación para que ésta pueda responder a las necesidades de la sociedad. El informe considera que la justicia, la dignidad, la privacidad, la solidaridad, la protección de los consumidores y de los derechos fundamentales, la no discriminación, la integración de los discapacidados y el derecho a la asistencia sanitaria son valores esenciales que deben estar presentes en cualquier análisis normativo de esta cuestión. Además entiende que la regulación puede plasmarse en leyes y decretos pero también en "soft law" (normas técnicas, estándares, códigos de conducta y de buenas prácticas, etc) como forma de conseguir mayor una precisión y flexibilidad.

También me resulta interesante la idea de "code as law" o regulation by design": la tecnología no es sólo objeto de regulación sino que también participa en la misma por ejemplo mediante la implementación en las máquinas/sistemas autónomos de un conjunto de requisitos éticos y legales, de forma que puedan comportarse de acuerdo con dichas reglas.

El informe plantea cuestiones polémicas como si se debe conceder personalidad legal diferenciada a los robots para realizar ciertas transacciones, para ser considerado responsable o para comparecer en juicio, dado que cada vez son más inteligentes y capaces de aprender y de hacer tareas antes reservadas a las personas e incluso de llevar a cabo comportamientos no previstos (emergent behaviours) por su diseñador, en el caso de sistemas complejos que interactúan con otros componentes de sistema o del entorno. 

Lógicamente la cuestión de la responsabilidad, una de las más debatidas en el documento. Es un tema difícil por la propia complejidad realidad a regular y por el hecho de que los robots son cada vez más multipropósito y ninguno de los intervinientes (fabricante del hardware, desarrollador del software y usuario final principalmente) tiene suficiente control sobre las acciones de la máquina. El informe plantea varias ideas: a) conceder "personalidad electrónica" a los robots, en base a los argumentos expuestos anteriormente b) limitar la responsabilidad de los fabricantes otorgando una cierta inmunidad selectiva en el caso de plataformas abiertas, siguiendo el planteamiento de Ryan Calo expuesto en otro artículo de Replicante Legal o c) incrementar la responsabilidad de los dueños de los robots, estableciendo eso sí un límite en la cantidad de daños a compensar. Como se destaca en las conclusiones del análisis, establecer un régimen de responsabilidad adecuado es clave para evitar el denominado "chilling effect" (si las reglas son muy estrictas se perjudica la innovación y el desarrollo de los productos/servicios).

Finalmente, el informe apunta argumentos a favor y en contra de dos cuestiones relevantes, aunque no ofrece una posición definida: ¿es necesaria una lex robotica? y ¿cuándo es el momento correcto de regular cuestiones tan novedosas: al principio cuando todavía no está claro por dónde irá el desarrollo tecnológico y cuáles serán sus efectos o en el momento en que la tecnología se consolide, aunque sea más caro y difícil de revertir? 

Viaje al interior del cerebro humano.

Cientos de científicos de más de veinte países se han embarcado en el Human Brain Project (HBP), un proyecto a diez años financiado por la Unión Europea para entender la manera de trabajar del cerebro, con la finalidad de desarrollar tecnologías de computación que simulen su funcionamiento así como de crear nuevos tratamientos para las patologías mentales.

Foto del usuario de Flickr neil conway

En paralelo, Estados Unidos está trabajando en un proyecto similar (BRAIN initiative), para comprender cómo el cerebro piensa, aprende y recuerda. Está dotado con un presupuesto de más de 100 millones de dólares y coliderado por Rafael Yuste, cientifico español de la Universidad de Columbia. En una reciente entrevista, Yuste hacía afirmaciones tan inquietantes como las siguientes: 

"Si conocemos el disparo de todas las neuronas, seremos capaces de descifrar lo que un animal o una persona están pensando. Y si pudiéramos leer el pensamiento, podríamos llegar incluso a predecir el comportamiento que va a tener una persona."

 "la Neurociencia va a cambiar nuestra manera de percibir la responsabilidad criminal, porque transformará la definición de lo que consideramos normal y anormal o patológico en el cerebro, y por tanto de la responsabilidad de un individuo por sus comportamientos."

La iniciativa europea ha recibido fuertes críticas de científicos que consideran que no está bien concebida ni implementada y que sus objetivos no han sido debidamente consensuados con todos los actores relevantes. Otras voces autorizadas, como la de Marvin Minsky, entienden que es un error empezar grandes proyectos sobre el cerebro humano cuando aún no se ha analizado el de una libélula o de un ratón. "Es como intentar construir un coche cuando aún no has hecho una bicicleta", argumenta el considerado padre de la inteligencia artificial con la libertad que le aportan sus 87 años y su merecida fama de brillante científico. 

En cualquier caso, la inteligencia artificial y el deep learning son dos de los campos que más interés despiertan entre las grandes empresas tecnológicas actualmente. Este interesante artículo del MIT Technology Review detalla la evolución hacia una computación basada en el funcionamiento del cerebro. 

Por poner ejemplos concretos, IBM está apostando fuerte por el cognoscitive computing para hacer frente a los enormes desafíos que plantea el big data. Watson es su mejor embajador. Microsoft no se queda atrás y está trabajando activamente en el reconocimiento de imágenes (una de las tareas más difíciles para una máquina) y de voz, con resultados sorprendentes en éste último caso. Google es uno de los líderes en el campo del deep learning y ha fichado a los mayores expertos mundiales en la materia: Ray Kurzweil, Geoffrey Hinton y Andrew Ng para colaborar en su iniciativa Google Brain. Netflix ha sido uno de los últimos en apuntarse a esta tendencia con la objetivo de mejorar su sistema de recomendaciones de películas. También empiezan a surgir proyectos de inteligencia artificial en formato SaaS, que contribuirán a su difusión en pequeñas y medianas empresas.

Si los avances en estas materias evolucionan de forma similar a como ha ocurrido el campo de la genética, en pocos años podremos ver máquinas capaces de aprender, recordar y ¿pensar?. ¿Estamos preparados para esta nueva generación de replicantes?

De los wearables al transhumanismo

Chris Dancy pasa por ser la persona más conectada del mundo. Todo empezó hace dos años cuando quería perder peso y empezó a instalarse sensores para entender lo que ocurría en su cuerpo. El año pasado se gastó 40.000 dólares en dispositivos conectados y no sale a la calle sin sus Google Glass, Galaxy Gear, Pebble watch, un par de smartphones de última generación y gadgets similares. Dancy un tipo peculiar, que ha acuñado el término "Big Mother" para referirse al hecho que es él quien tiene el control de la ingente información que generan los aparatos que lleva.

Amal Graafstra no se queda atrás aunque él ha pensado que la mejor manera de estar conectado es implantándose un chip en cada mano. Y no sólo eso sino que ha creado su propia empresa (con el elocuente nombre de Dangerous Things) para comercializar chips implantables bajo la piel. ¿Qué ventajas tienen esos chips subcutáneos? Permiten abrir puertas, cruzar las barreras del metro de Londres o arrancar una moto sin necesidad de llevar nada más encima y sin que lo perdamos o nos lo roben.

Foto del usuario de Flick christopher frier brown

El profesor Kevin Warwick ha llevado el tema un paso más allá. Dirige el proyecto Cyborg y se ha implantado un chip que está conectado a su sistema nervioso y que le permite, entre otras cosas, interactuar con un brazo robótico, un desarrollo que puede ser muy importante para personas con algún tipo de parálisis corporal. El profesor Warwick destaca que su cerebro fue capaz de adaptarse y en sólo seis semanas podía reconocer las señales que procedían de dicho brazo artificial.

Si la tecnología nos ha conducido hasta aquí, es posible pensar que el siguiente movimiento nos llevará hacia microchips con memoria instalados y conectados con el cerebro y con el mundo exterior a través de cualquier tecnología inalámbrica. Si eso fuera así, uniríamos la capacidad de pensar y crear del cerebro humano, con el acceso inmediato a prácticamente cualquier información vía internet (o a la almacenada localmente en la memoria del chip cuando no tuviéramos conectividad). También podríamos llegar a un resultado parecido con una prótesis interna para el oído que se pudiera conectar a internet.

Es decir, estas prótesis o implantes podrían mejorar ostensiblemente no sólo el cuerpo sino también la mente de quien las llevara y convertirle en una suerte de cíborg con unas capacidades muy por encima de la media. Las personas con más recursos tendrían más posibilidades para acceder a estos dispositivos y la brecha social se agrandaría. Pero ¿tiene sentido que personas sin ningún tipo de discapacidad se instalen aparatos que les mejoren su memoria o capacidad intelecual? ¿no les colocaría eso en mucha mejor situación en exámenes, oposiciones u otras pruebas de acceso? ¿podemos tunear nuestro cuerpo sin ningún límite ni control?

Ilustración de DARPA

He dejado para el final la noticia que más me ha llamado la atención. La Agencia de Proyectos de Investigación Avanzados de Defensa americana (DARPA por su siglas en inglés) acaba de anunciar el programa ElectRX, dotado con un presupuesto de 79 millones de dólares y cuyo objetivo es desarrollar pequeños dispositivos electrónicos que interactúen con el sistema nervioso y lo modulen, con la esperanza de curar enfermedades crónicas tanto psicológicas (depresión) como físicas (artritis). Esa técnica se conoce como neuromodulación pero, como se ha publicado en algunos medios, parece que el objetivo final del DARPA no es ese sino la neuroaugmentation, es decir el aumento de capacidad neuronal de los soldados para que se conviertan en super guerreros.

Bienvenidos al transhumanismo. En otro artículo analizaremos los (enormes) retos legales que plantea.

Responsabilidad y robots. ¿Hace falta modificar el régimen actual?

Los temas de responsabilidad son uno de los más delicados para los abogados. En el caso de los contratos no siempre es fácil encontrar un equilibrio razonable respecto al nivel de obligaciones y penalizaciones que tiene que asumir cada parte. En cuanto a la responsabilidad extracontractual (torts en derecho anglosajón), es cierto que en España/Europa no llegamos al nivel de locura (perdón, litigiosidad) de EEUU, pero también se plantean numerosos conflictos.

Foto del usuario de Flickr Jeffrey

Por eso no es de extrañar que las cuestiones relativas a responsabilidad sean las que más atención reciban en la presentación de la profesora Lilian Edwards (@lilianedwards) sobre la regulación de los robots (páginas 24 y siguientes). Edwards plantea preguntas del tipo ¿qué pasa si un humanoide militar mata a un civil? ¿y si un robot dedicado a cuidar ancianos le indica que tome más pastillas de las que debería? ¿quién es responsable si un coche sin conductor es hackeado y atropella a un peatón? ¿y si un "robot sexual" aplica las preferencias de un usuario (ej. recibir azotes) a otro y le provoca daños? Muchos de estos casos no van a ocurrir en el corto plazo pero coincido con la profesora Edwards en que conviene empezar a pensar sobre ello.

En el régimen actual, lo primero que habría que determinar es si estamos ante un caso de responsabilidad contractual o extracontractual. Además habría que estudiar si ha existido negligencia en alguno de los intervinientes y valorar la aplicación al caso concreto de la normativa y jurisprudencia sobre protección de los consumidores. Edwards plantea en su presentación si tendría sentido crear una categoría especial de responsabilidad para ciertos casos en los que intervengan robots. 

Ryan Calo se acerca también a la cuestión de la responsabilidad desde una perspectiva diferente. En su trabajo académico de 2010 Open Robotics propone que se conceda un cierto grado de inmunidad a los fabricantes de plataformas robóticas abiertas (entendiendo por tales las que permiten la instalación de aplicaciones o programas de terceros) respecto al uso que los usuarios hagan de las mismas, de manera similar al régimen que existe para los intermediarios de internet. Calo afirma que el mundo de los estándares abiertos plantea definitivamente más retos jurídicos que el de las plataformas propietarias o propietarias pero también genera muchas más oportunidades para los desarrolladores, así como ventajas indudables para los usuarios.

En mi opinión, mientras los robots sean máquinas con autonomía limitada y escasa capacidad de razonar/tomar decisiones, no es necesario que modifiquemos el sistema legal de responsabilidad, al menos en España, porque el que tenemos actualmente sirve para dar respuesta a las situaciones planteadas. Sin embargo la inteligencia artificial es uno de los campos de mayor crecimiento y es posible que en unos años veamos ordenadores que puedan imitar el funcionamiento del cerebro humano y ser capaces pensar autónomamente. Si ese momento llega, no me cabe duda de que tendríamos que replantearnos los esquemas legales de la responsabilidad (y probablemente de casi todo lo demás).

¿Pueden tener derechos los robots?

La pregunta suena absurda y la respuesta parece obvia: NO.

La abogada Kate Darling (@grok_) no lo tiene tan claro y desde hace meses lleva a cabo workshops para estudiar la interacción de personas con los llamados "robots sociales" (máquinas autónomas con forma humana/animal que se comunican e interactuan con las personas a un nivel emocional e incluso aprenden de ellas).

Foto del usuario de Flickr Travis Isaacs

El experimento que hace Kate es muy curioso: primero reparte entre la audiencia varios Pleos como el de la imagen y deja que la gente juegue con los pequeños dinosarios durante un rato. Luego les da cuchillos y artilugios similares y les pide que los destrocen, cosa que prácticamente nadie está dispuesto a hacer, lo cual es llamativo porque seguramente ninguno de ellos tendría ningún problema en tirar a la basura un modelo antiguo de coche teledirigido. 

¿Por qué ocurre eso? Quizás la explicación es que los robots sociales tienen forma humana o animal y pueden mostrar un comportamiento autónomo que los hace parecer "vivos" y ello provoca una reacción emocional en nosotros, como se ha demostrado en un estudio reciente.

Basándose en los resultados de tus experimentos, Darling propone llegar todavía más lejos y pone sobre la mesa la conveniencia de otorgar ciertos derechos a estos robots sociales, como se ha hecho en la legislación para prevenir el maltrato animal. Su razonamiento es interesante ¿cuál es la razón de ser de esta normativa? ¿se trata sólo de evitar su sufrimiento? Si así fuera ¿por qué se protege a los perros pero no a los insectos? Quizá no se trate tanto del maltrato hacia los animales sino de nuestra reacción emocial frente a ese acto de crueldad, concluye Kate para justificar su tesis. En mi opinión el planteamiento es cuestionable y no lo comparto porque podría llevar al absurdo de tener que atribuir derechos a cualquier máquina u objeto que nos suscite algún tipo de empatía.

De forma similar, Jincey Lumpkin plantea en una charla de TED el tema de derechos de los robots, en este caso desde la perspectiva sexual. La ponencia empieza con una pregunta interesante ¿cuándo un robot deja de ser una máquina y se convierte en "alguien"? para, inmediatamente, plantear otra cuestión más agresiva ¿puede un robot ser violado? Hay que aclarar que no se está refiriendo a muñecas hinchables más o menos sofisticadas sino a un humanoide llamado Roxxxy dotado de un cierto grado de inteligencia artificial que le permite tener conversaciones, responder al tacto y recordar tus gustos. 

¿Puede prestar su consentiemiento un humanoide de estas características? En el caso de que no tenga opción de negarse al acto sexual, Jincey sugiere que sería un supuesto parecido al de la esclavitud, que debería estar prohibido. Creo que de nuevo se están llevando las cosas al extremo y que para poder empezar a plantearse el otorgar algún tipo de personalidad a dichos robots, antes deberían demostrar un grado de autonomía y capacidad de razonamiento muy superior al que tienen ahora.

Notas sobre la privacidad de drones y robots domésticos.

Foto del usuario de Flickr epSos.de

¿Qué es un robot? Estoy de acuerdo con la opinión de Gigaom de que es difícil de dar una respuesta precisa porque evoluciona constantemente. 

Margot Kaminski (@MargotKaminski) propone una definición interesante: es un software con cuerpo. Margot es una abogada y profesora de Yale, especializada en nuevas tecnologías que hace unos meses dió una charla en el Berkman Center for Internet and Society de Harvard sobre robots y privacidad. 

El estudio que da origen a la charla de Kaminski tiene por objeto la regulación de los drones, que es uno de los temas legales más polémicos actualmente en EEUU. Desde hace meses, miles de pequeños aviones no tripulados equipados con cámaras de grabación de foto/vídeo están invadiendo el cielo de San Francisco y otras ciudades y espacios abiertos. El regulador aeronáutico nacional (FAA) está siendo objeto de numerosas críticas por su retraso a la hora de aprobar una regulación adhoc, que no se espera hasta septiembre de 2015. Muchos Estados han considerado que se trata de un tema urgente y han aprobado sus propias normas sin esperar a conocer las directrices de dicha agencia. Lo curioso es que la FAA no tiene competencia ni experiencia en la regulación de cuestiones relativas a privacidad, que es es uno de los aspectos más controvertidos de los drones.

En cualquier caso, la problématica que genera el vuelo de drones en espacio abiertos estaría dentro de lo que Kaminski denomina "privacidad en público" y es de natureleza distinta a la que empezará a surgir cuando los hogares se llenen de robots domésticos tipo Paro o Asimo, cuya finalidad es cuidar de niños y ancianos o simplemente entretener y/o ayudar en las labores familiares. Otro ejemplo de robot similar sería Jibo, que puede realizar videollamadas, mostrar imágenes en su pantalla, reconocer caras y objetos, leer cuentos y hacer fotos cuando lo pidas. También actúa como asistente personal para recordarte tareas pendientes y aprende de tus gustos gracias a su algoritimo de inteligencia artificial.

Foto del usuario de Flickr Denise Cross Photography

Esa es la cara amable pero no podemos perder de vista la indudable pérdida de intimidad que supone tener una máquina sincronizada con tu móvil, conectada a internet y grabando (al menos potencialmente) todo lo que pasa en tu casa. Presumo que la información no se almacenará en el dispositivo sino en la nube. Al momento me surgen un buen número de preguntas: 

• ¿qué datos van a tener y qué uso hará la empresa de esos datos? 

• ¿se podrá acceder a ellos y borrarlos efectivamente? 

• ¿cómo se va a configurar el aparato teniendo en cuenta que se trata de un dispositivo de uso familiar, que puede ser utilizado por menores de edad o ancianos? ¿cómo podemos estar seguros de que no se explota su espacial vulnerabilidad?

• ¿tendrá un sistema operativo abierto que admita aplicaciones de terceros? 

• ¿qué medidas de seguridad se van a implementar para impedir que sea hackeado? 

• ¿habrá que informar a los amigos que entren en tu casa de que pueden ser grabados o fotografiados?

•  ¿podrán ser utilizados como prueba válida en un juicio?

La privacy by design y el sentido común parecen más necesarios que nunca en este tipo de productos/servicios.

 

Retos éticos y legales que plantea un futuro robótico

Me gusta Ryan Calo (@rcalo). Le sigo desde hace meses y me parece el abogado que mejor entiende el futuro que nos está esperando a la vuelta de la esquina. Otro día hablaré de alguno de sus brillantes trabajos académicos.

Foto del usuario de Flickr oskay

Hoy quiero comentar el foro en el que intervino hace unas semanas en la facultad de derecho de Berkeley junto a varios expertos para tratar los retos morales y legales que plantea la irrupción en la sociedad de robots de distintos tipos. Lamentablemente no tenemos el vídeo de la sesión pero sí se puede escuchar el audio aquí (una hora y media, en inglés).

En la sesión se abordaron algunos temas polémicos como por ejemplo si sería ético asignar robots con aspecto de niños a pedófilos, supondiendo que esa medida pudiera erradicar o disminuir el problema. Está demostrado que muchos pedófilos no están rehabilitados al salir de la cárcel y siguen suponiendo un problema para la sociedad. En esas circunstancias, ¿tiene sentido hacer una prueba piloto para ver si la medida puede ser efectiva?

El auge de los robots puede forzar al derecho penal a tener que replantearse cuestiones importantes como el concepto de mens rea o intencionalidad. Actus non facit reum nisi mens sit rea, reza el aforismo latino. La mente también tiene que ser culpable, es decir tiene que existir una intención de cometer el acto delictivo. Calo puso un interesante ejemplo a este respecto: Darius Kazemiha ha creado un sotware que hace compras aleatorias en Amazon. ¿Qué ocurriría si su programa informático compra algo que es ilegal en el Estado en el que vive, como por ejemplo los caramelos con alcohol en Massachusetts? ¿Sería culpable Darius? Probablemente no respondo yo, pero me temo que iba a tener que dar muchas explicaciones cuando el FBI llamara a su puerta.

Foto del usuario de Flickr Manish Prabhune

En el foro mencionado también se habló de Cupido, pero no del Dios del amor sino de la legalidad de máquinas como Chaotic Unmanned Personal Intercept Drone (CUPID), el dron que ha desarrollado la empresa Chaotic Moon y que sirve para patrullar zonas determinadas, identificar potenciales intrusos y dispararles un rayo paralizante. Desert Wolf, la empresa que comercializa Skunk Riot Control Copter ha optado por otra solución: un dron que dispara balas de plástico y lanza spray de pimienta a grandes aglomeraciones de personas difíciles de controlar, como por ejemplo una huelga violenta. Prefiero no imaginar  el potencial destructivo de esos aparatos en manos de milicias asesinas o gobiernos sin escrúpulos.

¿Y si resulta que finalmente no tenemos que morir?

Según el famoso dicho, la única verdad en la vida es que todos tenemos que morir. De hecho, nuestro sistema legal está basado en la premisa de que los seres humanos nacemos y morimos. Hay que tener en cuenta que la pena de muerte es el mayor castigo se puede imponer en derecho penal (en los países en los que está permitida) y los derechos y obligaciones civiles desaparecen cuando una persona fallece (con algunas excepciones como podría ser el derecho de autor que pervive 70 años desde la muerte del creador de la obra)

 

foto del usuario de Flickr david.orban

¿Qué pasaría si ese axioma se demostrara incorrecto y algunos individuos fueran capaces de alcanzar la inmortalidad? ¿Imposible? No es lo que piensa la quinta persona más rica del mundo, el CEO de Oracle Larry Ellison, que dona anualmente 40 millones de dólares a la fundación que lleva su nombre y que se dedica a intentar acabar con la mortalidad. Otros millonarios de Silicon Valley, como los cofundadores de Google (Sergey Brin) o de Paypal (Peter Thiel) también odian la muerte y están financiando la Methuselah Foundation, cuyo creador Aubrey de Grey sostiene que "la primera persona que alcanzará los 1.000 años está viva en este momento"

Uno puede pensar que esto es sólo una moda que ha calado entre los millonarios californianos del mundo de la tecnología, que parecen vivir siempre en una burbuja. ¿Alguien conoce a Dmitry Itskov? Éste magnate ruso de 33 años tiene un plan grandioso: construir robots que sean capaces de almacenar la mente humana y mantener su consciencia en funcionamiento. El proyecto se llama Avatar (¡otra vez! aunque esta idea es anterior a la del Pentágono) y será desarrollado en fases, siendo la última de ellas la aparición de hologramas que sustituirán a los cuerpos tangibles y que serán capaces de alojar la consciencia humana.

Itskov empezó la aventura en Rusia en solitario y ahora se está asociando con científicos punteros a nivel mundial. Muchos de ellos se reunieron en Nueva York en junio de 2013, en un foro llamado Global Future 2045, para discutir sobre robots, telepresencias antropomórficas, neuroingeniería, neo-humanidad, inmortalidad cibernética, etc.

Ray Kurzweil es uno de los expertos que participaron en el congreso de Nueva York. De hecho, lo que hubiera sido una sorpresa hubiera sido no verle por allí porque es ponente habitual en este tipo de eventos. Kurzweil es un inventor americano que defiende a ultranza el futurismo y que predica sus ideas sobre tecnologías para alargar la vida, nanotecnología, robots, inteligencia artifical o biotecnología en su página web y en sus numerosas charlas.

Kurzweil es también uno de los principales promotores de la idea de singularidad (también conocida como singularidad tecnológica), que en palabras de la Wikipedia es un acontecimiento futuro en el que se predice que el progreso tecnológico y el cambio social se acelerarán debido al desarrollo de inteligencia sobrehumana, modificando nuestro entorno de manera radical o incluso, la naturaleza humana. Evidentemente no todo el mundo comparte estas ideas tan disruptivas pero Kurzweil, junto con Peter Diamandis y otras personas con grandes recursos fundaron hace unos años la Singularity University, cuya misión declarada es "educar, inspirar y apoderar a los líderes para que apliquen tecnologías exponenciales que ayuden a afrontar los grandes retos a los que se enfrenta la humanidad"

Parafraseando la famosa canción de REM, nos podemos preguntar si está llegando el fin del mundo tal y como lo conocemos. No está claro pero creo que los reguladores y legisladores deberían empezar a tomarse en serio estas cuestiones.

¿Estamos preparados para tener jefe algorítmico?

El número de tareas que son desarrolladas por máquinas es cada vez mayor en nuestros días. Los avances en capacidad de computación junto con el acceso a grandes cantidades de datos (big data) están haciendo que las máquinas sean cada vez más potentes. Como hemos visto en artículos anteriores, los ordenadores empiezan a tener cada vez más "inteligencia" y son capaces de pilotar coches o aviones de forma similar a como lo hacen los seres humanos.

¿Quiere decir lo anterior que las computadoras inteligentes pueden desempeñar trabajos cotidianos mejor que nosotros? Un reciente estudio de la universidad de Oxford ha llegado a la preocupante conclusión de que casi la mitad de los ocupaciones analizadas en EEUU están en riesgo de ser desarrolladas por máquinas en un plazo de varios años. Parece que cada vez vamos a ver más Baxters a nuestro alrededor aunque, lógicamente, cuando más creativo y artístico sea el trabajo, menor riesgo de sustitución.

Los abogados podemos estar contentos porque salimos en el puesto 115 en un listado de 702 trabajos, siendo el número 1 la ocupación con menor riesgo de automatización. Sin embargo el estudio ha detectado una tendencia creciente que desplaza a asistentes y a abogados de baja cualificación por programas con sofisticados algoritmos, que son capaces de rastrear y analizar una cantidad ingente de información y bases de datos y presentarlos de una manera ordenada.

foto del usuario de Flickr Riebart

Foxconn ilustra perfectamente esa tendencia hacia la automatización. La mayor compañía privada china anunció recientemente que en breve empezará a utilizar robots para la producción del iPhone6, lo cual es un poco irónico porque esa empresa tiene una reputación terrible por las constantes quejas de trato discriminatorio, condiciones de trabajo penosas que han provocado suicidios, abusos de los mandos, salarios bajos y contaminación medioambiental.

Encontrar trabajo estos días no es fácil. Una pista que puede ayudar es entender que muchas grandes empresas utilizan un software especial para filtrar el aluvión de CVs que reciben cada vez que publican una vacante. De hecho, algunas compañías hacen los candidatos tengan que interactuar con una máquina diseñada para medir no sólo el lenguaje verbal sino también el no verbal. Prueba a quejarte y es muy probable que acabes hablando con uno de los miles de chat bots (también conocidos como asistentes virtuales) que se ocupan de los centros de atención al cliente.

Peor sería tener un jefe robot, ¿no? Pues también eso es una realidad con la aparición de proyectos como Amazon Mechanical Turk. Se trata de una herramienta que publica las tareas disponibles (cosas apasionantes como introducir los horarios de apertura de un restaurante o revisar fotos de ropa). A continuación, un algoritmo, basándose en el desempeño anterior, colocará a la persona más arriba o más abajo de la lista de candidatos para los trabajos y le ajustará la retribución.

 Aquí se empiezan a plantear cuestiones jurídicas delicadas: ¿puede ese jefe algorítmico no sólo contratar sino también evaluar e incluso despedir empleados? Es decir ¿cuánta autonomía estamos dispuestos a conceder a este tipo de soluciones? Uno de los grandes despachos de abogados laboralistas americanos, Littler, ha creado hace meses un grupo especial de letrados dedicados a "robotics" y ha publicado un interesante documento sobre las áreas de práctica laboral que más se van a ver más afectadas por estos nuevos desarrollos tecnológicos.