LOS ROBOTS Y LA PERSONALIDAD ELECTRÓNICA (*)

 

 

Por Luis Daniel Crovi (**)

 

Sumario: I. Introducción.— II. La inteligencia artificial.— III. ¿Qué es un robot?— IV. Preocupaciones y beneficios que generan los robots.— V. La Cuarta Revolución Industrial.— VI. La persona y la personalidad.— VII. La resolución del Parlamento Europeo del año 2017.— VIII. Las críticas a la personalidad electrónica y el incentivo de una IA “fiable”.— IX. El humanismo y los robots.— X. Reflexiones finales.

 

I.           Introducción

 

Cuando los abogados solemos bromear sobre los robots y el mundo del futuro, lo hacemos pensando que el derecho debe ocuparse de la realidad actual y no hacer ciencia ficción; sin embargo, debemos recordar que los teléfonos “inteligentes” comenzaron a formar parte de nuestras vidas, de manera masiva, en el año 2007 (1), y hoy casi no concebimos nuestra existencia profesional sin ellos. Ese solo ejemplo nos demuestra que la “inteligencia artificial” es algo que hemos asimilado como natural y la usamos todo el día. La tecnología nos invade y nos ayuda a mejorar nuestras vidas, a veces por comodidad, a veces por necesidad. Si no existieran los desarrollos informáticos de los últimos años, el mundo se habría paralizado aún más frente a la pandemia que nos toca transitar. Los profesores que llevamos más de treinta años en las aulas nos vimos de golpe obligados a usar distintas plataformas para dar clases, comunicarnos por WhatsApp con nuestros alumnos, tomar exámenes usando sistemas informáticos, etc.; lo mismo ha sucedido en el ejercicio profesional, las reuniones, audiencias, mediaciones, presentaciones judiciales, todo depende del funcionamiento de las conexiones a internet, como así también del software y el hardware con el que contemos. El “mundo virtual” nos rodea y nos ayudó a superar el drama que soportó “el mundo real”. ¿Cuánto tiempo pasará para que un robot sea en nuestras vidas un elemento tan natural e imprescindible como un teléfono inteligente? Ello considerando la existencia de robots autónomos y con funciones semejantes a un humano, pues los robots, en términos generales, inundan nuestra existencia a veces sin advertirlo: algunos como agentes virtuales (programas informáticos) que nos contestan cuando llamamos a un servicio de atención al cliente, los que gobiernan determinadas funciones de los automóviles, los traductores automáticos, los videojuegos, los asistentes que nos recomiendan una película por Netflix o los que realizan la búsqueda de jurisprudencia aplicable a un tema, los que “conversan” con nosotros cual si fuera un chat en vivo pero a partir de respuestas preestablecidas que ponen a disposición diversas empresas por internet para dar la idea de que un asistente toma y resuelve nuestro reclamo, etc. Otros robots aparecen como dispositivos físicos: limpiadoras del hogar o de piscinas, los drones, vehículos autónomos terrestres, instrumental médico para diagnósticos, sin perjuicio de los más sofisticados que se usan en la industria, la meteorología, las investigaciones científicas e incluso, y lamentablemente, también en las guerras o ataques terroristas.

 

II.        La inteligencia artificial

 

Para referirse a los robots, resulta necesario primero abordar algunos conceptos sobre su principal materia prima: la inteligencia artificial (IA). Como vimos en el punto anterior, los sistemas basados en la IA pueden consistir simplemente en un programa informático, pero también pueden estar incorporados en dispositivos de hardware, como en definitiva son los robots. En el Diccionario de la Lengua de la Real Academia Española, “inteligencia” (del latín inteligentia) tanto quiere decir como “facultad intelectiva”, “facultad de conocer”, en tanto que “intelecto” (del latín intellectus) equivale a “entendimiento”, a “potencia cognoscitiva racional del alma humana”. Por ello, se ha sostenido que la inteligencia es una cualidad natural del ser humano, y que solo puede hablarse de “inteligencia artificial” como licencia del lenguaje, para hacer referencia a la posibilidad que determinadas máquinas, creadas por los hombres, tienen de resolver problemas o de llevar a cabo tareas mediante la realización de operaciones matemáticas todo lo complicadas que se quiera, mediante ecuaciones y algoritmos, cual si de hombres o mujeres se tratare (2).

 

Como disciplina teórica, la inteligencia artificial es el estudio de los procesos cognitivos mediante la utilización de los marcos conceptuales y las herramientas de la informática. Precisamente, la IA tuvo su comienzo como una especialidad de la informática a mediados de los años cincuenta. Más tarde, en 1968, Marvin Minsky, uno de sus fundadores, esbozó una de sus definiciones más clásicas: la caracterizó como “la ciencia de hacer máquinas para hacer cosas que requerirían inteligencia si las hiciera el hombre”. Pero la IA no parece ser, en la actualidad, una mera especialización de la informática. Es una disciplina muy compleja, que se nutre, además, de su ciencia madre, de otros campos del saber, tales como las matemáticas, el análisis de datos y las tecnologías de la información (3). Las definiciones sobre qué constituye la IA varían (4). No existe una definición establecida y unánimemente aceptada de IA. La IA es un concepto que engloba muchas otras (sub)áreas, como la informática cognitiva (cognitive computing: algoritmos capaces de razonamiento y comprensión de nivel superior —humano—), el aprendizaje automático (machine learning: algoritmos capaces de enseñarse a sí mismos tareas), la inteligencia aumentada (augmented intelligence: colaboración entre humanos y máquinas) y la robótica con IA (IA integrada en robots). Sin embargo, el objetivo fundamental de la investigación y el desarrollo en materia de IA es la automatización de comportamientos inteligentes como razonar, recabar información, planificar, aprender, comunicar, manipular, observar e incluso crear, soñar y percibir. En ese sentido, existe cierto consenso en que el concepto se refiere a sistemas que cuentan con una inteligencia que intenta asemejarse a la que poseen los seres humanos, lo que implica ir más allá del mero procesamiento de datos (5).

 

Entre varias definiciones o concepciones del concepto inteligencia, el elemento común es la capacidad de procesar información para resolver problemas en función de alcanzar objetivos. La noción de inteligencia está indisolublemente ligada al procesamiento de información. A partir de la inteligencia humana, se han desarrollado múltiples y diversas innovaciones tecnológicas. La que aquí nos ocupa tiene que ver con el procesamiento de la información para resolver problemas y tomar decisiones a partir de máquinas que operan a través de los llamados algoritmos inteligentes. La IA se sustenta en algoritmos inteligentes o en algoritmos de aprendizaje que, entre muchos otros fines, se utilizan para identificar tendencias económicas, predecir delitos, diagnosticar enfermedades, predecir nuestros comportamientos digitales, etcétera (6). La IA ha llegado para simplificarnos la vida y es un procedimiento en constante evolución. Lo que antes nos podía llevar horas, ahora se puede realizar en pocos segundos o minutos. Esta nueva etapa de la historia se caracteriza por la recopilación de información, el procesamiento de los datos y la sustitución de tareas por parte de máquinas que son capaces de “pensar” como el hombre y “resolver” en consecuencia. Aun las mentes más inteligentes del planeta pueden verse superadas por la IA en lo que se refiere a recopilación de información, su procesamiento y resolución. Como se ha remarcado, asistimos a una verdadera carrera por desarrollar IA para simplificar y optimizar diversas actividades humanas. Es en este escenario que surgen tres grandes desafíos en el ámbito jurídico. Por un lado, cómo nos protegemos a nosotros mismos de los algoritmos inteligentes que ya nos reemplazan y superan en múltiples actividades. Por otro lado, cómo hacer para que esta nueva tecnología contribuya al desarrollo sostenible e inclusivo del ser humano; y, por último, eventualmente, cómo se protegerán y se transformarán los derechos humanos en una transición que parece dirigirse hacia una simbiosis entre lo biológico, lo digital y lo artificial (7). También se ha destacado, a mi criterio con mucha razón, que los sistemas de IA no pueden reemplazar completamente las competencias de los seres humanos. Pueden colocar a los humanos en una posición ventajosa y ayudar a organizar mejor nuestra sociedad, pero, al final, los humanos son, o al menos deberían ser, los que siempre toman las decisiones finales  (8).

 

Un sistema podrá ayudar a un abogado o un juez a recopilar información y vincularla con el expediente o caso a tratar, pero no podrá (o al menos por ahora parece difícil) dialogar con el cliente o el justiciable tratando de entender “de humano a humano” su conflicto a fin de brindarle la solución adecuada.

 

Los operadores jurídicos no somos una base de datos que arrojan soluciones; somos o deberíamos ser personas al servicio de la noble tarea de hacer justicia, y esa faena requiere percibir sentimientos, descubrir cuándo se dice la verdad o cuándo se miente, buscar no siempre la solución óptima desde lo “científico”, sino también la “adecuada” o “posible” según la personalidad de quien debemos ayudar y su concreta situación personal (vulnerabilidad, grado de discernimiento, contexto social y económico, etc.). Un programa cargado con IA difícilmente resuelva dos casos con parámetros aparentemente iguales de manera distinta; un juez o un abogado, seguramente, podrán sentenciar distinto u ofrecer soluciones distintas en función de matices, un diferente contexto, la situación de la víctima o del victimario, etcétera.

 

Se ha dicho que los algoritmos bioquímicos del cerebro humano están bien lejos de ser perfectos y, por ello, no es ninguna sorpresa que incluso los buenos conductores, banqueros y abogados cometan —a veces— errores tontos.

 

Y, aunque los algoritmos lógicos de las IA tampoco son perfectos, es indudable que son mucho mejores, más confiables y más eficientes que los del cerebro humano (9). Es cierto que de prueba y error se llena el conocimiento humano, pero mejor errar que intentar ser perfecto, pero “inhumano”, en las decisiones. La gran cantidad de información y su uso es también una fuente inagotable de peligros contra la intimidad y la dignidad humana. La vida privada corre peligro o se vuelve vulnerable ante la recolección de datos a gran escala (big data); basta con ver cómo, mientras miramos el diario por internet, se nos aparecen propagandas relativas a productos o páginas que visitamos antes o en función de nuestra actividad o preferencias. La IA nos expone a riesgos. En definitiva, todo desarrollo humano conlleva ventajas y peligros, pero otra vez aquí se presenta “la inteligencia humana” como la única pauta posible de evitar o reparar el daño, usando la prevención y la precaución, de acuerdo con criterios valorativos que podrían resultar, tal vez, “no eficientes” para un conjunto de algoritmos.

 

III.     ¿Qué es un robot?

 

No hay acuerdo entre los ingenieros en qué es un robot; se lo suele definir como un dispositivo autónomo o semiautónomo que realiza sus tareas bajo control humano directo, control parcial y supervisión humana o de forma completamente autónoma. Autómata o automático es algo diferente a autónomo; esto último implica la libertad de decidir y no solamente de hacer. Con los nuevos robots y los venideros, estamos pasando de lo automático a lo autónomo, con consecuencias en todos los ámbitos. Las máquinas superan ya a los seres humanos en muchas dimensiones y aspectos, y lo harán aún más en los próximos años (10). También se ha definido a los robots, por sus capacidades, como una máquina que puede efectuar series complejas de acciones y, en especial, que se puede programar por ordenador  (11). La definición del Diccionario de la Real Academia Española no aporta demasiada luz en este punto, pues reza: “máquina o ingenio programable que es capaz de manipular objetos y realizar diversas operaciones, o que imita la figura y los movimientos de un ser animado”. Se habla en el mundo de la “segunda era de las máquinas” o la “industria 4.0”. Los robots (en términos amplios) están en todas partes (p. ej., como ya dijimos, los programas informáticos que nos contestan cuando llamamos a un servicio de atención al cliente): en la “robótica” como disciplina, ingresan en la física, la mecánica, la electrónica, la informática, las matemáticas, pero también en la biología, porque se han creado robots con cédulas dirigidas por señales luminosas. Drones, sofisticados aparatos médicos para la rehabilitación del cuerpo humano, robots médicos, asistentes geriátricos, educadores...: las posibilidades de esta nueva dimensión de máquinas son infinitas. Se han propuesto algunas diferencias entre androide, robot y cyborg. Androide es el nombre que se le da a un robot antropomorfo, es decir, que tiene forma o apariencia humana y además imita algunos aspectos de su conducta de manera autónoma. La palabra “androide” posee un origen etimológico griego, al estar constituido por andro (hombre) y eides (forma). Un robot es una máquina o ingenio electrónico programable capaz de manipular objetos y realizar operaciones antes reservadas solo a las personas. El robot humanoide es aquel que se limita simplemente a imitar los actos y gestos de un controlador humano, por lo que no es un verdadero androide, propiamente dicho. Mientras, cyborg es una palabra que se forma a partir de las palabras inglesas cyber(netics) organism (organismo cibernético) y se utiliza para designar una criatura, medio orgánica y medio mecánica, generalmente con la intención de mejorar las capacidades del organismo utilizando tecnología artificial (12). 

 

Hacia fines del año 2017 los diarios daban cuenta de una noticia insólita: Sophia es un robot con forma humanoide desarrollado por la empresa Hanson Robotics; tuvo su presentación formal en marzo de 2016, y un año y medio después se convirtió en el primer robot en obtener ciudadanía saudí. La semejanza de este androide con una mujer es increíble; puede imitar gestos humanos; su aspecto es casi igual al de una hermosa señorita, y su inteligencia programada es asombrosa (13). Como acertadamente se ha señalado, la IA permite resolver problemas, pero lo relevante no es de quién son los problemas, sino a quién favorece su resolución. Cuando un superordenador vence al maestro de ajedrez, ¿a quién favorece o beneficia el triunfo en la partida? No al ordenador, desde luego, sino a su creador humano. El tratamiento jurídico de los robots no puede ser el de las personas humanas, porque no lo son, y aunque nos imiten, sabemos que están fingiendo. Las bases de una personalidad robótica, sea esto lo que sea, no pueden hallarse en la IA, sino en meros motivos de oportunidad y necesidad (14).

 

IV.      Preocupaciones y beneficios que generan los robots

 

Ya hace bastante tiempo que se habla del peligro de un “ahuecamiento” del mercado laboral. El proceso de reemplazo o desplazamiento del trabajo no se limita a las tareas de rutina que no exigen mayor capacitación, que pueden reemplazarse fácilmente con la digitalización, sino del avance de los “drones inspectores y robots delivery, médicos digitales y cirujanos mecánicos, traductores y editores online, incluso ciberartistas y cibercompositores”. Se trae como ejemplo llamativo el caso de la China, en la que, agotada la mano de obra barata (que, como sabemos, provocó transferencias empresarias que conmovieron economías desarrolladas), se apuesta a la robotización masiva de sus plantas industriales (15). Es difícil presagiar el efecto a largo plazo de la tecnología sobre el empleo y el salario, o el resultado final de la carrera entre robots y trabajadores. Pero el avance de la IA en la realización de tareas que a priori no parecían automatizables nos hace inclinar por la perspectiva de los escépticos y pensar que al final del camino tendremos menos empleo y menos salarios. La tecnología trae una desglobalización que afecta aún más a las economías en desarrollo. El conjunto de nuevas técnicas amenaza con quitarnos ventajas competitivas; por ejemplo, los recursos naturales pueden reemplazarse con nuevas fuentes de energía; los alimentos, con impresión sintética; los trabajadores baratos, con robots (16). Lo que nadie pone en duda es que la irrupción de la robótica generará múltiples cambios en la sociedad y, por ende, en el derecho. La concentración de capitales se irá volcando a la robótica y ello podría generar peligrosos monopolios que detenten un gran poder económico por sobre el resto de las empresas que no accedan a esas tecnologías. Los países que desarrollen estas industrias tendrán, sin duda, una posición predominante en el mundo. Las relaciones laborales deberán tomar en cuenta este fenómeno; la IA tiende no solo a sustituir brazos y manos, sino el propio cerebro humano (17). El negocio de los robots sexuales es ya una realidad  (18); la “robótica del placer” se acerca cada día más y está provocando polémica; los compañeros robóticos para el sexo se convertirán en algo común, aunque esto provoque repugnancia y división de opiniones. La antropóloga Kathleen Richardson, profesora de Ética y Cultura de Robots e Inteligencia Artificial en la Universidad de Montfort, en Leicester, Reino Unido, quiere que este tipo de marketing sea prohibido. La investigadora dirige a nivel mundial una campaña contra los robots sexuales, para prohibirlos, porque cree que este tipo de relaciones deshumanizará aún más a mujeres y niños, sujetos a tantos abusos (19). Los robots también pueden ser usados para la destrucción; los medios de prensa han informado que mundialmente se están discutiendo una batería de estrategias para poder regular los que han denominado como “sistemas armamentísticos futuristas”, que pueden llevar adelante guerras sin la intervención del hombre (20). La campaña para detener los “robots asesinos”, que se extiende por el planeta, arrancó en 2012 de la mano de un grupo de organizaciones no gubernamentales; ahora ya está presente en más de 60 países y ya fueron también a golpear las puertas de Naciones Unidas. El secretario general, António Guterres, calificó estas armas como “políticamente inaceptables y moralmente repulsivas”, pero por ahora no se ha llegado a acuerdos concretos para prohibirlas (21). Pero el “robot” como un “otro” ha comenzado a generar preocupaciones concretas para la teoría jurídica, particularmente a partir del hecho de que la robótica se ha desplazado de un paradigma “mecánico” (que tenía por objetivo la aceleración de movimientos precisos y comple jos) hacia un paradigma “cognitivo” (que tiene por fin desarrollar capacidades artificiales autónomas) (22). Si los robots son autónomos y pueden “pensar” o “decidir” entre varias opciones posibles, son al menos algo distinto que el televisor o la cafetera, que solo responden cuando accionamos sus comandos. Estamos ingresando en una era donde la convivencia con la IA se hará cada día más frecuente; por caso, ya ninguno de nosotros podemos pensar en un teléfono móvil sin que sea “inteligente”. Por otra parte, ha comenzado a gestarse una línea de pensamiento que se pregunta si los robots tienen o deberían tener derechos  (23). ¿Podrán ser desechados? ¿Tendrán derecho a reproducirse artificialmente ellos mismos o copiarse a sí mismos? ¿Podrán agruparse o asociarse? Las preguntas suenan futuristas, pero en algunos años deberemos enfrentarlas como hemos debido asumir que ciertos animales son algo más que una simple cosa (24), en el Anteproyecto de Reforma al Código Civil y Comercial del año 2018, que establecía que “[l]os animales son seres vivientes dotados de sensibilidad”, dejando aclarado que, “salvo reserva de las leyes  que los protegen, están sometidos al régimen de las cosas” (25). Un informe denominado “Bot.Me: A revolutionary partnership”, elaborado por la consultora Price Waterhouse Coopers, arroja que más de la mitad de los consumidores encuestados está de acuerdo en que la IA ayudará a resolver problemas complejos que afectan a las sociedades modernas (63%) y ayudará a las personas a vivir más satisfactoriamente (59%). Por otra parte, menos de la mitad cree que la IA perjudicará y quitará trabajo a las personas (46%), y solo el 23% cree que esto tendrá implicaciones serias y negativas (26). En el mundo de los negocios, los robots son de gran utilidad, pero están generando algunos conflictos. En un informe preliminar de la Comisión Europea sobre la investigación llevada a cabo en el sector del comercio electrónico, se pone de manifiesto la preocupación de la institución comunitaria sobre la capacidad de facilitar una colusión entre competidores mediante el uso de programas de software automatizados. La posibilidad de utilizar robots para llevar a cabo conductas restrictivas de la competencia también ha sido analizada por las autoridades de defensa de la competencia de Alemania y Francia en su reciente informe “Competition law and data”. En estas circunstancias, será complicado detectar y acreditar los acuerdos prohibidos e imputar la infracción a los responsables (27).

 

Los robots pueden no solo dedicarse a tareas empresarias, sino también a la asistencia humana. Un profesor japonés, Takanori Shibata, actual director de Investigación del Instituto Nacional de Ciencias y Tecnología Industrial Avanzada de Japón, ha creado un robot foca bebé de peluche, llamado Paro (en España, Nuka), utilizado para tratar emocionalmente, en vez de con psicotrópicos, a personas de edad avanzada aquejadas de demencia senil o de Alzheimer, enfermos terminales de cáncer, con cuidados paliativos y también a niños con problemas de autismo. Paro se usa como terapia neurológica y también como compañía, así como para asegurar el descanso de los cuidadores. Pero no es el único: el Massachusetts Institute of Technology ha desarrollado, para un hospital, un osito de peluche que habla; Sony fabricó un robot canino, Aibo. Las máquinas son cada vez más capaces de calibrar nuestras emociones y de hacernos reaccionar con ellas. Como apunta Pascale Fung, de la Universidad de Hong Kong, cuando las máquinas van a cuidar ancianos necesitamos que comprendan y compartan emociones humanas para que tengan empatía. Un prototipo que ha creado, de nombre Zara, analiza la cara, hace preguntas, detecta el sexo y la etnia. Tras cinco minutos de conversación trata de adivinar la personalidad del interlocutor. En la IA empieza también a contar eso que se ha venido a llamar la inteligencia emocional (28). Avatarmind, la empresa con base en Silicon Valley, creó iPal, un robot de un metro capaz de educar y entretener a los menores y ayudar a los padres a monitorear a sus hijos. Algunas de las funciones base que trae el software de iPal son la posibilidad de tener conversaciones naturales y traducir un texto a diálogo oral, el reconocimiento facial, adaptar el comportamiento para mejorar la interacción, evitar choques y reconocer y responder ante emociones (29). Los robots ya han llegado, y más están en camino. Los robots han salido de las cadenas de montaje de las fábricas para circular por las carreteras, como sucede con los primeros prototipos de coches o camiones autónomos, para volar en espacios aéreos más bajos para entregar mercancías por medio de drones o realizar reconocimientos para detectar construcciones no declaradas, por ejemplo. También están reemplazando a los electrodomésticos para crear hogares conectados e inteligentes, y, asimismo, están viajando a lugares más allá de la capacidad humana para abrir nuevas fronteras al descubrimiento espacial. Es también muy común la referencia a las posibilidades que los robots presentan con la anglosajona expresión the 3 D, esto es, permiten afrontar tareas que se caracterizan por los tres adjetivos que empiezan por “d”: dull (tedioso), dirty (sucio) y dangerous (peligroso) (30). El futuro que nos parece ciencia ficción está a la vuelta de la esquina, y el derecho deberá decidir si estas máquinas merecerán algún status diferente de las simples cosas: ¿serán embargables tengan el destino que tengan?, ¿requerirán algún control de fabricación o de transferencia por parte del Estado?, ¿podrán revelar datos sensibles de sus dueños que será necesario proteger?, ¿habrá una justicia rápida impartida por robots?, ¿los abogados serán reemplazados por máquinas inteligentes? (31). Estas son solo algunas de las preguntas que los operadores jurídicos podemos hacernos, hasta donde llega nuestra actual imaginación. En este modesto trabajo solo tratamos de responder si es necesario asignarles personalidad jurídica a los robots.

 

V.         La Cuarta Revolución Industrial

 

Los cambios legislativos suelen seguir a los económicos; por ello, no podemos dejar de  mencionar que en materia de robótica e IA se habla de una “Cuarta Revolución Industrial”  (32). La Primera Revolución Industrial, entre 1750 y 1830, fue la de la mecanización, la energía de vapor, los trenes y las nuevas máquinas. La Segunda, la de la electricidad, el motor a combustión y el agua corriente, tuvo lugar entre 1870 y 1900, en ciertos casos algunos años más tarde. La Tercera fue la de los ordenadores e internet. Es curioso cómo las dos Revoluciones Industriales anteriores han ido de la mano de un nuevo tipo de energía, mientras que la Tercera ha roto con ese patrón; aunque se inició antes, realmente comenzó a permear a partir de 1960. Ahora estamos en esta, que el Foro Económico Mundial de Davos calificó como la Cuarta. No se sabe si habrá una Quinta Revolución o habremos entrado en una que será permanente (33). La trayectoria de cada una de las Revoluciones Industriales nunca ha sido fácil, ni directa. El tipo de trabajo se transforma. La mecanización y la producción en masa trasladaron a millones de personas de la producción agrícola y el campo al trabajo en fábricas y ciudades. Los ordenadores y el desarrollo de los medios de transporte hicieron posible la construcción de cadenas de abastecimiento más extensas y flexibles, que han atravesado fronteras y convertido los mercados locales en mercados globales y más interdependientes que nunca. La Cuarta Revolución Industrial nos exige pensar lateralmente, uniendo industrias y disciplinas antes delimitadas de forma precisa. Los biólogos ahora deben ser también programadores y saber estadística si quieren explotar el potencial de la ciencia genómica. Las empresas financieras, desde los bancos hasta los fondos de inversión, contratan hoy a especialistas cuantitativos que puedan estudiar grandes volúmenes de datos en busca de información sobre el comportamiento de los clientes y oportunidades de inversión. Esta revolución generará millones de nuevos empleos para aquellos que posean las capacidades y la formación adecuadas (34). La Cuarta Revolución Industrial (RI-4) corresponde al uso de robots —máquinas programables— y de IA —máquinas que aprenden— en la producción, lo que afecta la existencia del trabajo humano, repetitivo o creativo. Ello, a su turno, incide en la organización de los negocios que están directa o indirectamente relacionados con esta revolución, pues se requieren nuevas formas de organización del trabajo, la distribución y el intercambio (35). Hay quienes se muestran más pragmáticos y alertan que la Cuarta Revolución no hará sino aumentar la desigualdad en el reparto del ingreso y traerá consigo toda clase de dilemas de seguridad geopolítica. Pero lo cierto es que la legislación y la actividad de los operadores jurídicos no escapan a este proceso. En el ámbito jurídico, encontramos a nivel global las experiencias de softwares automatizados para la elaboración de escritos judiciales, contratos inteligentes (smart contracts), abogados androides o cyborg (abogado robot Ross), algoritmos para la resolución de disputas legales y para la predicción de las sentencias (Watson-IBM). Estonia ya se encuentra en la primera fase y prueba piloto del proyecto de jueces robots, es decir, la implementación de IA para decisiones jurisdiccionales. En similitud, China presentó (en 2019) el Tribunal de Internet de Pekín, un centro de litigios en línea en el que un juez de apariencia femenina, con cuerpo, expresiones faciales, voz y gestos —todo ello modelado sobre la base de un ser humano que, incluso, “respira”—, basado en la IA, resolverá litigios  simples, aunque en esta primera fase funcionará de apoyo a los jueces de verdad (36). El derecho es tan humano como quienes lo escriben, estudian, ejercen y critican. Resulta ser, en su faz positiva, el reflejo de una cosmovisión y la impronta de cualquier sociedad. Por ende, el derecho, como ciencia, evoluciona junto al hombre, adaptándose a sus necesidades y enfrentándose a sus desafíos contemporáneos. Frente el gran impacto que tiene la IA en la sociedad irrumpe la necesidad de diseñar un marco regulatorio. El desafío principal estriba en determinar si nuestras bases son suficientes para contener el fenómeno informático o si esta demanda genera nuevas ideas jurídicas. A pesar de los grandes beneficios que han traído los robots, se ha constatado que existen ocasiones en las que, durante el desarrollo de sus tareas, pueden suscitar un riesgo para otros. En ciertos casos, los algoritmos se alejan de lo dispuesto por el diseñador del software o programador, tomando sus propias decisiones, asumiendo una autonomía completa e, inclusive, accediendo al propio diseño del programa (37). La pregunta es si estos desafíos se solucionan otorgando a los androides una personalidad diferenciada de sus creadores, dueños o usuarios. De esto nos ocuparemos en los acápites que siguen.

 

VI.      La persona y la personalidad

 

 La persona y la personalidad han sido y son eje de discusión para el derecho. Evidentemente, detrás del concepto legal de persona existe una sola realidad: el hombre (en forma aislada o como grupo humano personificado), quien es (al menos por ahora) el único sujeto de la relación jurídica (38). El hombre y la vida social son la razón del derecho, pues sin vida social el derecho no puede cumplir su función de instrumento de organización justa de la convivencia (39). El derecho existe por y para el hombre. Fue el hombre como ser social quien, en el inicio del tiempo, ante la necesidad de prevenir y resolver conflictos, creó el derecho, de manera, pues, que siendo el ser humano la persona por antonomasia no es difícil deducir que todo el sistema legal gira siempre alrededor de tal noción. Una noción filosófica de persona señala que es toda sustancia individual de naturaleza racional. Pero tal definición, que se corresponde con la idea de ser humano y coincide jurídicamente con la persona natural, es incompleta o inválida para el ámbito jurídico, porque no incluye la persona incorporal o persona jurídica en sentido estricto (40). Siempre hemos entendido, como lo hace Saux, que persona es el correlato del sustrato humano, de su libertad y su dignidad, individual o colectivamente considerado; que tal virtud lo torna protagonista de relaciones jurídicas en diversas situaciones legitimantes activas o pasivas, y que lo erigen en la categoría de sujeto de derechos y deberes correlativos  (41). O, como sostiene Tobías, que la persona es una categoría natural que está por encima del derecho positivo: el ser humano es un dato anterior, prexistente y trascendente al derecho (el cual existe y se justifica en tanto tiene por misión solucionar los conflictos interindividuales o sociales); un prius respecto del derecho, puesto por el legislador —que surge de su dignitas—; que aquel, que es obra del hombre, no puede dejar de reconocer (42). En las palabras de Cifuentes, el concepto de persona está creado por el hombre, sirviéndose del derecho, y contiene en sí una realidad conceptualizada. No es un concepto creado únicamente por el derecho, sino identificado con el hombre como elemento material. Es el hombre conceptualizado en un modo específicamente jurídico. Si desapareciera de la escena el hombre, no habría concepto jurídico de persona (43). Para el pensamiento posmetafísico moderno, la noción de persona va a sufrir un cambio radical, pues ya no va a echar sus raíces en la ontología, en el ser (y propiamente en el ser persona), a la que explícitamente se va a repudiar. Ya no se considerará “persona” al suppositum, hipóstasis o subsistencia de naturaleza (ousía) racional, sino al sujeto de alguna funcionalidad vital a la que se le reconoce el atributo de ser el origen de la personalidad o personeidad. Actualmente, muchos distinguen entre ser humano y persona humana, pues, mientras que aquel es todo individuo de la especie humana, a la persona humana se la identifica con el status de un sujeto, solo en tanto realiza alguna función vital (la racionalidad en acto, la percepción placer-dolor, la dimensión relacional, etc.), o con el reconocimiento público (concepción política de la persona), que concede dicho status de persona al sujeto (humano o no humano) poseedor de alguna nota característica, no de su ser (porque eso sería ontología metafísica), sino de su funcionalidad operativa, por lo cual afirman que el hombre no es persona, sino que se hace persona a través de una evolución progresiva y puede dejar de serlo al desaparecer la función vital con la que identifican la personalidad (44). Pero la realidad no se impone al hombre como fatal e inevitable, imposible de aprehender, sino como algo que puede descubrir entrañablemente, en sus esencias, reconociendo las causas y operando sobre ellas, en la medida de su finitud y limitaciones. La búsqueda de la esencia de las cosas, entendidas no como res corpórea sino como res extensa, todo lo que es, la realidad misma, es factible mediante el uso de la inteligencia que ilumina y la razón (45). Desde esta perspectiva debemos acercarnos a los “nuevos contornos de la personalidad” que nos presenta la actualidad. Por el momento, el ser humano (solo o como grupo humano personificado) sigue siendo el único “sujeto” de la relación jurídica; sin embargo, no podemos dejar de advertir que ya existen contratos celebrados entre máquinas inteligentes, sin ninguna intervención humana. No sería descabellado considerar que robots inteligentes podrán “agruparse” en algún tipo de organización o persona jurídica. Esos seres con una inteligencia artificial, que creamos para que “se nos parezcan”, ¿deberán ir gozando de algunas prerrogativas jurídicas? Los conceptos del presente deberán ser necesariamente revisados en pocos años; el camino se ha comenzado a transitar.

 

VII.   La resolución del Parlamento Europeo del año 2017

 

Un hito importante en la discusión sobre una “personalidad robótica” fue el Proyecto de Informe de la Comisión de Asuntos Jurídicos del Parlamento Europeo de fecha 31/05/2016, que contiene recomendaciones dirigidas a la Comisión sobre normas de derecho civil sobre robótica, con una ponencia de la eurodiputada Mady Delvaux (46). De ese Proyecto surgió la resolución del Parlamento Europeo del 16/02/2017.

 

La mencionada resolución contiene una serie de recomendaciones para el legislador, entre las que podemos mencionar: a) la creación de una “Agencia Europea de Robótica e Inteligencia Artificial”; b) la elaboración de un código de conducta ético voluntario que sirva de base para regular quién será responsable de los impactos sociales, ambientales y de salud humana de la robótica y asegurar que operen de acuerdo con las normas legales, de seguridad y éticas pertinentes. Prevé, por ejemplo, la exigencia de que los robots incluyan interruptores para su desconexión en caso de emergencia. Y recoge la necesidad de acordar una Carta sobre Robótica; c) promulgar un conjunto de reglas de responsabilidad por los daños causados por los robots; d) crear un estatuto de persona electrónica; e) estudiar nuevos modelos de empleo y analizar la viabilidad del actual sistema tributario y social con la llegada de la robótica; f) integrar la seguridad y la privacidad como valores de serie en el diseño de los robots; y g) poner en marcha un Registro Europeo de los Robots Inteligentes. La citada resolución estima que los referentes éticos de la robótica deben ser la seguridad y la salud humanas, la libertad, la intimidad, la integridad, la dignidad, la justicia, la equidad, la autodeterminación, la no discriminación, la no estigmatización, la protección de datos personales, la transparencia, la responsabilidad, así como los principios de beneficencia y no maleficencia. Parece, por lo que venimos diciendo, que el Parlamento Europeo apoya la creación de una nueva figura intermedia entre las cosas y las personas físicas para gestionar los problemas entre las personas y los robots, lo cual sería otra persona ficticia, como lo son las personas jurídicas. En Estados Unidos se habla de persona artificial.

 

Hay quienes afirman que, basada en una IA de las denominadas “fuertes” (aquellas que no simulan una mente humana, sino que lograrían un pensamiento similar a un humano), un robot programado en forma adecuada con un cerebro basado en la química de silicio podría ser consciente, podría tener un “yo”. Mejor dicho, podría existir un yo consciente cuyo cuerpo sería el robot y cuyo cerebro sería el ordenador. Pero la inteligencia humana lo es porque va acompañada de consciencia, y esta solo es posible en el cerebro humano; esta consciencia es lo que hace humano al pensamiento. La conciencia reside en la capacidad del cerebro de pensar en sí mismo como ente capaz de pensar en sí mismo. Este nivel se alcanza partiendo de patrones de pensamiento autorreferentes. Así, la complejidad neuronal humana es muy difícil de emular en un cerebro electrónico; hay pensamientos humanos que no son reproducibles en un ordenador; los humanos podemos pensar sobre nosotros mismos como sujetos pensantes (de hecho, lo estamos haciendo continuamente, siendo esta autointrospección lo que más genuinamente consideramos como “consciencia”). Esto demuestra la necesidad de algo más que un algoritmo para la resolución de problemas causados por la autorreferencia (47).

 

VIII.Las críticas a la personalidad electrónica y el incentivo de una IA “fiable”

 

Más de doscientos expertos de distintas disciplinas, entre los que figuran juristas como Nathalie Navejans, profesora de la Facultad de Derecho de la Universidad de Artois, enviaron una carta dirigida al presidente de la Comisión Europea, Jean-Claude Juncker, en la que pidieron que no se les dé a los robots el estatus de personas, aún electrónicas. Los principales argumentos para tal petición fueron los siguientes: a) reconocer el estatus de personas a los robots supondría reconocerles derechos, lo cual no parece de recibo; b) considerar a los robots como personas, amén de implicar una sobrevaloración de las capacidades de aquellos, supondría poder asegurarlos y reclamarles responsabilidades a título personal, lo cual es bueno —dícese— para los fabricantes, que eludirán las consecuencias de lo que pudieran hacer las máquinas; c) conceder responsabilidad a los robots es escudarse en las máquinas para que no pueda exigirse responsabilidad a los humanos; d) asignar personalidad a los robots iría en contra del elevado rango, que reserva tal posibilidad a las mujeres y a los hombres, cuales las que regulan los derechos humanos, las libertades públicas y los derechos fundamentales. La Comisión Europea remitió, pocos días más tarde de esa carta, una comunicación al Consejo, al Comité Económico y Social, y al Comité de Regiones, titulada “Inteligencia artificial para Europa”, que lleva formulaciones y puntos de vista no coincidentes —cuando no distintos— con los contenidos en la carta referida de los expertos (48). De ese grupo surgió la idea del Proyecto de Directrices Éticas con relación a la Inteligencia Artificial, que fue publicado el 18/12/2018 (49); su objetivo último era, en conjunto, que los gobiernos y las empresas invirtieran al menos 20.000 millones de euros al año en investigación para IA a partir de 2020. Posteriormente, la Comisión Europea presentó, el 08/04/2019, una comunicación al Parlamento Europeo denominada “Generar confianza en la inteligencia artificial centrada en el ser humano”. De acuerdo con esta última declaración, se propugna lograr una “IA fiable” y, para ello, son necesarios tres componentes: 1) debe ser conforme a la ley, 2) debe respetar los principios éticos, y 3) debe ser sólida (50). En este último informe no se menciona el tema de la personalidad electrónica y se advierte que los potenciales impactos negativos de los sistemas de IA deben señalarse, evaluarse, documentarse y reducirse al mínimo. Lejos de proclamar una personalidad robótica que asumiría las consecuencias de hechos dañosos, se advierte que, cuando se produzcan efectos adversos injustos, deben estar previstos mecanismos accesibles que garanticen una reparación adecuada. Por lo demás, se rescata el protagonismo del hombre en este proceso, se recomienda que los sistemas de IA actúen como facilitadores de una sociedad floreciente y equitativa, apoyando la intervención humana y los derechos fundamentales, y no disminuir, limitar o desorientar la autonomía humana. El bienestar global del usuario debe ser primordial en la funcionalidad del sistema. La IA está en la agenda científica de la Unión Europea. El mundo está tomando consciencia de los peligros que ocasionaría un desarrollo descontrolado de la IA. Por ello, se ha abierto un debate para conseguir que los sistemas inteligentes traigan consigo beneficios a las personas, y no perjuicios. La atribución de personalidad jurídica a los robots podría significar no un beneficio para los futuros androides, sino una liberación de cargas y responsabilidades de sus fabricantes, dueños y programadores.

 

IX.      El humanismo y los robots

 

 Isaac Asimov postuló tres leyes que, aunque son fruto de un autor de ciencia ficción, fueron reproducidas por muchos como las normas que deberían regir la relación entre los humanos y los robots. Ley 1: Un robot no puede dañar a un ser humano o, a través de la inacción, permitir que un ser humano sufra daños. Ley 2: Un robot debe obedecer las órdenes que le dan los seres humanos, excepto cuando tales órdenes entren en conflicto con la primera ley. Ley 3: Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la primera o la segunda ley. Se ha sostenido la impropiedad del vocablo “humanismo” para expresar un concepto diáfano, como con toda su autoridad lo expresó Heidegger en su célebre “Carta sobre el humanismo”, cuando dice: “Si nos decidimos a conservar esta palabra, 'humanismo' significa ahora que la esencia del hombre es esencial para la verdad del ser, de tal modo que lo que importa ya no es precisamente el hombre simplemente como tal”. De esta manera, pensamos un “humanismo” de un género extraño. La palabra nos acaba proporcionando un rótulo que es un lucus a non lucendo (luz que no ilumina). De todas formas, coincidimos con Héctor Alegria en que el humanismo hunde su raíz en esencias absolutamente sostenibles y que, a despecho de ciertas inclinaciones, el humanismo no es una mera ideología, sino una vivencia y un principio trascendente. El humanismo, a los fines del fundamento de las soluciones jurídicas (creación, aplicación e interpretación del derecho), se apoya en el concepto de persona y se centraliza en su dignidad (51). Hemos tenido oportunidad de señarlo hace poco tiempo: el concepto de dignidad humana está en el centro mismo del derecho internacional de los derechos humanos. Es un derecho reconocido implícita (art. 33) y expresamente (art. 75, inc. 22) por nuestra Carta Magna. La dignidad de la persona se constituye como núcleo central de la Declaración Universal de Derechos Humanos (1948); es fundamento principal de la bioética. El art. 51 del Cód. Civ. y Com. dispone: “La persona humana es inviolable y en cualquier circunstancia tiene derecho al reconocimiento y respeto de su dignidad”. El precepto legal recoge la idea de que la persona tiene un valor en sí misma y como tal cabe reconocerle una dignidad (52). Es útil recordar que, en sus orígenes, se hablaba de derechos humanos para fortalecer la posición del individuo frente al Estado. Posteriormente se consagró específicamente lo que se ha dado en llamar “el efecto horizontal” de estos derechos, es decir, su ejercicio y también su obligación con relación a otros particulares. Los Estados fueron requeridos, primero, de una actitud pasiva, es decir, de mero respeto de estos derechos, pasándose después a otorgarles otra misión predominantemente activa, por la que se obligan a introducir sus principios en la legislación interna, a dictar las medidas adecuadas para la concreción de esos derechos y a brindar el apoyo jurisdiccional necesario para su aplicación (53). De lo expuesto surge clara una primera idea: los robots y la IA solo pueden ser concebidos como una forma de progreso en el reconocimiento del humanismo, nunca como un retroceso. Mucha sangre y esfuerzo ha costado a la humanidad la consagración del principio pro homine, del cual nos hablaba el recordado Atilio Alterini (54). Ello coincide con el rasgo fundamental que para nosotros tiene el derecho, que es el de estar a favor del hombre. Reconocer este principio como parte de las declaraciones y los tratados de derechos humanos nos lleva necesariamente a recordar que estos tienen una dimensión vertical que se proyecta en la obligación de las autoridades estatales de respetarlos, protegerlos, garantizarlos y promoverlos, y una horizontal de respeto recíproco entre los hombres (55). La revolución de la Industria 4.0 deberá necesariamente contemplar la progresividad en materia de derechos humanos; los ordenadores, los algoritmos, los sistemas informáticos, los robots y los androides deben servir para seguir construyendo una sociedad basada en la dignidad de la persona; el derecho debe estar muy atento a ello. Lo advertía hace muchos años Juan Pablo II: “Quizás una de las más vistosas debilidades de la civilización actual esté en una inadecuada visión del hombre. La nuestra es, sin duda, la época en que más se ha escrito y hablado sobre el hombre, la época de los humanismos y del an-  tropocentrismo. Sin embargo, paradójicamente, es también la época de las más hondas angustias del hombre respecto de su identidad y destino, del rebajamiento del hombre a niveles antes insospechados, época de valores humanos conculcados como jamás lo fueron antes” (56). No se nos escapa que la visión antropocéntrica está siendo puesta en crisis por una visión ecocéntrica, y esto ha llevado al cuestionamiento sobre la necesidad de reconocer personalidad a ciertos animales  (57) o incluso a áreas protegidas del planeta  (58). Pero una cosa es pensar que el hombre no es el único integrante del ecosistema y otra distinta es pretender que el fruto de su propia inteligencia y creación adquiera “personalidad propia”.

 

X.         Reflexiones finales

 

Sin dudas, prevalece aún una tendencia antropocéntrica y todo tiene que ser a imagen y semejanza de los humanos. Mientras tanto, la sociedad cambia, comienzan a desaparecer los íconos de nuestra sociedad, las cartas, los buzones, los teléfonos fijos, etc. Todo cambia. El tema es de qué manera el derecho asimila los cambios, o si simplemente opera dentro de un travestismo conceptual. Determinada institución o entidad es similar a otra categoría y, en un extremo de simplificación, lejos de asignarle características específicas, naturaleza jurídica independiente o caracteres propios, la solución al estilo de contestador automático es colocarla en un plano similar a otro. Una fotocopia conceptual (59). En esa línea de pensamiento, parecería que, si una máquina “se nos parece”, “puede pensar como nosotros”, la respuesta del ordenamiento jurídico debería ser permitirle a esa “cosa” ser “sujeto” de determinadas relaciones jurídicas. Ahora bien, ¿esta es la única respuesta que puede dar el derecho frente a los robots? Y cabría una pregunta más: ¿es una respuesta inocente o contiene una segunda intención? Como señala el profesor de Robótica de la Universidad de Bristol (Reino Unido), Jonathan Rossiter, “ni en nuestra sociedad ni en nuestras vidas habrá nada ajeno a la robótica del futuro”. Parece necesario, pues, enfrentarse a una ponderación de los beneficios resultantes y de los riesgos implícitos en la creación, desarrollo, aplicaciones y utilización de los robots, máquinas inteligentes, sensores y demás artilugios tecnológicos asimilables, valorando los beneficios —de todo orden, no solo económico— que se pueden obtener, pero también los límites que no se deben traspasar o los riesgos que no compensa asumir. Cuestión harto polémica, con toda seguridad, pero ineludible. Es un complejo desafío para toda la sociedad y especialmente para el legislador (60). Nadie niega que los robots pueden generar beneficios en la productividad de las empresas, en la eficiencia de los tratamientos médicos, en tareas de vigilancia o humanitarias, como el cuidado de adultos mayores o niños. De a poco, irán formado parte de la nueva vida cotidiana. Pero también es cierto que plantean amenazas, que pueden causar daños; es por eso por lo que, junto con el desarrollo de una industria que parece que marcará la potencia de las naciones  (61), los juristas deberán tratar de queestas máquinas no perjudiquen a nadie y contribuyan al respeto de los derechos humanos, en los cuales no cabe esperar un retroceso sino una mejora. La personalidad electrónica o robótica parece más una conveniencia que una necesidad; un beneficio para sus fabricantes, dueños o tenedores. En este tema no puede pecarse por inocencia. Es cierto que cuanto mayor nivel de autonomía alcancen los robots, más difícil será considerarlos meros instrumentos en manos de humanos, pero coincidimos con quienes sostienen que los robots no pueden ser considerados en sí mismos responsables de los actos u omisiones que causen daños a terceros, sino que siempre existe la posibilidad de atribuir dichos daños a un agente humano que podía haber previsto o evitado el resultado dañoso. Son los operadores, fabricantes o usuarios quienes podrían ser considerados responsables por los actos u omisiones del robot  (62). El hecho de que los robots pueden llegar a ser autónomos no conlleva necesariamente otorgarles personalidad; los animales también lo pueden ser, y la responsabilidad por sus actos es de sus poseedores o de quienes se sirven de ellos. Cuando el mundo comenzó a pensar en la “personalidad de los animales”, la idea fue considerar que, habiendo especies que tienen posibilidad de “sentir” y, por ende, de “sufrir”, no bastaba con dictar normas protectoras que en definitiva piensan en los sentimientos del ser humano, sino que había que otorgarles a esos “seres sintientes” una categoría especial que la diferencie del resto de las cosas (63). ¿Cabe aquí la misma solución? El robot no es un ser que se encuentre espontáneamente en el ecosistema, no es fruto de la naturaleza; es una creación humana. Los robots “imitarán nuestros sentimientos”, pero no tendrán los propios; su programación podrá ser cambiada de un día para el otro para sentir empatía con su nuevo dueño, olvidándose por siempre del anterior. Por cierto, un robot no es como un perro, que si es abandonado podrá recorrer las calles día y noche en busca de su dueño o dejarse morir de tristeza cuando su amo fallece. Es posible que un día los robots se autofabriquen y programen entre ellos mismos; también es imaginable que vayan adquiriendo cada día una inteligencia artificial “más fuerte”, tomen decisiones y se rebelen contra sus dueños. Tal vez nosotros no llegaremos a ver esa evolución de los robots, pero que hoy sea una realidad incipiente no puede dejar de inquietarnos como juristas. Como dijo sabiamente un amigo, el art. 41 de la CN nos obliga a pensar en las generaciones futuras y en la existencia de una categoría

 

jurídica que, hasta hace poco, el derecho civil no contemplaba: las relaciones jurídicas intergeneracionales (64). Nosotros debemos ser una suerte de fiduciarios, diseñando herramientas jurídicas eficaces para la interacción entre personas y robots, en un futuro que parece lejos, pero que está muy cerca.

 

NOTAS Y REFERENCIAS

 

(*) Por ser el último ejemplar en formato revista, me he permitido infrigir una regla autoimpuesta y publicar un artículo de mi autoría que fuera editado anteriormente por el Instituto de Derecho Civil de la Academia Nacional de Derecho.

 

(**) Doctor en Ciencias Jurídicas y Sociales. Profesor de grado y posgrado en la UBA, en Universidad de San Andrés, en la Universidad de Palermo y otras universidad del país. Miembro del Instituto de Derecho Civil de la Academia Nacional de Derecho y de la Asociación Argentina de Derecho Comparado.

 

(1) En realidad, el primer dispositivo disponible comercialmente que podría denominarse correctamente como "teléfono inteligente" comenzó como un prototipo llamado "Angler" desarrollado por Frank Canova en 1992 mientras trabajaba para IBM y fue exhibido en noviembre de ese año en la feria comercial de la industria informática COMDEX, aunque ese dispositivo nada tiene que ver con los actuales smartphones. En 2007, Apple lanza el primer IPhone de la historia, cambiando así los estándares del uso de telefonía celular para siempre; fue nombrado "Invento del año" por la revista Time en 2007. La salida del primer IPhone da a luz al sistema operativo móvil IOS, y un año después —en el 2008— sale a la luz Android, siendo estos últimos sistemas operativos móviles los que deslumbrarían en la siguiente década.

 

 (2) ROGEL VIDE, Carlos, "Robots y personas", en Los robots y el derecho, bajo su dirección, Ed. Reus, Madrid, 2018, p. 9.

 

 (3) NÚÑEZ, Javier F., "Inteligencia artificial: experiencias y propuestas de regulación en el derecho comparado", SJA del 15/07/2020, p. 3; AP AR/DOC/1730/2020.

 

 (4) La Real Academia Española la conceptualiza como una disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico.

 

 (5) FERNÁNDEZ, Diego, "El impacto de la inteligencia artificial en el derecho", LA LEY del 19/10/2017, p. 6;

 

  (6) CORVALÁN, Juan G., "La primera inteligencia artificial predictiva al servicio de la justicia: Prometea", LA LEY 2017-E, 1008.

 

 (7) CORVALÁN, Juan G., "La primera inteligencia artificial predictiva...", ob. cit. 

 

(8) AQUARO, Vicenzo (director de Gobierno Digital de la Organización de las Naciones Unidas —ONU—), "Prólogo", en CORVALÁN, Juan G., Prometea, inteligencia artificial para transformar las organizaciones públicas, Ed. Astrea, Buenos Aires, 2019, p. 7.

 

 (9) LORENTE, Javier A., comentando a HARARI, Yuval, "21 lecciones para el siglo XXI", en "La utilización de inteligencia artificial (IA) y machine learning por y en los órganos de administración de sociedades. ¿Hacia el reconocimiento de IA como directores de sociedades?", RDCO 299-1623, 02/12/2019. 

 

(10) ORTEGA, Andrés, "La imparable marcha de los robots", Ed. Alianza, Madrid, 2016, ps. 18 y anteriores.

 

 (11) ROSSITER, Jonathan, "La robótica, los materiales inteligentes y su impacto futuro para la humanidad", en El próximo paso. La vida exponencial, Ed. BBVA — Open Mind, Madrid, 2016, p. 31. 

 

(12) TRAVIESO, Juan A., "Las personas jurídicas en el nuevo derecho y tecnología. Bienvenidos los robots",

 

(13) "Quiero agradecer al Reino de Arabia Saudita. Estoy muy orgullosa por esta distinción. Es histórico, ser el primer robot en ser reconocido con una ciudadanía", aseguró Sophia ante el público. Durante la entrevista respondió varias preguntas con fluidez y hasta con humor. El entrevistador dijo que algunas preguntas estaban preparadas, pero que también hubo lugar para la improvisación (diario Infobae, 27/10/2017). 

 

(14) LACRUZ MANTECÓN, Miguel L., "Potencialidades de los robots y capacidades de las personas", en Los robots y el derecho, ob. cit., p. 77.

 

(15) RODRÍGUEZ MANCINI, Jorge, "El trabajo en el futuro", citando a Eduardo Levy Yegati, LA LEY 2016-E, 773.

 

 (16) FIATTI, Gilda G. — CARRIZO, Mónica L., "El valor del trabajo en la Cuarta Revolución Industrial: las plataformas digitales", RDLSS 2020-12, 23/06/2020, 14.

 

 (17) CROVI, Luis D., "Los animales y los robots frente al derecho", Revista Venezolana de Jurisprudencia y Derecho, nro. 10, Caracas, Venezuela, 2008, p. 114.

 

(18) Una firma estadounidense, Realrobitx, publicó un video promocionando a su robot Harmony por un precio entre US$ 8.000 y US$ 10.000. Se trata de una muñeca a tamaño real que puede pestañear o mover sus ojos y cue- llo. También mueve sus labios y habla. Harmony posee inteligencia artificial, lo cual le permite desarrollar una relación con su dueño (diario La Nación, 18/02/2020).

 

 (19) ORTEGA, Andrés, "La imparable marcha de los robots", ob. cit., p. 57.

 

 (20) "Estas armas diseñadas con inteligencia artificial serían capaces de matar a personas por sí mismas. En otras palabras, no sería un combatiente humano apuntando y matando a una persona. La máquina programada podría estar tomando esas decisiones por su cuenta", explica la activista estadounidense Jody Williams, premio Nobel de la Paz en 1997, una de las líderes de la campaña "Stop killer robots" ("Detener a los robots asesinos").

 

 (21) Diario Clarín, 26/02/2020.

 

(22) DE LORENZO, Miguel F., "Repensar al 'otro' (Reflexiones sobre el derecho civil)", SJA del 17/04/2019, 3; JA 2019-II. 

 

(23) GUNKEL, D. J., "The other question: can and should robots have rights?", Ethics Inf. Technol. 20, 87-99 (2018), https://doi.org/10.1007/s10676-017-9442-4.

 

 (24) Como ha destacado Saux, quizás como una reacción al antropocentrismo reinante a partir del siglo XVI, se registra ya desde hace algunas décadas una corriente de opinión que alude a "los derechos de los animales no humanos" y, yendo incluso un paso más allá, proponiendo su reconocimiento como "personas no humanas", estimándolos jurídicamente, no solo ya como meros objetos de tutela, sino como portadores en sí mismos de ciertos derechos (SAUX, Edgardo I., "Personificación de los animales. Debate necesario sobre el alcance de categorías jurídicas", LA LEY 2016-B, 1020). Lo cierto es que, pese a las discusiones académicas y a que las XXVI Jornadas Nacionales de Derecho Civil han declarado que el animal "no es sujeto de derecho" en el sistema jurídico argentino, otras legislaciones han dispuesto que los animales no son cosas. Así lo hizo el Código Civil alemán (art. 90); en Francia, la ley 76-629 de 1976 lo denominó "ser sensible", y España está encarando una reforma legislativa en el mismo sentido.

 

(25) El 13/09/2018, la Comisión que fuera oportunamente designada por el Poder Ejecutivo Nacional para proyectar las reformas que se estimaran necesarias introducir al Cód. Civ. y Com., conformada por los Dres. Julio C. Rivera, Ramón D. Pizarro y Diego Botana, elevó al Ministerio de Justicia el texto del mencionado proyecto en el que se incluía esta modificación.

 

  (26) Informe reproducido en la nota titulada "Exclusivo: ejecutivos top entusiasmados con la inteligencia artificial", diario Infobae del día 03/06/2017.

 

(27) Ya existen varios asuntos en los que se han empleado robots para llevar a cabo conductas restrictivas de la competencia mediante la fijación de precios que previamente habían acordado los competidores utilizando un algoritmo (AYLLON, José, "Robots y derecho de la competencia", 14/03/2017, elderecho.com, Ed. Lefebv

 

(28) ORTEGA, Andrés, "La imparable marcha de los robots", ob. cit., ps. 49 y anteriores.

 

(29) La información sobre esta empresa y sus robots puede encontrarse en https://www.ipalrobot.com. re — El Derecho).

 

(30) BARRIO ANDRÉS, Moisés, "Robótica, inteligencia artificial y derecho", CIBER Elcano, nro. 36, Ed. Real Instituto Elcano, Madrid, septiembre de 2018.

 

 (31) En Estados Unidos, Winston & Strawn es uno de los bufetes que adoptaron la tecnología de revisión legal conocida como codificación predictiva. Los abogados marcan la información relevante en un subconjunto de documentos y con ello alimentan un programa informático que la utiliza como base para analizar todo el conjunto de datos. El programa, entonces, identifica y saca a la superficie pruebas potencialmente relevantes para que los abogados las examinen posteriormente ("Watson, el robot abogado que inventó IBM", elcronista.com, 07/01/2015).

 

(32) En el Foro de Davos, en enero de 2016 hubo un anticipo de lo que los académicos más entusiastas tienen en la cabeza cuando hablan de Revolución 4.0: nanotecnologías, neurotecnologías, robots, IA, biotecnología, sistemas de almacenamiento de energía, drones e impresoras 3D serán sus artífices. Pero serán también los gestores de una de las premisas más controvertidas del cambio: la Cuarta Revolución podría acabar con cinco millones de puestos de trabajo en los 15 países más industrializados del mundo (PERASSO, Valeria, BBC Mundo, 12/10/2016). 

 

(33) ORTEGA, Andrés, "La imparable marcha de los robots", ob. cit., p. 20.

 

(34) BOTIN, Ana, "Prólogo", en SCHWAB, Klaus, La Cuarta Revolución Industrial, Colección Debate, Ed. Penguin Random House, Madrid, 2017.

 

(35) AMÉSQUITA ZÁRATE, Pascual R., "La Cuarta Revolución Industrial, algunas implicancias en las escuelas de negocios", Palermo Business Review, Ed. Fundación Universidad de Palermo, Buenos Aires, 2018.

 

(36) ADARO, Mario, "La formación de las abogadas y los abogados ante la digitalización del proceso", LA LEY del 31/08/2020, p. 4; LL AR/DOC/2881/2020.

 

 (37) FOSSACECA (h.), Carlos A. — MOREYRA, Pilar, "Aproximaciones a la responsabilidad civil por la utilización de inteligencia artificial y derecho de los robots. Una mirada jurídica", RCyS 2020-VIII, 20.

 

(38) Es conocida la referencia a que el término "persona" proviene del término latino personae (per y sonae: sonar a través de), y era el nombre de la máscara o careta que usaban los actores, y que ayudaba a resonar sus voces. "Por una serie de transposiciones se aplicó la palabra persona al actor, y luego a los actores de la vida social y jurídica; es decir, los hombres considerados como sujetos de derecho" (CASTÁN TOBEÑAS, José, "Derecho civil español, común y foral", 14ª ed. actualizada por José Luis de los Mozos, Ed. Reus, Madrid, 1987, t. I, vol. II, p. 114).

 

(39) DÍEZ-PICAZO, Luis — GULLÓN, Antonio, "Sistema de derecho civil", 11ª ed., Ed. Tecnos, Madrid, 2005, vol. I, p. 213.

 

 (40) DOMÍNGUEZ GUILLEN, María Candelaria, "Manual de derecho civil I (Personas)", Ed. Paredes, Caracas, 2011, p. 39.

 

 (41) SAUX, Edgardo I., "Tratado de derecho civil. Parte general", Ed. Rubinzal-Culzoni, Santa Fe, 2018, t. II, p. 25.

 

(42) TOBÍAS, José W., "Derecho de las personas", Ed. La Ley, Buenos Aires, 2009, p. 6.

 

 (43) CIFUENTES, Santos, "Derechos personalísimos", 3ª ed., Ed. Astrea, Buenos Aires, 2008, p. 123.

 

(44) VIGO, Rodolfo L. — HERRERA, Daniel A., "El concepto de persona humana y su dignidad", Rev. Derecho Privado y Comunitario, 2015-3, Ed. Rubinzal-Culzoni, Santa Fe, 2016, p. 22.

 

(45) S.S. JUAN PABLO II, "Encíclica Fides et Ratio", citada por CONTE-GRAND, Julio, en SÁNCHEZ HERRERO, Andrés (dir.), Tratado de derecho civil y comercial, Ed. La Ley, Buenos Aires, t. I, p. 118.

 

(46) La ponencia destaca que el desarrollo de la tecnología robótica debe orientarse a complementar las capacidades humanas y no a sustituirlas; considera fundamental garantizar que, en el desarrollo de la robótica y los sistemas de IA, los seres humanos tengan en todo momento el control sobre las máquinas inteligentes; estima que debe prestarse especial atención al posible desarrollo de un vínculo emocional entre seres humanos y robots —especialmente en el caso de grupos vulnerables, como niños, personas mayores y personas con discapacidad—, y destaca los problemas que pueden plantear las graves consecuencias físicas y emocionales que este vínculo emocional podría causar a los seres humanos.

 

(47) LACRUZ MANTECÓN, "Potencialidades de los robots...", ob. cit., p. 53.

 

(48) ROGEL VIDE, Carlos, "Robots y personas", ob. cit., p. 23.

 

(49) El documento consta de 3 capítulos y se acuña la expresión "inteligencia artificial confiable" (trustwhorthy AI). Se resalta la idea de desarrollar una IA que sea digna de confianza. Dos son los principios fundamentales que emanan de ese documento: a) propósito ético: la IA deberá respetar, como decíamos, los derechos humanos y la regulación vigente; b) robustez técnica: la IA deberá garantizar que, incluso siendo usada con buenas intenciones, la falta de pericia tecnológica en su manejo no causa un daño involuntario.

 

 (50) El informe puede consultarse en https:// ec.europa.eu/transparency/regdoc/rep/1/2019/ES/ COM-2019-168-F1-ES-MAIN-PART-1.PDF.

 

(51) ALEGRIA, Héctor, "Humanismo y derecho de los negocios", LA LEY 2004-E, 1206.

 

 (52) CROVI, Luis D., "La dignidad de los pacientes en tiempos de pandemia", LA LEY del 20/05/2020, p. 1

 

(53) ALEGRIA, Héctor, "Humanismo y derecho...", ob. cit. 

 

(54) ALTERINI, Atilio A., "El principio pro homine", RCyS 2011-II, tapa.

 

 (55) GARRIDO CORDOBERA, Lidia, "Aplicación de los principios de no regresión, de solidaridad y pro homine. Desafío ambiental del siglo XXI", LA LEY 2014-F, 1199.

 

(56) JUAN PABLO II, "Discurso de apertura de la Conferencia Episcopal de Puebla", III-4, México, 28/01/1979.

 

(57) Se sostiene que la cuestión de los derechos de los animales debe analizarse desde una perspectiva moral y jurídica. Los animales merecen incluirse en una "comunidad moral", que les hace merecedores de derechos, y jurídica, que obliga a institucionalizar y reconocer esos derechos, para que sean efectivos en los ordenamientos contemporáneos (REY PÉREZ, José L., "Los derechos de los animales en serio", Ed. Dykinson, Madrid, 2018, p. 21).

 

 (58) En ese sentido, la sentencia de la Corte Suprema de Justicia de Colombia, STC 4360-2018, del 05/04/2018, reconoce a la Amazonia colombiana el carácter de sujeto de derecho.

 

(59) TRAVIESO, Juan A., "Las personas jurídicas...",ob. cit.

 

 (60) MOZO SEOANE, Antonio, "La revolución tecnológica y sus retos: medios de control, fallos de los sistemas y ciberdelincuencia", en ROGEL VIDE, Carlos (coord.), Los robots y el derecho, ob. cit., p. 84.

 

 (61) Si antes se hablaba de la brecha tecnológica entre las naciones, hoy hay que añadir la brecha robótica. Es realista pensar que todos los países van a desarrollar industrias competitivas de fabricación de robots, y quien domine ese campo tendrá también una posición predominante en el mundo. (ORTEGA, Andrés, "La imparable marcha de los robots", ob. cit., p. 179).

 

 (62) DÍAZ ALABART, Silvia, "Robots y responsabilidad civil", en ROGEL VIDE, Carlos, Los robots y el derecho, ob. cit., p. 109.

 

(63) Fue Peter SINGER (1975), en su obra "Liberación animal", quien sostuvo que todos los animales dotados de un sistema nervioso central somos iguales, y esa consideración igual del dolor debe ser tenida en cuenta. Luego le siguieron otros, como Tom REAGAN (1983) en "The case for animal rights", en donde se pretende dar un salto de lo moral a lo jurídico. El último escalón en esta línea de pensamiento es la obra de DONALDSON y KYMLICKA, "Zoopolis" (2011), donde se considera a los animales partícipes de una comunidad jurídica.

 

(64) DE LORENZO, Miguel F., "Repensar al 'otro'...", ob. cit.