Por Luis Daniel
Crovi (**)
Sumario: I.
Introducción.— II. La inteligencia artificial.— III. ¿Qué es un robot?— IV.
Preocupaciones y beneficios que generan los robots.— V. La Cuarta Revolución
Industrial.— VI. La persona y la personalidad.— VII. La resolución del
Parlamento Europeo del año 2017.— VIII. Las críticas a la personalidad
electrónica y el incentivo de una IA “fiable”.— IX. El humanismo y los robots.—
X. Reflexiones finales.
I. Introducción
Cuando los
abogados solemos bromear sobre los robots y el mundo del futuro, lo hacemos
pensando que el derecho debe ocuparse de la realidad actual y no hacer ciencia
ficción; sin embargo, debemos recordar que los teléfonos “inteligentes”
comenzaron a formar parte de nuestras vidas, de manera masiva, en el año 2007
(1), y hoy casi no concebimos nuestra existencia profesional sin ellos. Ese
solo ejemplo nos demuestra que la “inteligencia artificial” es algo que hemos
asimilado como natural y la usamos todo el día. La tecnología nos invade y nos
ayuda a mejorar nuestras vidas, a veces por comodidad, a veces por necesidad.
Si no existieran los desarrollos informáticos de los últimos años, el mundo se
habría paralizado aún más frente a la pandemia que nos toca transitar. Los
profesores que llevamos más de treinta años en las aulas nos vimos de golpe
obligados a usar distintas plataformas para dar clases, comunicarnos por
WhatsApp con nuestros alumnos, tomar exámenes usando sistemas informáticos,
etc.; lo mismo ha sucedido en el ejercicio profesional, las reuniones,
audiencias, mediaciones, presentaciones judiciales, todo depende del
funcionamiento de las conexiones a internet, como así también del software y el
hardware con el que contemos. El “mundo virtual” nos rodea y nos ayudó a
superar el drama que soportó “el mundo real”. ¿Cuánto tiempo pasará para que un
robot sea en nuestras vidas un elemento tan natural e imprescindible como un
teléfono inteligente? Ello considerando la existencia de robots autónomos y con
funciones semejantes a un humano, pues los robots, en términos generales,
inundan nuestra existencia a veces sin advertirlo: algunos como agentes
virtuales (programas informáticos) que nos contestan cuando llamamos a un
servicio de atención al cliente, los que gobiernan determinadas funciones de
los automóviles, los traductores automáticos, los videojuegos, los asistentes
que nos recomiendan una película por Netflix o los que realizan la búsqueda de
jurisprudencia aplicable a un tema, los que “conversan” con nosotros cual si
fuera un chat en vivo pero a partir de respuestas preestablecidas que ponen a
disposición diversas empresas por internet para dar la idea de que un asistente
toma y resuelve nuestro reclamo, etc. Otros robots aparecen como dispositivos
físicos: limpiadoras del hogar o de piscinas, los drones, vehículos autónomos
terrestres, instrumental médico para diagnósticos, sin perjuicio de los más
sofisticados que se usan en la industria, la meteorología, las investigaciones
científicas e incluso, y lamentablemente, también en las guerras o ataques
terroristas.
II. La inteligencia artificial
Para referirse a
los robots, resulta necesario primero abordar algunos conceptos sobre su
principal materia prima: la inteligencia artificial (IA). Como vimos en el
punto anterior, los sistemas basados en la IA pueden consistir simplemente en
un programa informático, pero también pueden estar incorporados en dispositivos
de hardware, como en definitiva son los robots. En el Diccionario de la Lengua de
la Real Academia Española, “inteligencia” (del latín inteligentia) tanto quiere
decir como “facultad intelectiva”, “facultad de conocer”, en tanto que
“intelecto” (del latín intellectus) equivale a “entendimiento”, a “potencia
cognoscitiva racional del alma humana”. Por ello, se ha sostenido que la
inteligencia es una cualidad natural del ser humano, y que solo puede hablarse
de “inteligencia artificial” como licencia del lenguaje, para hacer referencia
a la posibilidad que determinadas máquinas, creadas por los hombres, tienen de
resolver problemas o de llevar a cabo tareas mediante la realización de
operaciones matemáticas todo lo complicadas que se quiera, mediante ecuaciones
y algoritmos, cual si de hombres o mujeres se tratare (2).
Como disciplina teórica,
la inteligencia artificial es el estudio de los procesos cognitivos mediante la
utilización de los marcos conceptuales y las herramientas de la informática.
Precisamente, la IA tuvo su comienzo como una especialidad de la informática a
mediados de los años cincuenta. Más tarde, en 1968, Marvin Minsky, uno de sus
fundadores, esbozó una de sus definiciones más clásicas: la caracterizó como
“la ciencia de hacer máquinas para hacer cosas que requerirían inteligencia si
las hiciera el hombre”. Pero la IA no parece ser, en la actualidad, una mera
especialización de la informática. Es una disciplina muy compleja, que se
nutre, además, de su ciencia madre, de otros campos del saber, tales como las
matemáticas, el análisis de datos y las tecnologías de la información (3). Las
definiciones sobre qué constituye la IA varían (4). No existe una definición
establecida y unánimemente aceptada de IA. La IA es un concepto que engloba
muchas otras (sub)áreas, como la informática cognitiva (cognitive computing:
algoritmos capaces de razonamiento y comprensión de nivel superior —humano—),
el aprendizaje automático (machine learning: algoritmos capaces de enseñarse a
sí mismos tareas), la inteligencia aumentada (augmented intelligence:
colaboración entre humanos y máquinas) y la robótica con IA (IA integrada en
robots). Sin embargo, el objetivo fundamental de la investigación y el
desarrollo en materia de IA es la automatización de comportamientos
inteligentes como razonar, recabar información, planificar, aprender, comunicar,
manipular, observar e incluso crear, soñar y percibir. En ese sentido, existe
cierto consenso en que el concepto se refiere a sistemas que cuentan con una
inteligencia que intenta asemejarse a la que poseen los seres humanos, lo que
implica ir más allá del mero procesamiento de datos (5).
Entre varias
definiciones o concepciones del concepto inteligencia, el elemento común es la
capacidad de procesar información para resolver problemas en función de
alcanzar objetivos. La noción de inteligencia está indisolublemente ligada al
procesamiento de información. A partir de la inteligencia humana, se han
desarrollado múltiples y diversas innovaciones tecnológicas. La que aquí nos
ocupa tiene que ver con el procesamiento de la información para resolver problemas
y tomar decisiones a partir de máquinas que operan a través de los llamados
algoritmos inteligentes. La IA se sustenta en algoritmos inteligentes o en
algoritmos de aprendizaje que, entre muchos otros fines, se utilizan para
identificar tendencias económicas, predecir delitos, diagnosticar enfermedades,
predecir nuestros comportamientos digitales, etcétera (6). La IA ha llegado
para simplificarnos la vida y es un procedimiento en constante evolución. Lo
que antes nos podía llevar horas, ahora se puede realizar en pocos segundos o
minutos. Esta nueva etapa de la historia se caracteriza por la recopilación de
información, el procesamiento de los datos y la sustitución de tareas por parte
de máquinas que son capaces de “pensar” como el hombre y “resolver” en consecuencia.
Aun las mentes más inteligentes del planeta pueden verse superadas por la IA en
lo que se refiere a recopilación de información, su procesamiento y resolución.
Como se ha remarcado, asistimos a una verdadera carrera por desarrollar IA para
simplificar y optimizar diversas actividades humanas. Es en este escenario que
surgen tres grandes desafíos en el ámbito jurídico. Por un lado, cómo nos
protegemos a nosotros mismos de los algoritmos inteligentes que ya nos
reemplazan y superan en múltiples actividades. Por otro lado, cómo hacer para
que esta nueva tecnología contribuya al desarrollo sostenible e inclusivo del
ser humano; y, por último, eventualmente, cómo se protegerán y se transformarán
los derechos humanos en una transición que parece dirigirse hacia una simbiosis
entre lo biológico, lo digital y lo artificial (7). También se ha destacado, a
mi criterio con mucha razón, que los sistemas de IA no pueden reemplazar
completamente las competencias de los seres humanos. Pueden colocar a los humanos
en una posición ventajosa y ayudar a organizar mejor
nuestra sociedad, pero, al final, los humanos son, o al menos deberían ser, los
que siempre toman las decisiones finales
(8).
Un sistema podrá
ayudar a un abogado o un juez a recopilar información y vincularla con el
expediente o caso a tratar, pero no podrá (o al menos por ahora parece difícil)
dialogar con el cliente o el justiciable tratando de entender “de humano a
humano” su conflicto a fin de brindarle la solución adecuada.
Los operadores jurídicos
no somos una base de datos que arrojan soluciones; somos o deberíamos ser
personas al servicio de la noble tarea de hacer justicia, y esa faena requiere
percibir sentimientos, descubrir cuándo se dice la verdad o cuándo se miente,
buscar no siempre la solución óptima desde lo “científico”, sino también la
“adecuada” o “posible” según la personalidad de quien debemos ayudar y su
concreta situación personal (vulnerabilidad, grado de discernimiento, contexto
social y económico, etc.). Un programa cargado con IA difícilmente resuelva dos
casos con parámetros aparentemente iguales de manera distinta; un juez o un
abogado, seguramente, podrán sentenciar distinto u ofrecer soluciones distintas
en función de matices, un diferente contexto, la situación de la víctima o del
victimario, etcétera.
Se ha dicho que
los algoritmos bioquímicos del cerebro humano están bien lejos de ser perfectos
y, por ello, no es ninguna sorpresa que incluso los buenos conductores,
banqueros y abogados cometan —a veces— errores tontos.
Y, aunque los
algoritmos lógicos de las IA tampoco son perfectos, es indudable que son mucho
mejores, más confiables y más eficientes que los del cerebro humano (9). Es
cierto que de prueba y error se llena el conocimiento humano, pero mejor errar
que intentar ser perfecto, pero “inhumano”, en las decisiones. La gran cantidad
de información y su uso es también una fuente inagotable de peligros contra la
intimidad y la dignidad humana. La vida privada corre peligro o se vuelve
vulnerable ante la recolección de datos a gran escala (big data); basta con ver
cómo, mientras miramos el diario por internet, se nos aparecen propagandas
relativas a productos o páginas que visitamos antes o en función de nuestra
actividad o preferencias. La IA nos expone a riesgos. En definitiva, todo
desarrollo humano conlleva ventajas y peligros, pero otra vez aquí se presenta
“la inteligencia humana” como la única pauta posible de evitar o reparar el
daño, usando la prevención y la precaución, de acuerdo con criterios valorativos
que podrían resultar, tal vez, “no eficientes” para un conjunto de algoritmos.
III. ¿Qué es un robot?
No hay acuerdo
entre los ingenieros en qué es un robot; se lo suele definir como un
dispositivo autónomo o semiautónomo que realiza sus tareas bajo control humano
directo, control parcial y supervisión humana o de forma completamente
autónoma. Autómata o automático es algo diferente a autónomo; esto último
implica la libertad de decidir y no solamente de hacer. Con los nuevos robots y
los venideros, estamos pasando de lo automático a lo autónomo, con
consecuencias en todos los ámbitos. Las máquinas superan ya a los seres humanos
en muchas dimensiones y aspectos, y lo harán aún más en los próximos años (10).
También se ha definido a los robots, por sus capacidades, como una máquina que
puede efectuar series complejas de acciones y, en especial, que se puede
programar por ordenador (11). La
definición del Diccionario de la Real Academia Española no aporta demasiada luz
en este punto, pues reza: “máquina o ingenio programable que es capaz de
manipular objetos y realizar diversas operaciones, o que imita la figura y los
movimientos de un ser animado”. Se habla en el mundo de la “segunda era de las
máquinas” o la “industria 4.0”. Los robots (en términos amplios) están en todas
partes (p. ej., como ya dijimos, los programas informáticos que nos contestan
cuando llamamos a un servicio de atención al cliente): en la “robótica” como
disciplina, ingresan en la física, la mecánica, la electrónica, la informática,
las matemáticas, pero también en la biología, porque se han creado robots con
cédulas dirigidas por señales luminosas. Drones, sofisticados aparatos médicos
para la rehabilitación del cuerpo humano, robots médicos, asistentes geriátricos,
educadores...: las posibilidades de esta nueva dimensión de máquinas son
infinitas. Se han propuesto algunas diferencias entre androide, robot y cyborg.
Androide es el nombre que se le da a un robot antropomorfo, es decir, que tiene
forma o apariencia humana y además imita algunos aspectos de su conducta de
manera autónoma. La palabra “androide” posee un origen etimológico griego, al
estar constituido por andro (hombre) y eides (forma). Un robot es una máquina o
ingenio electrónico programable capaz de manipular objetos y realizar
operaciones antes reservadas solo a las personas. El robot humanoide es aquel
que se limita simplemente a imitar los actos y gestos de un controlador humano,
por lo que no es un verdadero androide, propiamente dicho. Mientras, cyborg es
una palabra que se forma a partir de las palabras inglesas cyber(netics)
organism (organismo cibernético) y se utiliza para designar una criatura, medio
orgánica y medio mecánica, generalmente con la intención de mejorar las
capacidades del organismo utilizando tecnología artificial (12).
Hacia fines del
año 2017 los diarios daban cuenta de una noticia insólita: Sophia es un robot
con forma humanoide desarrollado por la empresa Hanson Robotics; tuvo su
presentación formal en marzo de 2016, y un año y medio después se convirtió en
el primer robot en obtener ciudadanía saudí. La semejanza de este androide con
una mujer es increíble; puede imitar gestos humanos; su aspecto es casi igual
al de una hermosa señorita, y su inteligencia programada es asombrosa (13).
Como acertadamente se ha señalado, la IA permite resolver problemas, pero lo
relevante no es de quién son los problemas, sino a quién favorece su
resolución. Cuando un superordenador vence al maestro de ajedrez, ¿a quién
favorece o beneficia el triunfo en la partida? No al ordenador, desde luego,
sino a su creador humano. El tratamiento jurídico de los robots no puede ser el
de las personas humanas, porque no lo son, y aunque nos imiten, sabemos que
están fingiendo. Las bases de una personalidad robótica, sea esto lo que sea,
no pueden hallarse en la IA, sino en meros motivos de oportunidad y necesidad
(14).
IV. Preocupaciones y beneficios que generan
los robots
Ya hace bastante
tiempo que se habla del peligro de un “ahuecamiento” del mercado laboral. El
proceso de reemplazo o desplazamiento del trabajo no se limita a las tareas de
rutina que no exigen mayor capacitación, que pueden reemplazarse fácilmente con
la digitalización, sino del avance de los “drones inspectores y robots delivery,
médicos digitales y cirujanos mecánicos, traductores y editores online, incluso
ciberartistas y cibercompositores”. Se trae como ejemplo llamativo el caso de
la China, en la que, agotada la mano de obra barata (que, como sabemos, provocó
transferencias empresarias que conmovieron economías desarrolladas), se apuesta
a la robotización masiva de sus plantas industriales (15). Es difícil presagiar
el efecto a largo plazo de la tecnología sobre el empleo y el salario, o el
resultado final de la carrera entre robots y trabajadores. Pero el avance de la
IA en la realización de tareas que a priori no parecían automatizables nos hace
inclinar por la perspectiva de los escépticos y pensar que al final del camino
tendremos menos empleo y menos salarios. La tecnología trae una
desglobalización que afecta aún más a las economías en desarrollo. El conjunto
de nuevas técnicas amenaza con quitarnos ventajas competitivas; por ejemplo,
los recursos naturales pueden reemplazarse con nuevas fuentes de energía; los
alimentos, con impresión sintética; los trabajadores baratos, con robots (16).
Lo que nadie pone en duda es que la irrupción de la robótica generará múltiples
cambios en la sociedad y, por ende, en el derecho. La concentración de
capitales se irá volcando a la robótica y ello podría generar peligrosos
monopolios que detenten un gran poder económico por sobre el resto de las
empresas que no accedan a esas tecnologías. Los países que desarrollen estas
industrias tendrán, sin duda, una posición predominante en el mundo. Las
relaciones laborales deberán tomar en cuenta este fenómeno; la IA tiende no
solo a sustituir brazos y manos, sino el propio cerebro humano (17). El negocio
de los robots sexuales es ya una realidad
(18); la “robótica del placer” se acerca cada día más y está provocando
polémica; los compañeros robóticos para el sexo se convertirán en algo común,
aunque esto provoque repugnancia y división de opiniones. La antropóloga
Kathleen Richardson, profesora de Ética y Cultura de Robots e Inteligencia
Artificial en la Universidad de Montfort, en Leicester, Reino Unido, quiere que
este tipo de marketing sea prohibido. La investigadora dirige a nivel mundial
una campaña contra los robots sexuales, para prohibirlos, porque cree que este
tipo de relaciones deshumanizará aún más a mujeres y niños, sujetos a tantos
abusos (19). Los robots también pueden ser usados para la destrucción; los
medios de prensa han informado que mundialmente se están discutiendo una
batería de estrategias para poder regular los que han denominado como “sistemas
armamentísticos futuristas”, que pueden llevar adelante guerras sin la
intervención del hombre (20). La campaña para detener los “robots asesinos”,
que se extiende por el planeta, arrancó en 2012 de la mano de un grupo de
organizaciones no gubernamentales; ahora ya está presente en más de 60 países y
ya fueron también a golpear las puertas de Naciones Unidas. El secretario
general, António Guterres, calificó estas armas como “políticamente
inaceptables y moralmente repulsivas”, pero por ahora no se ha llegado a
acuerdos concretos para prohibirlas (21). Pero el “robot” como un “otro” ha
comenzado a generar preocupaciones concretas para la teoría jurídica,
particularmente a partir del hecho de que la robótica se ha desplazado de un
paradigma “mecánico” (que tenía por objetivo la aceleración de movimientos
precisos y comple jos) hacia un paradigma “cognitivo” (que tiene por fin
desarrollar capacidades artificiales autónomas) (22). Si los robots son
autónomos y pueden “pensar” o “decidir” entre varias opciones posibles, son al
menos algo distinto que el televisor o la cafetera, que solo responden cuando
accionamos sus comandos. Estamos ingresando en una era donde la convivencia con
la IA se hará cada día más frecuente; por caso, ya ninguno de nosotros podemos
pensar en un teléfono móvil sin que sea “inteligente”. Por otra parte, ha
comenzado a gestarse una línea de pensamiento que se pregunta si los robots
tienen o deberían tener derechos (23).
¿Podrán ser desechados? ¿Tendrán derecho a reproducirse artificialmente ellos
mismos o copiarse a sí mismos? ¿Podrán agruparse o asociarse? Las preguntas
suenan futuristas, pero en algunos años deberemos enfrentarlas como hemos
debido asumir que ciertos animales son algo más que una simple cosa (24), en el
Anteproyecto de Reforma al Código Civil y Comercial del año 2018, que
establecía que “[l]os animales son seres vivientes dotados de sensibilidad”,
dejando aclarado que, “salvo reserva de las leyes que los protegen, están sometidos al régimen
de las cosas” (25). Un informe denominado “Bot.Me: A revolutionary
partnership”, elaborado por la consultora Price Waterhouse Coopers, arroja que
más de la mitad de los consumidores encuestados está de acuerdo en que la IA
ayudará a resolver problemas complejos que afectan a las sociedades modernas
(63%) y ayudará a las personas a vivir más satisfactoriamente (59%). Por otra
parte, menos de la mitad cree que la IA perjudicará y quitará trabajo a las
personas (46%), y solo el 23% cree que esto tendrá implicaciones serias y
negativas (26). En el mundo de los negocios, los robots son de gran utilidad,
pero están generando algunos conflictos. En un informe preliminar de la
Comisión Europea sobre la investigación llevada a cabo en el sector del
comercio electrónico, se pone de manifiesto la preocupación de la institución
comunitaria sobre la capacidad de facilitar una colusión entre competidores
mediante el uso de programas de software automatizados. La posibilidad de
utilizar robots para llevar a cabo conductas restrictivas de la competencia
también ha sido analizada por las autoridades de defensa de la competencia de
Alemania y Francia en su reciente informe “Competition law and data”. En estas
circunstancias, será complicado detectar y acreditar los acuerdos prohibidos e
imputar la infracción a los responsables (27).
Los robots pueden
no solo dedicarse a tareas empresarias, sino también a la asistencia humana. Un
profesor japonés, Takanori Shibata, actual director de Investigación del
Instituto Nacional de Ciencias y Tecnología Industrial Avanzada de Japón, ha
creado un robot foca bebé de peluche, llamado Paro (en España, Nuka), utilizado
para tratar emocionalmente, en vez de con psicotrópicos, a personas de edad
avanzada aquejadas de demencia senil o de Alzheimer, enfermos terminales de
cáncer, con cuidados paliativos y también a niños con problemas de autismo.
Paro se usa como terapia neurológica y también como compañía, así como para
asegurar el descanso de los cuidadores. Pero no es el único: el Massachusetts
Institute of Technology ha desarrollado, para un hospital, un osito de peluche
que habla; Sony fabricó un robot canino, Aibo. Las máquinas son cada vez más
capaces de calibrar nuestras emociones y de hacernos reaccionar con ellas. Como
apunta Pascale Fung, de la Universidad de Hong Kong, cuando las máquinas van a
cuidar ancianos necesitamos que comprendan y compartan emociones humanas para
que tengan empatía. Un prototipo que ha creado, de nombre Zara, analiza la
cara, hace preguntas, detecta el sexo y la etnia. Tras cinco minutos de
conversación trata de adivinar la personalidad del interlocutor. En la IA
empieza también a contar eso que se ha venido a llamar la inteligencia
emocional (28). Avatarmind, la empresa con base en Silicon Valley, creó iPal,
un robot de un metro capaz de educar y entretener a los menores y ayudar a los
padres a monitorear a sus hijos. Algunas de las funciones base que trae el
software de iPal son la posibilidad de tener conversaciones naturales y
traducir un texto a diálogo oral, el reconocimiento facial, adaptar el
comportamiento para mejorar la interacción, evitar choques y reconocer y
responder ante emociones (29). Los robots ya han llegado, y más están en
camino. Los robots han salido de las cadenas de montaje de las fábricas para
circular por las carreteras, como sucede con los primeros prototipos de coches
o camiones autónomos, para volar en espacios aéreos más bajos para entregar
mercancías por medio de drones o realizar reconocimientos para detectar
construcciones no declaradas, por ejemplo. También están reemplazando a los
electrodomésticos para crear hogares conectados e inteligentes, y, asimismo,
están viajando a lugares más allá de la capacidad humana para abrir nuevas
fronteras al descubrimiento espacial. Es también muy común la referencia a las
posibilidades que los robots presentan con la anglosajona expresión the 3 D,
esto es, permiten afrontar tareas que se caracterizan por los tres adjetivos
que empiezan por “d”: dull (tedioso), dirty (sucio) y dangerous (peligroso)
(30). El futuro que nos parece ciencia ficción está a la vuelta de la esquina,
y el derecho deberá decidir si estas máquinas merecerán algún status diferente
de las simples cosas: ¿serán embargables tengan el destino que tengan?,
¿requerirán algún control de fabricación o de transferencia por parte del
Estado?, ¿podrán revelar datos sensibles de sus dueños que será necesario
proteger?, ¿habrá una justicia rápida impartida por robots?, ¿los abogados
serán reemplazados por máquinas inteligentes? (31). Estas son solo algunas de
las preguntas que los operadores jurídicos podemos hacernos, hasta donde llega
nuestra actual imaginación. En este modesto trabajo solo tratamos de responder
si es necesario asignarles personalidad jurídica a los robots.
V. La Cuarta Revolución Industrial
Los cambios
legislativos suelen seguir a los económicos; por ello, no podemos dejar de mencionar que en materia de robótica e IA se
habla de una “Cuarta Revolución Industrial”
(32). La Primera Revolución Industrial, entre 1750 y 1830, fue la de la
mecanización, la energía de vapor, los trenes y las nuevas máquinas. La
Segunda, la de la electricidad, el motor a combustión y el agua corriente, tuvo
lugar entre 1870 y 1900, en ciertos casos algunos años más tarde. La Tercera
fue la de los ordenadores e internet. Es curioso cómo las dos Revoluciones
Industriales anteriores han ido de la mano de un nuevo tipo de energía,
mientras que la Tercera ha roto con ese patrón; aunque se inició antes,
realmente comenzó a permear a partir de 1960. Ahora estamos en esta, que el
Foro Económico Mundial de Davos calificó como la Cuarta. No se sabe si habrá
una Quinta Revolución o habremos entrado en una que será permanente (33). La
trayectoria de cada una de las Revoluciones Industriales nunca ha sido fácil,
ni directa. El tipo de trabajo se transforma. La mecanización y la producción
en masa trasladaron a millones de personas de la producción agrícola y el campo
al trabajo en fábricas y ciudades. Los ordenadores y el desarrollo de los
medios de transporte hicieron posible la construcción de cadenas de
abastecimiento más extensas y flexibles, que han atravesado fronteras y
convertido los mercados locales en mercados globales y más interdependientes
que nunca. La Cuarta Revolución Industrial nos exige pensar lateralmente,
uniendo industrias y disciplinas antes delimitadas de forma precisa. Los
biólogos ahora deben ser también programadores y saber estadística si quieren
explotar el potencial de la ciencia genómica. Las empresas financieras, desde
los bancos hasta los fondos de inversión, contratan hoy a especialistas
cuantitativos que puedan estudiar grandes volúmenes de datos en busca de
información sobre el comportamiento de los clientes y oportunidades de
inversión. Esta revolución generará millones de nuevos empleos para aquellos
que posean las capacidades y la formación adecuadas (34). La Cuarta Revolución
Industrial (RI-4) corresponde al uso de robots —máquinas programables— y de IA
—máquinas que aprenden— en la producción, lo que afecta la existencia del trabajo
humano, repetitivo o creativo. Ello, a su turno, incide en la organización de
los negocios que están directa o indirectamente relacionados con esta
revolución, pues se requieren nuevas formas de organización del trabajo, la
distribución y el intercambio (35). Hay quienes se muestran más pragmáticos y
alertan que la Cuarta Revolución no hará sino aumentar la desigualdad en el
reparto del ingreso y traerá consigo toda clase de dilemas de seguridad
geopolítica. Pero lo cierto es que la legislación y la actividad de los
operadores jurídicos no escapan a este proceso. En el ámbito jurídico,
encontramos a nivel global las experiencias de softwares automatizados para la
elaboración de escritos judiciales, contratos inteligentes (smart contracts),
abogados androides o cyborg (abogado robot Ross), algoritmos para la resolución
de disputas legales y para la predicción de las sentencias (Watson-IBM).
Estonia ya se encuentra en la primera fase y prueba piloto del proyecto de
jueces robots, es decir, la implementación de IA para decisiones
jurisdiccionales. En similitud, China presentó (en 2019) el Tribunal de
Internet de Pekín, un centro de litigios en línea en el que un juez de
apariencia femenina, con cuerpo, expresiones faciales, voz y gestos —todo ello
modelado sobre la base de un ser humano que, incluso, “respira”—, basado en la
IA, resolverá litigios simples, aunque
en esta primera fase funcionará de apoyo a los jueces de verdad (36). El
derecho es tan humano como quienes lo escriben, estudian, ejercen y critican.
Resulta ser, en su faz positiva, el reflejo de una cosmovisión y la impronta de
cualquier sociedad. Por ende, el derecho, como ciencia, evoluciona junto al
hombre, adaptándose a sus necesidades y enfrentándose a sus desafíos
contemporáneos. Frente el gran impacto que tiene la IA en la sociedad irrumpe
la necesidad de diseñar un marco regulatorio. El desafío principal estriba en
determinar si nuestras bases son suficientes para contener el fenómeno
informático o si esta demanda genera nuevas ideas jurídicas. A pesar de los
grandes beneficios que han traído los robots, se ha constatado que existen
ocasiones en las que, durante el desarrollo de sus tareas, pueden suscitar un
riesgo para otros. En ciertos casos, los algoritmos se alejan de lo dispuesto por
el diseñador del software o programador, tomando sus propias decisiones,
asumiendo una autonomía completa e, inclusive, accediendo al propio diseño del
programa (37). La pregunta es si estos desafíos se solucionan otorgando a los
androides una personalidad diferenciada de sus creadores, dueños o usuarios. De
esto nos ocuparemos en los acápites que siguen.
VI. La persona y la personalidad
La persona y la personalidad han sido y son
eje de discusión para el derecho. Evidentemente, detrás del concepto legal de
persona existe una sola realidad: el hombre (en forma aislada o como grupo
humano personificado), quien es (al menos por ahora) el único sujeto de la
relación jurídica (38). El hombre y la vida social son la razón del derecho,
pues sin vida social el derecho no puede cumplir su función de instrumento de
organización justa de la convivencia (39). El derecho existe por y para el
hombre. Fue el hombre como ser social quien, en el inicio del tiempo, ante la
necesidad de prevenir y resolver conflictos, creó el derecho, de manera, pues,
que siendo el ser humano la persona por antonomasia no es difícil deducir que
todo el sistema legal gira siempre alrededor de tal noción. Una noción
filosófica de persona señala que es toda sustancia individual de naturaleza
racional. Pero tal definición, que se corresponde con la idea de ser humano y
coincide jurídicamente con la persona natural, es incompleta o inválida para el
ámbito jurídico, porque no incluye la persona incorporal o persona jurídica en
sentido estricto (40). Siempre hemos entendido, como lo hace Saux, que persona
es el correlato del sustrato humano, de su libertad y su dignidad, individual o
colectivamente considerado; que tal virtud lo torna protagonista de relaciones
jurídicas en diversas situaciones legitimantes activas o pasivas, y que lo
erigen en la categoría de sujeto de derechos y deberes correlativos (41). O, como sostiene Tobías, que la persona
es una categoría natural que está por encima del derecho positivo: el ser
humano es un dato anterior, prexistente y trascendente al derecho (el cual
existe y se justifica en tanto tiene por misión solucionar los conflictos
interindividuales o sociales); un prius respecto del derecho, puesto por el
legislador —que surge de su dignitas—; que aquel, que es obra del hombre, no
puede dejar de reconocer (42). En las palabras de Cifuentes, el concepto de
persona está creado por el hombre, sirviéndose del derecho, y contiene en sí
una realidad conceptualizada. No es un concepto creado únicamente por el
derecho, sino identificado con el hombre como elemento material. Es el hombre
conceptualizado en un modo específicamente jurídico. Si desapareciera de la
escena el hombre, no habría concepto jurídico de persona (43). Para el
pensamiento posmetafísico moderno, la noción de persona va a sufrir un cambio
radical, pues ya no va a echar sus raíces en la ontología, en el ser (y
propiamente en el ser persona), a la que explícitamente se va a repudiar. Ya no
se considerará “persona” al suppositum, hipóstasis o subsistencia de naturaleza
(ousía) racional, sino al sujeto de alguna funcionalidad vital a la que se le
reconoce el atributo de ser el origen de la personalidad o personeidad.
Actualmente, muchos distinguen entre ser humano y persona humana, pues,
mientras que aquel es todo individuo de la especie humana, a la persona humana
se la identifica con el status de un sujeto, solo en tanto realiza alguna
función vital (la racionalidad en acto, la percepción placer-dolor, la
dimensión relacional, etc.), o con el reconocimiento público (concepción
política de la persona), que concede dicho status de persona al sujeto (humano
o no humano) poseedor de alguna nota característica, no de su ser (porque eso
sería ontología metafísica), sino de su funcionalidad operativa, por lo cual afirman
que el hombre no es persona, sino que se hace persona a través de una evolución
progresiva y puede dejar de serlo al desaparecer la función vital con la que
identifican la personalidad (44). Pero la realidad no se impone al hombre como
fatal e inevitable, imposible de aprehender, sino como algo que puede descubrir
entrañablemente, en sus esencias, reconociendo las causas y operando sobre
ellas, en la medida de su finitud y limitaciones. La búsqueda de la esencia de
las cosas, entendidas no como res corpórea sino como res extensa, todo lo que
es, la realidad misma, es factible mediante el uso de la inteligencia que
ilumina y la razón (45). Desde esta perspectiva debemos acercarnos a los
“nuevos contornos de la personalidad” que nos presenta la actualidad. Por el
momento, el ser humano (solo o como grupo humano personificado) sigue siendo el
único “sujeto” de la relación jurídica; sin embargo, no podemos dejar de
advertir que ya existen contratos celebrados entre máquinas inteligentes, sin
ninguna intervención humana. No sería descabellado considerar que robots
inteligentes podrán “agruparse” en algún tipo de organización o persona
jurídica. Esos seres con una inteligencia artificial, que creamos para que “se
nos parezcan”, ¿deberán ir gozando de algunas prerrogativas jurídicas? Los
conceptos del presente deberán ser necesariamente revisados en pocos años; el
camino se ha comenzado a transitar.
VII. La resolución del Parlamento Europeo del año
2017
Un hito importante
en la discusión sobre una “personalidad robótica” fue el Proyecto de Informe de
la Comisión de Asuntos Jurídicos del Parlamento Europeo de fecha 31/05/2016,
que contiene recomendaciones dirigidas a la Comisión sobre normas de derecho
civil sobre robótica, con una ponencia de la eurodiputada Mady Delvaux (46). De
ese Proyecto surgió la resolución del Parlamento Europeo del 16/02/2017.
La mencionada
resolución contiene una serie de recomendaciones para el legislador, entre las
que podemos mencionar: a) la creación de una “Agencia Europea de Robótica e
Inteligencia Artificial”; b) la elaboración de un código de conducta ético
voluntario que sirva de base para regular quién será responsable de los
impactos sociales, ambientales y de salud humana de la robótica y asegurar que
operen de acuerdo con las normas legales, de seguridad y éticas pertinentes.
Prevé, por ejemplo, la exigencia de que los robots incluyan interruptores para
su desconexión en caso de emergencia. Y recoge la necesidad de acordar una
Carta sobre Robótica; c) promulgar un conjunto de reglas de responsabilidad por
los daños causados por los robots; d) crear un estatuto de persona electrónica;
e) estudiar nuevos modelos de empleo y analizar la viabilidad del actual
sistema tributario y social con la llegada de la robótica; f) integrar la
seguridad y la privacidad como valores de serie en el diseño de los robots; y
g) poner en marcha un Registro Europeo de los Robots Inteligentes. La citada
resolución estima que los referentes éticos de la robótica deben ser la
seguridad y la salud humanas, la libertad, la intimidad, la integridad, la
dignidad, la justicia, la equidad, la autodeterminación, la no discriminación,
la no estigmatización, la protección de datos personales, la transparencia, la
responsabilidad, así como los principios de beneficencia y no maleficencia.
Parece, por lo que venimos diciendo, que el Parlamento Europeo apoya la
creación de una nueva figura intermedia entre las cosas y las personas físicas
para gestionar los problemas entre las personas y los robots, lo cual sería
otra persona ficticia, como lo son las personas jurídicas. En Estados Unidos se
habla de persona artificial.
Hay quienes
afirman que, basada en una IA de las denominadas “fuertes” (aquellas que no
simulan una mente humana, sino que lograrían un pensamiento similar a un
humano), un robot programado en forma adecuada con un cerebro basado en la
química de silicio podría ser consciente, podría tener un “yo”. Mejor dicho,
podría existir un yo consciente cuyo cuerpo sería el robot y cuyo cerebro sería
el ordenador. Pero la inteligencia humana lo es porque va acompañada de
consciencia, y esta solo es posible en el cerebro humano; esta consciencia es
lo que hace humano al pensamiento. La conciencia reside en la capacidad del
cerebro de pensar en sí mismo como ente capaz de pensar en sí mismo. Este nivel
se alcanza partiendo de patrones de pensamiento autorreferentes. Así, la
complejidad neuronal humana es muy difícil de emular en un cerebro electrónico;
hay pensamientos humanos que no son reproducibles en un ordenador; los humanos
podemos pensar sobre nosotros mismos como sujetos pensantes (de hecho, lo
estamos haciendo continuamente, siendo esta autointrospección lo que más
genuinamente consideramos como “consciencia”). Esto demuestra la necesidad de
algo más que un algoritmo para la resolución de problemas causados por la
autorreferencia (47).
VIII.Las críticas
a la personalidad electrónica y el incentivo de una IA “fiable”
Más de doscientos
expertos de distintas disciplinas, entre los que figuran juristas como Nathalie
Navejans, profesora de la Facultad de Derecho de la Universidad de Artois,
enviaron una carta dirigida al presidente de la Comisión Europea, Jean-Claude
Juncker, en la que pidieron que no se les dé a los robots el estatus de
personas, aún electrónicas. Los principales argumentos para tal petición fueron
los siguientes: a) reconocer el estatus de personas a los robots supondría
reconocerles derechos, lo cual no parece de recibo; b) considerar a los robots
como personas, amén de implicar una sobrevaloración de las capacidades de
aquellos, supondría poder asegurarlos y reclamarles responsabilidades a título
personal, lo cual es bueno —dícese— para los fabricantes, que eludirán las
consecuencias de lo que pudieran hacer las máquinas; c) conceder
responsabilidad a los robots es escudarse en las máquinas para que no pueda
exigirse responsabilidad a los humanos; d) asignar personalidad a los robots
iría en contra del elevado rango, que reserva tal posibilidad a las mujeres y a
los hombres, cuales las que regulan los derechos humanos, las libertades
públicas y los derechos fundamentales. La Comisión Europea remitió, pocos días
más tarde de esa carta, una comunicación al Consejo, al Comité Económico y
Social, y al Comité de Regiones, titulada “Inteligencia artificial para
Europa”, que lleva formulaciones y puntos de vista no coincidentes —cuando no
distintos— con los contenidos en la carta referida de los expertos (48). De ese
grupo surgió la idea del Proyecto de Directrices Éticas con relación a la
Inteligencia Artificial, que fue publicado el 18/12/2018 (49); su objetivo
último era, en conjunto, que los gobiernos y las empresas invirtieran al menos
20.000 millones de euros al año en investigación para IA a partir de 2020.
Posteriormente, la Comisión Europea presentó, el 08/04/2019, una comunicación
al Parlamento Europeo denominada “Generar confianza en la inteligencia
artificial centrada en el ser humano”. De acuerdo con esta última declaración,
se propugna lograr una “IA fiable” y, para ello, son necesarios tres
componentes: 1) debe ser conforme a la ley, 2) debe respetar los principios
éticos, y 3) debe ser sólida (50). En este último informe no se menciona el
tema de la personalidad electrónica y se advierte que los potenciales impactos
negativos de los sistemas de IA deben señalarse, evaluarse, documentarse y
reducirse al mínimo. Lejos de proclamar una personalidad robótica que asumiría
las consecuencias de hechos dañosos, se advierte que, cuando se produzcan
efectos adversos injustos, deben estar previstos mecanismos accesibles que
garanticen una reparación adecuada. Por lo demás, se rescata el protagonismo
del hombre en este proceso, se recomienda que los sistemas de IA actúen como
facilitadores de una sociedad floreciente y equitativa, apoyando la
intervención humana y los derechos fundamentales, y no disminuir, limitar o
desorientar la autonomía humana. El bienestar global del usuario debe ser
primordial en la funcionalidad del sistema. La IA está en la agenda científica
de la Unión Europea. El mundo está tomando consciencia de los peligros que
ocasionaría un desarrollo descontrolado de la IA. Por ello, se ha abierto un
debate para conseguir que los sistemas inteligentes traigan consigo beneficios
a las personas, y no perjuicios. La atribución de personalidad jurídica a los
robots podría significar no un beneficio para los futuros androides, sino una
liberación de cargas y responsabilidades de sus fabricantes, dueños y programadores.
IX. El humanismo y los robots
Isaac Asimov postuló tres leyes que, aunque
son fruto de un autor de ciencia ficción, fueron reproducidas por muchos como
las normas que deberían regir la relación entre los humanos y los robots. Ley
1: Un robot no puede dañar a un ser humano o, a través de la inacción, permitir
que un ser humano sufra daños. Ley 2: Un robot debe obedecer las órdenes que le
dan los seres humanos, excepto cuando tales órdenes entren en conflicto con la
primera ley. Ley 3: Un robot debe proteger su propia existencia siempre que
dicha protección no entre en conflicto con la primera o la segunda ley. Se ha
sostenido la impropiedad del vocablo “humanismo” para expresar un concepto
diáfano, como con toda su autoridad lo expresó Heidegger en su célebre “Carta
sobre el humanismo”, cuando dice: “Si nos decidimos a conservar esta palabra,
'humanismo' significa ahora que la esencia del hombre es esencial para la
verdad del ser, de tal modo que lo que importa ya no es precisamente el hombre
simplemente como tal”. De esta manera, pensamos un “humanismo” de un género
extraño. La palabra nos acaba proporcionando un rótulo que es un lucus a non
lucendo (luz que no ilumina). De todas formas, coincidimos con Héctor Alegria
en que el humanismo hunde su raíz en esencias absolutamente sostenibles y que,
a despecho de ciertas inclinaciones, el humanismo no es una mera ideología,
sino una vivencia y un principio trascendente. El humanismo, a los fines del
fundamento de las soluciones jurídicas (creación, aplicación e interpretación
del derecho), se apoya en el concepto de persona y se centraliza en su dignidad
(51). Hemos tenido oportunidad de señarlo hace poco tiempo: el concepto de
dignidad humana está en el centro mismo del derecho internacional de los
derechos humanos. Es un derecho reconocido implícita (art. 33) y expresamente
(art. 75, inc. 22) por nuestra Carta Magna. La dignidad de la persona se
constituye como núcleo central de la Declaración Universal de Derechos Humanos
(1948); es fundamento principal de la bioética. El art. 51 del Cód. Civ. y Com.
dispone: “La persona humana es inviolable y en cualquier circunstancia tiene
derecho al reconocimiento y respeto de su dignidad”. El precepto legal recoge
la idea de que la persona tiene un valor en sí misma y como tal cabe
reconocerle una dignidad (52). Es útil recordar que, en sus orígenes, se
hablaba de derechos humanos para fortalecer la posición del individuo frente al
Estado. Posteriormente se consagró específicamente lo que se ha dado en llamar
“el efecto horizontal” de estos derechos, es decir, su ejercicio y también su
obligación con relación a otros particulares. Los Estados fueron requeridos,
primero, de una actitud pasiva, es decir, de mero respeto de estos derechos,
pasándose después a otorgarles otra misión predominantemente activa, por la que
se obligan a introducir sus principios en la legislación interna, a dictar las
medidas adecuadas para la concreción de esos derechos y a brindar el apoyo
jurisdiccional necesario para su aplicación (53). De lo expuesto surge clara
una primera idea: los robots y la IA solo pueden ser concebidos como una forma
de progreso en el reconocimiento del humanismo, nunca como un retroceso. Mucha
sangre y esfuerzo ha costado a la humanidad la consagración del principio pro
homine, del cual nos hablaba el recordado Atilio Alterini (54). Ello coincide
con el rasgo fundamental que para nosotros tiene el derecho, que es el de estar
a favor del hombre. Reconocer este principio como parte de las declaraciones y
los tratados de derechos humanos nos lleva necesariamente a recordar que estos
tienen una dimensión vertical que se proyecta en la obligación de las
autoridades estatales de respetarlos, protegerlos, garantizarlos y promoverlos,
y una horizontal de respeto recíproco entre los hombres (55). La revolución de
la Industria 4.0 deberá necesariamente contemplar la progresividad en materia
de derechos humanos; los ordenadores, los algoritmos, los sistemas
informáticos, los robots y los androides deben servir para seguir construyendo
una sociedad basada en la dignidad de la persona; el derecho debe estar muy
atento a ello. Lo advertía hace muchos años Juan Pablo II: “Quizás una de las
más vistosas debilidades de la civilización actual esté en una inadecuada
visión del hombre. La nuestra es, sin duda, la época en que más se ha escrito y
hablado sobre el hombre, la época de los humanismos y del an- tropocentrismo. Sin embargo, paradójicamente,
es también la época de las más hondas angustias del hombre respecto de su
identidad y destino, del rebajamiento del hombre a niveles antes insospechados,
época de valores humanos conculcados como jamás lo fueron antes” (56). No se
nos escapa que la visión antropocéntrica está siendo puesta en crisis por una
visión ecocéntrica, y esto ha llevado al cuestionamiento sobre la necesidad de
reconocer personalidad a ciertos animales
(57) o incluso a áreas protegidas del planeta (58). Pero una cosa es pensar que el hombre
no es el único integrante del ecosistema y otra distinta es pretender que el
fruto de su propia inteligencia y creación adquiera “personalidad propia”.
X. Reflexiones finales
Sin dudas,
prevalece aún una tendencia antropocéntrica y todo tiene que ser a imagen y
semejanza de los humanos. Mientras tanto, la sociedad cambia, comienzan a
desaparecer los íconos de nuestra sociedad, las cartas, los buzones, los
teléfonos fijos, etc. Todo cambia. El tema es de qué manera el derecho asimila
los cambios, o si simplemente opera dentro de un travestismo conceptual.
Determinada institución o entidad es similar a otra categoría y, en un extremo
de simplificación, lejos de asignarle características específicas, naturaleza
jurídica independiente o caracteres propios, la solución al estilo de
contestador automático es colocarla en un plano similar a otro. Una fotocopia
conceptual (59). En esa línea de pensamiento, parecería que, si una máquina “se
nos parece”, “puede pensar como nosotros”, la respuesta del ordenamiento
jurídico debería ser permitirle a esa “cosa” ser “sujeto” de determinadas
relaciones jurídicas. Ahora bien, ¿esta es la única respuesta que puede dar el
derecho frente a los robots? Y cabría una pregunta más: ¿es una respuesta
inocente o contiene una segunda intención? Como señala el profesor de Robótica
de la Universidad de Bristol (Reino Unido), Jonathan Rossiter, “ni en nuestra
sociedad ni en nuestras vidas habrá nada ajeno a la robótica del futuro”.
Parece necesario, pues, enfrentarse a una ponderación de los beneficios
resultantes y de los riesgos implícitos en la creación, desarrollo,
aplicaciones y utilización de los robots, máquinas inteligentes, sensores y
demás artilugios tecnológicos asimilables, valorando los beneficios —de todo
orden, no solo económico— que se pueden obtener, pero también los límites que
no se deben traspasar o los riesgos que no compensa asumir. Cuestión harto
polémica, con toda seguridad, pero ineludible. Es un complejo desafío para toda
la sociedad y especialmente para el legislador (60). Nadie niega que los robots
pueden generar beneficios en la productividad de las empresas, en la eficiencia
de los tratamientos médicos, en tareas de vigilancia o humanitarias, como el
cuidado de adultos mayores o niños. De a poco, irán formado parte de la nueva
vida cotidiana. Pero también es cierto que plantean amenazas, que pueden causar
daños; es por eso por lo que, junto con el desarrollo de una industria que
parece que marcará la potencia de las naciones
(61), los juristas deberán tratar de queestas máquinas no perjudiquen a
nadie y contribuyan al respeto de los derechos humanos, en los cuales no cabe
esperar un retroceso sino una mejora. La personalidad electrónica o robótica
parece más una conveniencia que una necesidad; un beneficio para sus
fabricantes, dueños o tenedores. En este tema no puede pecarse por inocencia.
Es cierto que cuanto mayor nivel de autonomía alcancen los robots, más difícil
será considerarlos meros instrumentos en manos de humanos, pero coincidimos con
quienes sostienen que los robots no pueden ser considerados en sí mismos responsables
de los actos u omisiones que causen daños a terceros, sino que siempre existe
la posibilidad de atribuir dichos daños a un agente humano que podía haber
previsto o evitado el resultado dañoso. Son los operadores, fabricantes o
usuarios quienes podrían ser considerados responsables por los actos u
omisiones del robot (62). El hecho de
que los robots pueden llegar a ser autónomos no conlleva necesariamente
otorgarles personalidad; los animales también lo pueden ser, y la
responsabilidad por sus actos es de sus poseedores o de quienes se sirven de
ellos. Cuando el mundo comenzó a pensar en la “personalidad de los animales”,
la idea fue considerar que, habiendo especies que tienen posibilidad de
“sentir” y, por ende, de “sufrir”, no bastaba con dictar normas protectoras que
en definitiva piensan en los sentimientos del ser humano, sino que había que
otorgarles a esos “seres sintientes” una categoría especial que la diferencie
del resto de las cosas (63). ¿Cabe aquí la misma solución? El robot no es un ser
que se encuentre espontáneamente en el ecosistema, no es fruto de la
naturaleza; es una creación humana. Los robots “imitarán nuestros
sentimientos”, pero no tendrán los propios; su programación podrá ser cambiada
de un día para el otro para sentir empatía con su nuevo dueño, olvidándose por
siempre del anterior. Por cierto, un robot no es como un perro, que si es
abandonado podrá recorrer las calles día y noche en busca de su dueño o dejarse
morir de tristeza cuando su amo fallece. Es posible que un día los robots se
autofabriquen y programen entre ellos mismos; también es imaginable que vayan
adquiriendo cada día una inteligencia artificial “más fuerte”, tomen decisiones
y se rebelen contra sus dueños. Tal vez nosotros no llegaremos a ver esa
evolución de los robots, pero que hoy sea una realidad incipiente no puede
dejar de inquietarnos como juristas. Como dijo sabiamente un amigo, el art. 41
de la CN nos obliga a pensar en las generaciones futuras y en la existencia de
una categoría
jurídica que,
hasta hace poco, el derecho civil no contemplaba: las relaciones jurídicas
intergeneracionales (64). Nosotros debemos ser una suerte de fiduciarios,
diseñando herramientas jurídicas eficaces para la interacción entre personas y
robots, en un futuro que parece lejos, pero que está muy cerca.
NOTAS Y
REFERENCIAS
(*) Por ser el
último ejemplar en formato revista, me he permitido infrigir una regla
autoimpuesta y publicar un artículo de mi autoría que fuera editado
anteriormente por el Instituto de Derecho Civil de la Academia Nacional de
Derecho.
(**) Doctor en
Ciencias Jurídicas y Sociales. Profesor de grado y posgrado en la UBA, en
Universidad de San Andrés, en la Universidad de Palermo y otras universidad del
país. Miembro del Instituto de Derecho Civil de la Academia Nacional de Derecho
y de la Asociación Argentina de Derecho Comparado.
(1) En realidad,
el primer dispositivo disponible comercialmente que podría denominarse
correctamente como "teléfono inteligente" comenzó como un prototipo
llamado "Angler" desarrollado por Frank Canova en 1992 mientras
trabajaba para IBM y fue exhibido en noviembre de ese año en la feria comercial
de la industria informática COMDEX, aunque ese dispositivo nada tiene que ver
con los actuales smartphones. En 2007, Apple lanza el primer IPhone de la
historia, cambiando así los estándares del uso de telefonía celular para
siempre; fue nombrado "Invento del año" por la revista Time en 2007.
La salida del primer IPhone da a luz al sistema operativo móvil IOS, y un año
después —en el 2008— sale a la luz Android, siendo estos últimos sistemas
operativos móviles los que deslumbrarían en la siguiente década.
(2) ROGEL VIDE, Carlos, "Robots y
personas", en Los robots y el derecho, bajo su dirección, Ed. Reus,
Madrid, 2018, p. 9.
(3) NÚÑEZ, Javier F., "Inteligencia
artificial: experiencias y propuestas de regulación en el derecho
comparado", SJA del 15/07/2020, p. 3; AP AR/DOC/1730/2020.
(4) La Real Academia Española la conceptualiza
como una disciplina científica que se ocupa de crear programas informáticos que
ejecutan operaciones comparables a las que realiza la mente humana, como el
aprendizaje o el razonamiento lógico.
(5) FERNÁNDEZ, Diego, "El impacto de la
inteligencia artificial en el derecho", LA LEY del 19/10/2017, p. 6;
(6) CORVALÁN, Juan G., "La primera
inteligencia artificial predictiva al servicio de la justicia: Prometea",
LA LEY 2017-E, 1008.
(7) CORVALÁN, Juan G., "La primera
inteligencia artificial predictiva...", ob. cit.
(8) AQUARO,
Vicenzo (director de Gobierno Digital de la Organización de las Naciones Unidas
—ONU—), "Prólogo", en CORVALÁN, Juan G., Prometea, inteligencia
artificial para transformar las organizaciones públicas, Ed. Astrea, Buenos
Aires, 2019, p. 7.
(9) LORENTE, Javier A., comentando a HARARI,
Yuval, "21 lecciones para el siglo XXI", en "La utilización de
inteligencia artificial (IA) y machine learning por y en los órganos de
administración de sociedades. ¿Hacia el reconocimiento de IA como directores de
sociedades?", RDCO 299-1623, 02/12/2019.
(10) ORTEGA,
Andrés, "La imparable marcha de los robots", Ed. Alianza, Madrid,
2016, ps. 18 y anteriores.
(11) ROSSITER, Jonathan, "La robótica,
los materiales inteligentes y su impacto futuro para la humanidad", en El
próximo paso. La vida exponencial, Ed. BBVA — Open Mind, Madrid, 2016, p.
31.
(12) TRAVIESO,
Juan A., "Las personas jurídicas en el nuevo derecho y tecnología.
Bienvenidos los robots",
(13) "Quiero
agradecer al Reino de Arabia Saudita. Estoy muy orgullosa por esta distinción.
Es histórico, ser el primer robot en ser reconocido con una ciudadanía",
aseguró Sophia ante el público. Durante la entrevista respondió varias
preguntas con fluidez y hasta con humor. El entrevistador dijo que algunas
preguntas estaban preparadas, pero que también hubo lugar para la improvisación
(diario Infobae, 27/10/2017).
(14) LACRUZ
MANTECÓN, Miguel L., "Potencialidades de los robots y capacidades de las
personas", en Los robots y el derecho, ob. cit., p. 77.
(15) RODRÍGUEZ
MANCINI, Jorge, "El trabajo en el futuro", citando a Eduardo Levy
Yegati, LA LEY 2016-E, 773.
(16) FIATTI, Gilda G. — CARRIZO, Mónica L.,
"El valor del trabajo en la Cuarta Revolución Industrial: las plataformas
digitales", RDLSS 2020-12, 23/06/2020, 14.
(17) CROVI, Luis D., "Los animales y los
robots frente al derecho", Revista Venezolana de Jurisprudencia y Derecho,
nro. 10, Caracas, Venezuela, 2008, p. 114.
(18) Una firma
estadounidense, Realrobitx, publicó un video promocionando a su robot Harmony
por un precio entre US$ 8.000 y US$ 10.000. Se trata de una muñeca a tamaño
real que puede pestañear o mover sus ojos y cue- llo. También mueve sus labios
y habla. Harmony posee inteligencia artificial, lo cual le permite desarrollar
una relación con su dueño (diario La Nación, 18/02/2020).
(19) ORTEGA, Andrés, "La imparable marcha
de los robots", ob. cit., p. 57.
(20) "Estas armas diseñadas con
inteligencia artificial serían capaces de matar a personas por sí mismas. En
otras palabras, no sería un combatiente humano apuntando y matando a una
persona. La máquina programada podría estar tomando esas decisiones por su
cuenta", explica la activista estadounidense Jody Williams, premio Nobel
de la Paz en 1997, una de las líderes de la campaña "Stop killer
robots" ("Detener a los robots asesinos").
(21) Diario Clarín, 26/02/2020.
(22) DE LORENZO,
Miguel F., "Repensar al 'otro' (Reflexiones sobre el derecho civil)",
SJA del 17/04/2019, 3; JA 2019-II.
(23) GUNKEL, D.
J., "The other question: can and should robots have rights?", Ethics
Inf. Technol. 20, 87-99 (2018), https://doi.org/10.1007/s10676-017-9442-4.
(24) Como ha destacado Saux, quizás como una
reacción al antropocentrismo reinante a partir del siglo XVI, se registra ya
desde hace algunas décadas una corriente de opinión que alude a "los
derechos de los animales no humanos" y, yendo incluso un paso más allá,
proponiendo su reconocimiento como "personas no humanas",
estimándolos jurídicamente, no solo ya como meros objetos de tutela, sino como
portadores en sí mismos de ciertos derechos (SAUX, Edgardo I.,
"Personificación de los animales. Debate necesario sobre el alcance de
categorías jurídicas", LA LEY 2016-B, 1020). Lo cierto es que, pese a las
discusiones académicas y a que las XXVI Jornadas Nacionales de Derecho Civil
han declarado que el animal "no es sujeto de derecho" en el sistema
jurídico argentino, otras legislaciones han dispuesto que los animales no son
cosas. Así lo hizo el Código Civil alemán (art. 90); en Francia, la ley 76-629
de 1976 lo denominó "ser sensible", y España está encarando una
reforma legislativa en el mismo sentido.
(25) El
13/09/2018, la Comisión que fuera oportunamente designada por el Poder
Ejecutivo Nacional para proyectar las reformas que se estimaran necesarias
introducir al Cód. Civ. y Com., conformada por los Dres. Julio C. Rivera, Ramón
D. Pizarro y Diego Botana, elevó al Ministerio de Justicia el texto del
mencionado proyecto en el que se incluía esta modificación.
(26) Informe reproducido en la nota titulada
"Exclusivo: ejecutivos top entusiasmados con la inteligencia
artificial", diario Infobae del día 03/06/2017.
(27) Ya existen
varios asuntos en los que se han empleado robots para llevar a cabo conductas
restrictivas de la competencia mediante la fijación de precios que previamente
habían acordado los competidores utilizando un algoritmo (AYLLON, José,
"Robots y derecho de la competencia", 14/03/2017, elderecho.com, Ed.
Lefebv
(28) ORTEGA,
Andrés, "La imparable marcha de los robots", ob. cit., ps. 49 y
anteriores.
(29) La
información sobre esta empresa y sus robots puede encontrarse en https://www.ipalrobot.com. re — El
Derecho).
(30) BARRIO
ANDRÉS, Moisés, "Robótica, inteligencia artificial y derecho", CIBER
Elcano, nro. 36, Ed. Real Instituto Elcano, Madrid, septiembre de 2018.
(31) En Estados Unidos, Winston & Strawn
es uno de los bufetes que adoptaron la tecnología de revisión legal conocida
como codificación predictiva. Los abogados marcan la información relevante en
un subconjunto de documentos y con ello alimentan un programa informático que
la utiliza como base para analizar todo el conjunto de datos. El programa,
entonces, identifica y saca a la superficie pruebas potencialmente relevantes
para que los abogados las examinen posteriormente ("Watson, el robot
abogado que inventó IBM", elcronista.com, 07/01/2015).
(32) En el Foro de
Davos, en enero de 2016 hubo un anticipo de lo que los académicos más
entusiastas tienen en la cabeza cuando hablan de Revolución 4.0:
nanotecnologías, neurotecnologías, robots, IA, biotecnología, sistemas de
almacenamiento de energía, drones e impresoras 3D serán sus artífices. Pero
serán también los gestores de una de las premisas más controvertidas del
cambio: la Cuarta Revolución podría acabar con cinco millones de puestos de
trabajo en los 15 países más industrializados del mundo (PERASSO, Valeria, BBC
Mundo, 12/10/2016).
(33) ORTEGA,
Andrés, "La imparable marcha de los robots", ob. cit., p. 20.
(34) BOTIN, Ana,
"Prólogo", en SCHWAB, Klaus, La Cuarta Revolución Industrial,
Colección Debate, Ed. Penguin Random House, Madrid, 2017.
(35) AMÉSQUITA
ZÁRATE, Pascual R., "La Cuarta Revolución Industrial, algunas implicancias
en las escuelas de negocios", Palermo Business Review, Ed. Fundación
Universidad de Palermo, Buenos Aires, 2018.
(36) ADARO, Mario,
"La formación de las abogadas y los abogados ante la digitalización del
proceso", LA LEY del 31/08/2020, p. 4; LL AR/DOC/2881/2020.
(37) FOSSACECA (h.), Carlos A. — MOREYRA,
Pilar, "Aproximaciones a la responsabilidad civil por la utilización de
inteligencia artificial y derecho de los robots. Una mirada jurídica",
RCyS 2020-VIII, 20.
(38) Es conocida
la referencia a que el término "persona" proviene del término latino
personae (per y sonae: sonar a través de), y era el nombre de la máscara o careta
que usaban los actores, y que ayudaba a resonar sus voces. "Por una serie
de transposiciones se aplicó la palabra persona al actor, y luego a los actores
de la vida social y jurídica; es decir, los hombres considerados como sujetos
de derecho" (CASTÁN TOBEÑAS, José, "Derecho civil español, común y
foral", 14ª ed. actualizada por José Luis de los Mozos, Ed. Reus, Madrid,
1987, t. I, vol. II, p. 114).
(39) DÍEZ-PICAZO,
Luis — GULLÓN, Antonio, "Sistema de derecho civil", 11ª ed., Ed.
Tecnos, Madrid, 2005, vol. I, p. 213.
(40) DOMÍNGUEZ GUILLEN, María Candelaria,
"Manual de derecho civil I (Personas)", Ed. Paredes, Caracas, 2011,
p. 39.
(41) SAUX, Edgardo I., "Tratado de
derecho civil. Parte general", Ed. Rubinzal-Culzoni, Santa Fe, 2018, t.
II, p. 25.
(42) TOBÍAS, José
W., "Derecho de las personas", Ed. La Ley, Buenos Aires, 2009, p. 6.
(43) CIFUENTES, Santos, "Derechos
personalísimos", 3ª ed., Ed. Astrea, Buenos Aires, 2008, p. 123.
(44) VIGO, Rodolfo
L. — HERRERA, Daniel A., "El concepto de persona humana y su
dignidad", Rev. Derecho Privado y Comunitario, 2015-3, Ed.
Rubinzal-Culzoni, Santa Fe, 2016, p. 22.
(45) S.S. JUAN
PABLO II, "Encíclica Fides et Ratio", citada por CONTE-GRAND, Julio,
en SÁNCHEZ HERRERO, Andrés (dir.), Tratado de derecho civil y comercial, Ed. La
Ley, Buenos Aires, t. I, p. 118.
(46) La ponencia
destaca que el desarrollo de la tecnología robótica debe orientarse a
complementar las capacidades humanas y no a sustituirlas; considera fundamental
garantizar que, en el desarrollo de la robótica y los sistemas de IA, los seres
humanos tengan en todo momento el control sobre las máquinas inteligentes;
estima que debe prestarse especial atención al posible desarrollo de un vínculo
emocional entre seres humanos y robots —especialmente en el caso de grupos
vulnerables, como niños, personas mayores y personas con discapacidad—, y
destaca los problemas que pueden plantear las graves consecuencias físicas y
emocionales que este vínculo emocional podría causar a los seres humanos.
(47) LACRUZ
MANTECÓN, "Potencialidades de los robots...", ob. cit., p. 53.
(48) ROGEL VIDE,
Carlos, "Robots y personas", ob. cit., p. 23.
(49) El documento
consta de 3 capítulos y se acuña la expresión "inteligencia artificial confiable"
(trustwhorthy AI). Se resalta la idea de desarrollar una IA que sea digna de
confianza. Dos son los principios fundamentales que emanan de ese documento: a)
propósito ético: la IA deberá respetar, como decíamos, los derechos humanos y
la regulación vigente; b) robustez técnica: la IA deberá garantizar que,
incluso siendo usada con buenas intenciones, la falta de pericia tecnológica en
su manejo no causa un daño involuntario.
(50) El informe puede consultarse en https://
ec.europa.eu/transparency/regdoc/rep/1/2019/ES/
COM-2019-168-F1-ES-MAIN-PART-1.PDF.
(51) ALEGRIA,
Héctor, "Humanismo y derecho de los negocios", LA LEY 2004-E, 1206.
(52) CROVI, Luis D., "La dignidad de los
pacientes en tiempos de pandemia", LA LEY del 20/05/2020, p. 1
(53) ALEGRIA,
Héctor, "Humanismo y derecho...", ob. cit.
(54) ALTERINI,
Atilio A., "El principio pro homine", RCyS 2011-II, tapa.
(55) GARRIDO CORDOBERA, Lidia,
"Aplicación de los principios de no regresión, de solidaridad y pro
homine. Desafío ambiental del siglo XXI", LA LEY 2014-F, 1199.
(56) JUAN PABLO
II, "Discurso de apertura de la Conferencia Episcopal de Puebla",
III-4, México, 28/01/1979.
(57) Se sostiene
que la cuestión de los derechos de los animales debe analizarse desde una
perspectiva moral y jurídica. Los animales merecen incluirse en una
"comunidad moral", que les hace merecedores de derechos, y jurídica,
que obliga a institucionalizar y reconocer esos derechos, para que sean
efectivos en los ordenamientos contemporáneos (REY PÉREZ, José L., "Los
derechos de los animales en serio", Ed. Dykinson, Madrid, 2018, p. 21).
(58) En ese sentido, la sentencia de la Corte
Suprema de Justicia de Colombia, STC 4360-2018, del 05/04/2018, reconoce a la
Amazonia colombiana el carácter de sujeto de derecho.
(59) TRAVIESO,
Juan A., "Las personas jurídicas...",ob. cit.
(60) MOZO SEOANE, Antonio, "La revolución
tecnológica y sus retos: medios de control, fallos de los sistemas y
ciberdelincuencia", en ROGEL VIDE, Carlos (coord.), Los robots y el
derecho, ob. cit., p. 84.
(61) Si antes se hablaba de la brecha
tecnológica entre las naciones, hoy hay que añadir la brecha robótica. Es
realista pensar que todos los países van a desarrollar industrias competitivas
de fabricación de robots, y quien domine ese campo tendrá también una posición
predominante en el mundo. (ORTEGA, Andrés, "La imparable marcha de los
robots", ob. cit., p. 179).
(62) DÍAZ ALABART, Silvia, "Robots y
responsabilidad civil", en ROGEL VIDE, Carlos, Los robots y el derecho,
ob. cit., p. 109.
(63) Fue Peter
SINGER (1975), en su obra "Liberación animal", quien sostuvo que
todos los animales dotados de un sistema nervioso central somos iguales, y esa
consideración igual del dolor debe ser tenida en cuenta. Luego le siguieron
otros, como Tom REAGAN (1983) en "The case for animal rights", en
donde se pretende dar un salto de lo moral a lo jurídico. El último escalón en
esta línea de pensamiento es la obra de DONALDSON y KYMLICKA,
"Zoopolis" (2011), donde se considera a los animales partícipes de
una comunidad jurídica.
(64) DE LORENZO,
Miguel F., "Repensar al 'otro'...", ob. cit.
