Debate sobre la responsabilidad ante la inteligencia artificial tras la visita del Papa

La intervención del Papa León XIV la semana pasada ha puesto de manifiesto una cuestión que sigue sin respuesta por parte del Gobierno argentino: ante un eventual fallo en el uso de la inteligencia artificial, ¿a quién se debe reclamar? La discusión se centra en la naturaleza de las sociedades autónomas y su regulación. El presidente Javier Milei ha expresado su rechazo a la regulación preventiva, argumentando que no deberían existir normativas previas, aunque sí reconoce la necesidad de regulaciones posteriores. Según Milei, los Estados utilizan el temor hacia la tecnología para justificar un control que ofrecen a cambio de seguridad.

Si se adopta esta perspectiva, la responsabilidad recae mayormente en lo que sucede después de un daño, es decir, en la demanda, la reparación y el papel del juez. Por esta razón, no es sorprendente que el Papa haya instado a establecer mecanismos claros de rendición de cuentas, para que las decisiones relacionadas con la inteligencia artificial puedan ser revisadas, cuestionadas y reparadas en caso de causar perjuicios. Así, también se enfoca en la necesidad de un marco que contemple las consecuencias de estas tecnologías.

En este contexto, el proyecto de nueva Ley General de Sociedades, promovido por el ministro de Desregulación y Transformación del Estado, Federico Sturzenegger, introduce en su artículo 14 la figura de la sociedad automatizada. Esta nueva entidad funcionaría mediante algoritmos autónomos o agentes de inteligencia artificial, sin la intervención de personal humano en su operación cotidiana, y respondería ante terceros con su propio patrimonio. Sturzenegger defendió esta figura en el Senado, argumentando que no elimina la responsabilidad civil y legal, y que su régimen es similar al de las sociedades anónimas.

El 19 de agosto, Patricia Bullrich, jefa de bloque de La Libertad Avanza en el Senado, anunció en comisión su intención de endurecer la responsabilidad de estas sociedades, exigiendo “responsables físicos”. Sin embargo, este proyecto aún no ha sido tratado. Un mes después de su anuncio, Milei reiteró su propuesta de responsabilidad limitada en el ámbito de las sociedades automatizadas.

Para Agustín Tarelli, abogado y coordinador del Centro Interinstitucional de Ciencia de Datos, el debate va más allá de la regulación y toca los fundamentos del derecho, ya que este último requiere de la intervención de personas humanas. Tarelli sostiene que “el fenómeno jurídico es esencialmente un fenómeno humano”. Las sociedades comerciales y las personas jurídicas son construcciones del ordenamiento jurídico, pero siempre operan dentro de un marco que necesita de la voluntad humana para funcionar, lo que es fundamental para la validez de cualquier acto jurídico.

En este contexto, la voluntad, la intención, la libertad y el discernimiento son elementos que no pueden separarse del derecho. Por lo tanto, intentar trasladar estructuras diseñadas para seres humanos al ámbito de los agentes de inteligencia artificial plantea un dilema conceptual que va más allá de un simple problema técnico.

“El derecho es esencialmente cultura. Hay un autor argentino que hay que reivindicar, que es Carlos Cossio, ideólogo de la escuela egológica, que entendía que el derecho es conducta humana en interferencia intersubjetiva. Hay derecho cuando hay interrelaciones humanas entre las personas. Entonces me parece que eso es fundamental para comprender el fenómeno jurídico”, afirmó.

La postura del Gobierno en contra de la regulación también ha sido objeto de críticas desde la teoría económica. Según Tarelli, la regulación no debe considerarse un obstáculo abstracto, sino más bien una respuesta clásica ante las fallas de mercado.

“La regulación, hasta para la teoría económica mayoritaria, es necesaria ante fallas de mercado. Cuando tenés una falla de mercado, tiene que estar el Estado para regular, para que sea eficiente, porque si hay una falla de mercado no vas a estar en presencia de lo que es un mercado de competencia perfecta, en la que tenés un precio de equilibrio, y no hay excedentes vacantes", explicó.

Además, Tarelli ofreció una interpretación política sobre el impulso del Gobierno hacia la antirregulación: “¿Qué es lo que está detrás de esta tendencia de la antirregulación? Básicamente es la potencia del negocio de un mercado hiperconcentrado, como es el de las Big Tech, que justamente está protegiendo sus intereses. Sin soslayar, la disputa geopolítica en especial en relación con el desarrollo de los modelos de frontera".

Al ser consultado sobre las implicaciones de un sistema de inteligencia artificial que causa daño, Tarelli subrayó que el derecho ya ha abordado situaciones similares en otras revoluciones tecnológicas: “Esto es muy similar a otras disrupciones tecnológicas, aunque la presente revolución 4.0 es una disrupción sin antecedentes, en especial, por su velocidad. Pero ocurrió en su momento con la fábrica, la máquina de vapor, y el derecho fue generando teorías para eventualmente hallar soluciones a estos problemas”, recordó.

El pontífice León XIV hizo referencia a la teoría del riesgo creado, que se remonta a la Revolución Industrial. Según esta teoría, si una persona utiliza una máquina peligrosa para obtener un beneficio y dicha máquina causa un daño, el propietario de la máquina será considerado responsable. Esta responsabilidad es objetiva, lo que significa que, una vez verificado el daño, se establece la responsabilidad sin necesidad de demostrar culpa o dolo por parte de nadie.

Aunque el tema de la inteligencia artificial (IA) aún no ha sido parte de la agenda pública de la visita de León XIV a Argentina, programada del 8 al 11 de noviembre, el pontífice ya había planteado la cuestión poco después de su elección en mayo de 2025. En su discurso ante los cardenales, mencionó que la Iglesia debía responder a lo que él denominó “otra revolución industrial” y a los avances en el campo de la IA, similar a cómo León XIII lo hizo con la encíclica Rerum novarum. Un año más tarde, la publicación de Magnifica humanitas concretó esta idea en un pedido político que incluía marcos jurídicos y la necesidad de una vigilancia independiente. En octubre, León XIV fue más allá al afirmar que los principios éticos ya son conocidos, pero que el verdadero desafío radica en la creación de instituciones capaces de aplicarlos.

En octubre, la Pontificia Academia para la Vida llevó a cabo un encuentro con el Future of Life Institute, donde participaron destacados expertos como Max Tegmark, Stuart Russell, Gary Marcus y Valérie Pisano, presidenta de Mila, el instituto canadiense fundado por Yoshua Bengio. Durante este encuentro, Russell hizo un llamado a abandonar la carrera por desarrollar máquinas con capacidades superiores a las humanas, mientras que Pisano abogó por la creación de leyes y tratados internacionales que regulen el uso de la IA. Aunque el relato oficial argentino atribuye el temor a los Estados, las advertencias también surgieron desde la propia comunidad científica presente en la reunión.

León XIV instó a los Estados que se reunirán en Ginebra a avanzar de manera concreta hacia la prohibición de las armas autónomas letales. La Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales se llevará a cabo del 16 al 20 de noviembre y podría reanudar negociaciones para establecer un instrumento vinculante. Esta conferencia se desarrollará cinco días después de que el papa concluya su visita a Argentina, el 11 de noviembre. Argentina, por su parte, votó a favor de la primera resolución de la ONU sobre armas autónomas letales en 2023 y, desde 2017, se había opuesto a los sistemas totalmente autónomos; sin embargo, en 2025 se abstuvo en las votaciones más recientes.

Esta postura probablemente sirva como punto de referencia cuando la nación que acogerá al papa aborde, días después, el futuro de dichas armas.

El debate sobre quién tiene el control de la tecnología y quién asume la responsabilidad por sus efectos ha dejado de ser un tema meramente técnico. También plantea interrogantes para las instituciones, el ámbito legal y las decisiones políticas del Gobierno.

Fuente original: Letra P.