PoloSur
El Papa León XIV afirmó que el futuro de la inteligencia artificial (IA) no está predeterminado y que la humanidad tiene la capacidad de influir en su desarrollo, incluso en el contexto de la creciente competencia entre países y empresas por dominar esta tecnología. Estas declaraciones se realizaron durante un encuentro en el que se reunieron las máximas autoridades de la Iglesia católica y científicos internacionales para discutir los avances y los riesgos asociados a los algoritmos inteligentes de nueva generación.
En el marco del congreso titulado "El futuro de la IA: un diálogo entre el Vaticano y la comunidad científica sobre los avances y las aplicaciones de las tecnologías inteligentes", el primer papa estadounidense reiteró su llamado a establecer una regulación internacional más rigurosa. Esta regulación busca prevenir que los sistemas de IA sean utilizados para el desarrollo de armas autónomas letales y asegurar que el control de esta tecnología no se concentre en manos de unos pocos. De este modo, el líder católico reafirmó la postura que había expuesto anteriormente en su encíclica "Magnifica Humanitas", publicada en mayo pasado.
Durante su discurso, León XIV presentó cinco consideraciones que, según él, deberían ser tenidas en cuenta en un momento en que los debates sobre los riesgos existenciales de la IA y la aparente falta de control de esta tecnología son temas centrales en las agendas gubernamentales y mediáticas de numerosos países. El pontífice enfatizó que el futuro de la inteligencia artificial no depende de la tecnología en sí, sino de las decisiones que tomen los seres humanos. “Por tanto, [como humanidad] tenemos la responsabilidad de orientar, modificar y, cuando sea necesario, rechazar sus aplicaciones”, afirmó.
En este contexto, el Papa lanzó una advertencia implícita a los grandes desarrolladores de esta tecnología de vanguardia, señalando que “quienes consideran el desarrollo de la IA únicamente como una carrera que hay que ganar corren el riesgo de concentrarse solo en la línea de meta, olvidando a cuantos quedan atrás”. Además, subrayó que un sistema fiable que esté al servicio de la persona humana es más valioso que uno extraordinariamente potente, pero cuyas consecuencias no pueden preverse ni controlarse adecuadamente.
En esta reflexión, León XIV enfatizó que las máquinas deben ser consideradas como herramientas y no como seres humanos. Explicó que “las inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”. Además, advirtió que las propuestas que buscan otorgar derechos y personalidad jurídica a estos sistemas podrían diluir la responsabilidad humana que es inherente a su funcionamiento y desarrollo.
Por otro lado, el líder religioso destacó que “las decisiones relativas a la vida humana, la libertad y el uso de la fuerza” nunca deben ser delegadas a un algoritmo, y que siempre deben estar bajo el control humano. En este contexto, reiteró la necesidad de “desarmar” la inteligencia artificial y solicitó a los gobiernos que implementen medidas concretas para prohibir el desarrollo y uso de armas letales autónomas.
En consonancia con este planteamiento, el pontífice subrayó que “el desafío más urgente” es establecer instituciones que sean capaces de poner en práctica los principios éticos que deberían guiar el desarrollo de la inteligencia artificial. Afirmó que esto requiere normas compartidas, supervisión independiente y mecanismos claros de rendición de cuentas, de manera que las decisiones relacionadas con el desarrollo y uso de la inteligencia artificial puedan ser examinadas, cuestionadas si es necesario y acompañadas de medidas de reparación adecuadas por cualquier daño que se cause.
Finalmente, León XIV sostuvo que las tecnologías inteligentes “nunca deben convertirse en fines en sí mismas ni servir únicamente a los intereses de unos pocos privilegiados”. En su lugar, argumentó que estos avances deben estar orientados hacia el bien común y contribuir al cumplimiento de los principios de justicia, que actualmente también incluyen el acceso equitativo a los beneficios, herramientas, conocimientos y oportunidades que están asociados con la innovación.
El papa concluyó su intervención expresando su agradecimiento a los científicos por sus contribuciones en el ámbito de la inteligencia artificial, al tiempo que los alentó a continuar con sus investigaciones, a colaborar entre ellos y a mantener un espíritu de diálogo y responsabilidad compartida.
Fuente original: WIRED en Español.
