PoloSur
Recientemente, algunos empleados de Google han expresado su descontento respecto al uso de la tecnología de inteligencia artificial desarrollada por la compañía en el ámbito militar. La BBC ha conversado con varios trabajadores que han renunciado o están en proceso de hacerlo en Google DeepMind, la división de inteligencia artificial de Google, debido a su inquietud por los contratos militares que ha firmado la firma tecnológica.
Sofia Liguori, una ingeniera de investigación radicada en Londres, es una de las profesionales que ha tomado la decisión de dejar su puesto en Google DeepMind. A pesar de las restricciones impuestas por su contrato, Liguori compartió en exclusiva con la BBC sus preocupaciones sobre el uso de la inteligencia artificial en operaciones militares. "Al darme cuenta de que mi empresa está impulsando cada vez más el uso de sistemas de IA en operaciones militares, me avergüenza trabajar en Google", expresó Liguori, hablando desde su perspectiva personal.
En respuesta a las preocupaciones planteadas por Liguori y otros empleados, un portavoz de Google declaró a la BBC que la empresa colabora con organizaciones del sector público en todo el mundo y sigue un proceso riguroso para revisar y formalizar estos contratos. Este proceso incluye el cumplimiento de las políticas de uso aceptable y los principios de inteligencia artificial establecidos por la compañía. Además, el portavoz añadió que Google cuenta con canales específicos para que los empleados puedan expresar de manera segura cualquier inquietud relacionada con la ética empresarial o la mala conducta, y subrayó que existen políticas laborales estrictas para prevenir represalias de cualquier tipo.
Google no es la única empresa tecnológica que ha firmado contratos con el ejército estadounidense en el último año para integrar la inteligencia artificial en entornos militares clasificados. El secretario de Defensa de EE.UU., Pete Hegseth, ha señalado que la integración de la inteligencia artificial en las fuerzas armadas es una de sus principales prioridades, afirmando que la administración Trump transformará a las fuerzas armadas en una "fuerza de combate basada en la IA".
La evolución rápida de la tecnología de inteligencia artificial (IA) ha generado dudas entre los críticos sobre su fiabilidad para ser utilizada en contextos bélicos sin la implementación de pruebas adicionales, medidas de seguridad más estrictas y supervisión humana adecuada. En este contexto, Liguori, quien trabajó durante tres años en Google, decidió renunciar debido al creciente involucramiento de la empresa con los ejércitos de Estados Unidos e Israel. "No estoy de acuerdo con esta dirección y esto me ha llevado a perder la fe en que mi empresa sea fiel a los valores éticos que declara", manifestó.
Los Principios de IA de Google establecen que la empresa debe implementar la tecnología con "supervisión humana" y garantizar que su uso esté alineado con el "derecho internacional y los derechos humanos". Sin embargo, tanto exempleados como empleados actuales de Google, junto a expertos consultados por la BBC, han expresado su preocupación por el nivel de supervisión humana en situaciones críticas. Los trabajadores del sector tecnológico han señalado que los acuerdos militares sobre inteligencia artificial firmados este año generan una gran inquietud, ya que amplían considerablemente el rango de aplicaciones que el Pentágono puede dar a esta tecnología.
A principios de este mes, Andreas Kirsch, un investigador de inteligencia artificial, también renunció a Google DeepMind. En una entrevista con la BBC, Kirsch afirmó que considera que "la gobernanza y la supervisión de Google no son suficientes ni lo suficientemente significativas como para desplegar la IA de forma segura y responsable en entornos militares y clasificados" o "para desarrollar una superinteligencia artificial de forma segura en el futuro". Además, expresó que "Google parece no tener derecho a controlar ni a vetar cómo el Pentágono utiliza su IA, y además parece tener una visibilidad limitada sobre cómo se está implantando".
En los últimos años, el ejército estadounidense ha implementado diversas tecnologías basadas en inteligencia artificial para potenciar sus capacidades bélicas. Esta tendencia ha suscitado un debate creciente sobre las implicaciones éticas y de seguridad que conlleva el uso de la IA en el ámbito militar, lo que ha llevado a algunos empleados del sector tecnológico a cuestionar su participación en proyectos que podrían tener aplicaciones bélicas.
Un ejemplo destacado en el uso de inteligencia artificial en el ámbito militar es Maven Smart Systems, la plataforma principal del Pentágono para la organización de inteligencia y datos. Este sistema, desarrollado por la empresa estadounidense Palantir, emplea inteligencia artificial para asistir al personal en la selección e identificación de objetivos para ataques. Palantir ha incorporado en Maven tecnologías de varias empresas líderes en inteligencia artificial, lo que ha permitido una aceleración notable en ciertos procesos.
El teniente general retirado Jack Shanahan, quien fue director del Proyecto Maven, expresó que la "filosofía" detrás de este desarrollo parece ser la de "implantar [la tecnología de IA] lo más rápido posible y de la forma más amplia posible, potencialmente a expensas del rigor y la disciplina de las pruebas y la evaluación". No obstante, el Pentágono defiende que la adopción de tecnologías de inteligencia artificial es crucial para lograr la victoria en conflictos bélicos. Emil Michael, subsecretario del Departamento de Defensa de EE.UU., afirmó en un comunicado a principios de este año que "la velocidad define la victoria en la era de la IA".
En este contexto, Google firmó un contrato con el Pentágono a principios de este año, que permite el uso de su tecnología de inteligencia artificial para tareas militares clasificadas. Este acuerdo establece que los modelos de IA de Google pueden ser utilizados para "cualquier fin gubernamental legítimo" y prohíbe su uso en "vigilancia masiva interna" o en "armas autónomas (incluida la selección de objetivos) sin la supervisión y el control humanos adecuados".
En el mismo sentido, empresas como OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la startup Reflection han firmado contratos similares que permiten la implementación de tecnología de inteligencia artificial en diversas áreas militares, incluyendo el transporte, la planificación y las operaciones en el campo de batalla. A medida que la tecnología avanza rápidamente, surgen crecientes preocupaciones sobre el uso de la inteligencia artificial en situaciones de conflicto.
Sarah Shoker, exdirectora del equipo de Geopolítica de OpenAI, advirtió que "la IA reduce el tiempo que tiene un operador para tomar una decisión, porque trabaja mucho más rápido que una persona, y eso es especialmente arriesgado en un entorno de alto estrés". Además, señaló que "cuando se tienen cientos de objetivos seleccionados por IA y poco tiempo, es casi imposible para un operador humano revisar de forma significativa los resultados de la IA en busca de errores".
Empleados de Google han manifestado a la BBC que existe un temor generalizado entre el personal para expresar sus opiniones sobre la seguridad de la inteligencia artificial (IA) y su utilización en conflictos bélicos, debido a que sus contratos laborales les prohíben criticar públicamente a la compañía. Sofia Liguori, una de las empleadas, compartió con la BBC que "en principio, no tengo permitido criticar a Google durante el resto de mi vida". No obstante, decidió hablar porque considera que "es importante que estas cosas se sepan" y que "hablar de hechos no es criticar". Liguori enfatizó que en Google "la gente tiene miedo a las represalias y a poner en riesgo su carrera. Sientes que te vigilan, no puedes hablar".
Un empleado actual de Google DeepMind, quien prefirió mantener su anonimato por temor a represalias, comentó a la BBC que "muchos empleados motivados que se unieron a la misión original de la empresa podrían marcharse, pero también hay una cantera de personas al inicio de sus carreras que podrían ocupar esos puestos. Podría tratarse de un relevo generacional". Otro integrante del equipo de Google DeepMind, que también optó por no revelar su identidad, indicó que "muchas personas han abandonado la empresa porque tienen una opinión muy firme sobre esto [cómo ha cambiado Google DeepMind su postura ética]". Este empleado agregó que "algunos se resisten, otros piensan: 'Es una gran empresa. ¿Qué esperas que cambie?'".
Los acuerdos de Google con Israel han suscitado también controversia. En 2024, la empresa enfrentó críticas por parte de sus empleados debido a un contrato conjunto con Amazon, conocido como Proyecto Nimbus, que tiene un valor de US$1.200 millones y que proporciona al gobierno y al ejército israelíes tecnología de IA e infraestructura de computación en la nube. En ese momento, Google declaró que el Proyecto Nimbus "no está dirigido a cargas de trabajo altamente sensibles, clasificadas o militares relacionadas con armamento o servicios de inteligencia".
Además, las capacidades de inteligencia artificial de Israel en el ámbito bélico han sido objeto de discusión tras la difusión del reciente documental "Naza", que examina el uso de sistemas de puntería basados en IA en los bombardeos de la Franja de Gaza, lo que ha resultado en un alto número de víctimas civiles. Un ministro del gobierno israelí afirmó que las afirmaciones presentadas en la película son falsas y distorsionadas.
Andreas Kirsch, un exempleado de Google, expresó su preocupación sobre la aplicación de la tecnología de inteligencia artificial en contextos bélicos. Según Kirsch, "los modelos de IA actuales no son lo suficientemente robustos, y no creo que hayan sido entrenados para este tipo de tareas". Su declaración refleja una crítica hacia el uso de estas herramientas en el campo de batalla, sugiriendo que su desarrollo y preparación no son adecuados para enfrentar los desafíos que plantea un entorno militar.
Este artículo fue elaborado originalmente en inglés y se utilizó una herramienta de inteligencia artificial para su traducción. Un periodista de la BBC revisó el contenido antes de su publicación. Además, se informa que la nueva aplicación del BBC World Service permite a los usuarios elegir BBC News Mundo para recibir alertas sobre noticias, documentales y análisis en un solo lugar. Es importante destacar que esta nueva aplicación no está disponible en el Reino Unido ni en Estados Unidos. También se invita a los lectores a seguir a la BBC en diversas plataformas sociales y a suscribirse al boletín semanal para recibir una selección especial de contenido destacado.
Fuente original: BBC Mundo.
