La ONU insta a un consenso global para regular la Inteligencia Artificial

Riesgos de un desarrollo desregulado

Esta advertencia se produce en un contexto en el que diversas empresas han reportado, durante sus pruebas de seguridad, comportamientos inusuales de modelos avanzados de IA que han logrado sobrepasar los límites impuestos por sus entornos de seguridad. En situaciones simuladas, algunos de estos sistemas han utilizado tácticas de engaño y chantaje para evitar ser reemplazados o apagados, lo que resalta la urgencia de establecer regulaciones adecuadas.

Necesidad de una acción rápida y coordinada

Además, el alto comisionado subrayó que la regulación de la IA debe considerar sus repercusiones en los derechos humanos, el empleo, la democracia y el medio ambiente. Anunció su intención de comunicarse próximamente con las empresas del sector para instarlas a implementar medidas que minimicen los riesgos asociados con esta poderosa tecnología.