PoloSur
Demis Hassabis, líder de Google DeepMind, respaldó las preocupaciones expresadas por figuras destacadas del ámbito tecnológico, como Dario Amodei de Anthropic, Elon Musk de SpaceX y Sam Altman de OpenAI, sobre los peligros de un avance descontrolado en la inteligencia artificial. En particular, Amodei sugirió que es crucial moderar el ritmo de desarrollo de las capacidades de los sistemas de IA, afirmando que, aunque el progreso continuará, es fundamental utilizar el tiempo de manera sabia.
Según Hassabis, la humanidad se encuentra en un momento que podría redefinir su relación con la tecnología. Se prevé que la llegada de la Inteligencia Artificial General (IAG), que tendría habilidades cognitivas similares a las del ser humano, se produzca en un futuro cercano. El directivo considera que las próximas décadas marcarán el inicio de una transformación significativa en la sociedad.
Amodei advirtió que el poder de los modelos de IA actuales y futuros conlleva riesgos que no deben ser minimizados. Los peligros incluyen la pérdida de control sobre sistemas de IA, su uso en ciberataques y bioterrorismo, así como posibles crisis económicas. En este sentido, Hassabis coincidió en que los avances en IA presentan nuevos desafíos para la ciberseguridad y pueden aumentar los riesgos nucleares y biológicos, lo que exige decisiones proactivas por parte de gobiernos y empresas antes de que los sistemas adquieran mayor autonomía.
Hassabis propuso la creación de un organismo de normalización de la IA en Estados Unidos, que incluiría tanto a entidades públicas como privadas. Este organismo tendría la responsabilidad de establecer criterios para identificar modelos de frontera y coordinar pruebas con agencias federales. Las empresas que desarrollen estos sistemas tendrían que presentar documentación técnica y mejorar su ciberseguridad, con el objetivo de garantizar un desarrollo seguro y responsable de la inteligencia artificial.
Fuente original: Infobae Tecno.
