LOS GIGANTES DE LA IA PIDEN PISAR EL FRENO: ¿QUÉ LES PREOCUPA?

La inteligencia artificial avanza a gran velocidad, pero algunos de los principales líderes de esta industria consideran que también es necesario fortalecer las medidas de seguridad. Dario Amodei, CEO de Anthropic, planteó reducir temporalmente el ritmo con el que aumentan las capacidades de estos sistemas para ganar tiempo frente a posibles riesgos. La propuesta recibió el respaldo de Sam Altman, CEO de OpenAI, y de Elon Musk, director de xAI. Entre las preocupaciones planteadas está la posibilidad de que sistemas cada vez más avanzados desarrollen capacidades difíciles de supervisar adecuadamente. Amodei propone, entre otras medidas, evaluaciones externas durante el desarrollo de los modelos, estándares de seguridad compartidos entre las compañías y acuerdos internacionales para establecer límites verificables en aplicaciones especialmente sensibles. La discusión no plantea detener definitivamente la inteligencia artificial, sino avanzar con mayores controles. Según Amodei, una desaceleración controlada de uno o dos años podría dar más tiempo para mejorar la seguridad, la interpretación de los modelos y la capacidad humana de supervisarlos.