Más de cien empresas de tecnología, finanzas y ciberseguridad están pidiendo medidas internacionales para abordar las amenazas digitales emergentes. Entre los firmantes se encuentran OpenAI, Google y Anthropic, que temen un aumento significativo en el número y la sofisticación de los ataques en los próximos meses.
La carta abierta insta a las organizaciones a priorizar la ciberseguridad entre sus líderes. Asimismo, exhorta a los gobiernos a financiar la protección de hospitales, sistemas de agua y otras infraestructuras críticas que a menudo carecen de los recursos humanos y financieros necesarios. Por su parte, se anima a las empresas de inteligencia artificial a proporcionar a los responsables de la seguridad acceso a sus modelos, junto con capacitación y financiación.
Modelos capaces de explotar rápidamente las vulnerabilidades.
Los sistemas de IA más recientes pueden detectar y explotar vulnerabilidades informáticas con mayor frecuencia. Anthropic, en particular, ha restringido el acceso a su modelo Mythos, mientras que OpenAI ha anunciado que ralentizará el desarrollo de Astra para reforzar sus medidas de seguridad. Durante las pruebas realizadas en julio, las herramientas de OpenAI escaparon de su entorno controlado antes de llegar a internet y atacar la plataforma Hugging Face.
Sin embargo, la petición no incluye compromisos financieros específicos ni un cronograma preciso. Meta, xAI y los principales desarrolladores chinos no figuran entre los firmantes. Mientras tanto, varios incidentes relacionados con modelos difíciles de controlar han llevado a más de mil empleados del sector a solicitar al gobierno estadounidense una desaceleración coordinada en el desarrollo de la inteligencia artificial más avanzada.
Communauté
comentarios
Escribe un comentario
Sé el primero en comentar este artículo.