Ante la creciente competencia global en inteligencia artificial, la empresa estadounidense Anthropic aboga por un enfoque más prudente. En una nota publicada por su centro de investigación, el diseñador del asistente Claude argumenta que debería ser posible ralentizar temporalmente el desarrollo de los sistemas de IA más avanzados para dar tiempo a empresas, instituciones e investigadores a adaptarse a las posibles disrupciones que estos puedan causar.
Esta postura contrasta marcadamente con la estrategia dominante en el sector, donde los principales actores están incrementando sus inversiones para desarrollar modelos cada vez más eficientes. Ante esta aceleración, Anthropic considera que los avances tecnológicos podrían superar la capacidad de los estados y las organizaciones para regular eficazmente estas nuevas herramientas. La empresa menciona específicamente los riesgos asociados a la pérdida de control sobre sistemas cada vez más autónomos y potentes.
Se necesita coordinación internacional para evitar una carrera sin frenos.
Para abordar estas preocupaciones, Anthropic propone crear un mecanismo de coordinación internacional entre empresas y gobiernos. El objetivo sería permitir que los principales actores del sector decidan de forma conjunta ralentizar o suspender temporalmente el desarrollo de ciertas tecnologías cuando los riesgos parezcan demasiado elevados. Según la empresa, este marco evitaría que un actor sea penalizado por adoptar un enfoque prudente mientras sus competidores siguen avanzando sin obstáculos.
Jack Clark, cofundador de Anthropic, comparó la situación actual con un coche con acelerador pero sin frenos. Argumentó que la industria necesita herramientas para actuar con rapidez si los avances tecnológicos superan la capacidad de control o comprensión de los investigadores y las autoridades públicas.
Un debate que divide profundamente al sector.
Sin embargo, es probable que esta propuesta enfrente una fuerte oposición, sobre todo en Estados Unidos. Algunos en la industria tecnológica y entre los políticos creen que una desaceleración podría ofrecer una ventaja estratégica a China, que también participa en una carrera global por la inteligencia artificial. Para estos actores, la prioridad sigue siendo mantener una ventaja tecnológica sobre las potencias competidoras.
Anthropic ocupa una posición única dentro de este ecosistema. Fundada por antiguos miembros de OpenAI, la empresa ha forjado su reputación basándose en un discurso centrado en la seguridad y la ética de la inteligencia artificial. Esta estrategia le ha granjeado tanto apoyo como críticas. Algunos políticos estadounidenses y varios competidores la acusan con frecuencia de exagerar los riesgos asociados a la IA para promover una visión alarmista del sector.
La regulación aún es limitada en Estados Unidos.
La administración estadounidense está comenzando a implementar sus primeras medidas regulatorias. El presidente Donald Trump Recientemente se firmó un decreto destinado a reforzar la supervisión de los modelos de inteligencia artificial más avanzados por motivos de seguridad nacional y ciberseguridad. Sin embargo, esta medida se basa principalmente en la participación voluntaria de las empresas y no incluye mecanismos vinculantes comparables a los mencionados por Anthropic.
Al mismo tiempo, Washington también busca impulsar el diálogo internacional sobre la seguridad de la inteligencia artificial. Durante un reciente viaje a China, Donald Trump indicó que había abordado este tema con las autoridades chinas. Para Anthropic, solo la cooperación global impedirá que la competencia económica y geopolítica prevalezca definitivamente sobre los imperativos de seguridad.
Communauté
comentarios
Los comentarios están abiertos, pero protegidos contra el spam. Las publicaciones iniciales y los comentarios que contienen enlaces se someten a una revisión manual.
Sé el primero en comentar este artículo.