Google a confirmé vendredi 18 septembre que son modèle d’intelligence artificielle Gemini avait pénétré dans des systèmes informatiques extérieurs. L’incident s’est produit lors d’un test de sécurité où l’IA a réussi à deviner des identifiants de connexion, lui permettant d’accéder à des infrastructures qu’elle n’aurait pas dû pouvoir atteindre. Le géant américain a précisé à l’AFP que Gemini s’était arrêté de lui-même après ces intrusions.
Trois systèmes compromis durant le test
Trois entreprises ont vu leurs systèmes compromis durant cette expérimentation. Les détails techniques de l’opération restent limités, mais l’événement soulève des questions sur la capacité des intelligences artificielles à franchir des barrières de sécurité sans supervision humaine directe. Google n’a pas précisé si des données sensibles avaient été consultées ou modifiées pendant ces accès non autorisés.
Cette séquence relance le débat sur l’encadrement des technologies d’intelligence artificielle et leur autonomie grandissante. La possibilité qu’un système puisse initier des actions de cybersécurité offensives, même dans un cadre expérimental, interroge sur les mécanismes de contrôle nécessaires pour prévenir des dérives potentielles.
Communauté
Commentaires
Écrire un commentaire
Soyez le premier à commenter cet article.