Le gouvernement canadien entend faire pression sur les responsables d’OpenAI au sujet de leurs protocoles de sécurité, après avoir appris que l’entreprise n’avait pas contacté la police concernant un compte ChatGPT appartenant à un tireur de masse présumé. L’annonce a été faite mardi par un ministre fédéral, dans un contexte de vive émotion après l’une des pires fusillades de l’histoire récente du pays.
Le suspect, Jesse Van Rootselaar, âgé de 18 ans, est accusé d’avoir tué huit personnes le 10 février à Tumbler Ridge, en Colombie-Britannique, avant de se suicider. Un mémorial improvisé s’est formé devant l’hôtel de ville, où des habitants se recueillent plusieurs jours après le drame.
OpenAI a indiqué avoir suspendu le compte ChatGPT du suspect l’an dernier pour violation de ses règles d’utilisation. L’entreprise a précisé que cette infraction ne répondait pas à ses critères internes justifiant un signalement aux forces de l’ordre, et qu’aucun contact n’avait donc été établi avec la police.
Le ministre canadien a déclaré vouloir obtenir des éclaircissements sur les mécanismes de détection et de signalement mis en place par l’entreprise, estimant que des questions demeurent quant à la responsabilité des plateformes d’intelligence artificielle dans la prévention des violences.
Au-delà de ce cas précis, le Canada prévoit de revoir sa législation sur la haine en ligne et l’encadrement des chatbots d’intelligence artificielle. Le gouvernement souhaite examiner si les règles actuelles sont suffisantes pour répondre aux risques liés à l’usage de ces technologies, alors que l’opinion publique s’interroge sur leur rôle potentiel dans des actes criminels.
