Avec la prolifération des applications de conversation basées sur l’intelligence artificielle, une étude scientifique met en garde contre les risques liés à une utilisation excessive de ces plateformes controversées.
Le chercheur Daniel Shank, de l’Université du Missouri (États-Unis), explique que « la capacité actuelle de l’IA à se comporter comme un humain et à entretenir des dialogues prolongés ouvre la voie à de nouveaux dangers ».
Dans un article publié dans la revue scientifique Trends in Cognitive Sciences, il affirme qu’il existe « une réelle inquiétude quant au fait que l’intimité artificielle créée par ces applications de conversation pourrait perturber les relations humaines ».
L’équipe de recherche précise que « après des semaines ou des mois d’interactions intensives entre un utilisateur et une IA conversationnelle, celle-ci peut finir par être perçue comme un compagnon de confiance, qui connaît tout de lui et se soucie de ses affaires personnelles ».
L’étude alerte également sur le fait que ces logiciels peuvent provoquer une forme de « confusion mentale » chez certains utilisateurs, ce qui peut se traduire par des réponses inexactes ou incohérentes. Cela représente une source supplémentaire d’inquiétude, car « même des conversations brèves avec l’IA peuvent induire en erreur ».
Les auteurs de l’étude déclarent :
« Si nous commençons à considérer les applications d’IA comme des entités bienveillantes, nous risquons de penser qu’elles agissent dans notre intérêt, alors qu’en réalité, elles peuvent nous conseiller de manière très néfaste. »
Ils concluent que ces plateformes peuvent nuire aux individus en « encourageant des comportements déviants, immoraux ou même illégaux ».
