人工智能已成为法国企业不可或缺的工具。从文档翻译和决策支持到复杂任务的自动化，其应用范围正在迅速扩大，但往往发展过快，缺乏清晰的框架。然而，在这些看似显著的生产力提升背后，却隐藏着诸多棘手的问题。内部安全部门正就一些可能直接泄露数据、战略乃至企业生存的实践发出警告。在近期一份关于经济干预风险的报告中，法国内部安全总局（DGSI）描述了法国企业面临的多种情况。这些情况都指向一个共同的主题：企业在缺乏对中长期后果的真正理解的情况下，就仓促地采用人工智能工具，而且这些工具往往是消费级产品。
首批发现的风险之一与敏感数据的处理有关。
在一些公司，员工已经养成使用在线人工智能工具翻译或改写专业文件的习惯。合同、内部备忘录、技术报告和财务信息就这样被复制并传输到外部平台，而事先并未获得管理层的批准或法律监督。这些看似无害的做法，实际上却导致了公司战略信息的意外泄露。许多人工智能服务的本质加剧了这一问题，因为它们会利用用户提供的内容来改进模型。传输的数据可能存储在国外的服务器上，受制于非欧洲法律，而这些法律有时与法国关于保密性和商业秘密保护的要求不符。一旦信息传播开来，任何内部纠正措施都无法真正挽回局面。
除了数据之外，DGSI 还指出决策依赖性风险日益增加。
在一些快速发展的组织中，人工智能工具已被用于评估业务合作伙伴，分析其信用度、声誉以及相关的法律风险。由于时间和资源的限制，这些建议有时未经彻底的人工审核就被采纳。战略决策几乎完全依赖于自动化分析。这种过度授权削弱了公司治理。人工智能系统基于统计概率生成结果，而这些结果可能包含偏差、近似值或误差。它们的内部运作机制仍然高度不透明，使得人们难以完全理解它们提出的结论。缺乏严格的审查，管理层可能会失去对那些将对组织未来产生深远影响的决策的控制权。
另一个更引人注目、同样令人担忧的危险是人工智能的欺诈性用途。
安全部门报告称，有人试图利用语音和图像合成技术进行诈骗。最近发生的一起案例中，某工业园区的经理接到一个看似来自其老板的视频电话。对方的面部、声音和行为举止都显得十分可信。然而，对方紧急要求转账的举动引起了经理的怀疑，从而避免了金融诈骗。分析证实，这是一段由人工智能生成的深度伪造视频。这些案例揭示了一个如今已成定局的现实：人工智能不再仅仅是提升效率的工具，它也正在成为安全漏洞的来源。如果没有清晰的框架、团队培训以及使用控制，人工智能可能会泄露商业机密、削弱决策能力，并为复杂的操纵行为铺平道路。对于法国企业而言，问题不再是是否使用人工智能，而是如何在不损害自身安全、主权和信誉的前提下将其融入运营。
