齐向东谈ChatGPT数据安全挑战：会让数据在使用中“被动”泄露

ChatGPT掀起的人工智能热潮仍在继续，在数字中国建设峰会期间，奇安信集团董事长齐向东对TechWeb表示，ChatGPT是人工智能技术的代表性应用，它依托大数据给社会生产生活带来了很多便利，但同时也给数据安全带来了全新的安全挑战。主要有三个挑战：

一是降低了网络犯罪门槛，加剧了数据遭遇外部攻击的风险。过去，高水平的黑客只是一小部分，人工智能技术能让黑客的水平跃升，相当于给了普通人一本“武林秘籍”，让不懂代码、不懂技术的普通人，也能成为黑客。恶意攻击代码和钓鱼攻击变得“唾手可得”，加大了数据安全风险。

二是增加了数据泄露途径，会让数据在使用中“被动”泄露。人工智能工具是一件趁手的办公利器，能极大提升工作效率。但当员工使用ChatGPT类工具，向这些工具“投喂”数据时，就造成了企业敏感信息、商业机密和其他数据泄露风险。有安全公司调查，2.3%的员工会将公司机密数据粘贴到ChatGPT中，企业平均每周向ChatGPT泄露机密材料达数百次。

三是信息识别成为难题，深度伪造攻击逐渐流行。利用人工智能技术，犯罪分子不仅可以编写出更贴近受害人的工作环境，的钓鱼邮件，提高网络犯罪的得手率。还能通过伪造信息和声音对公众进行误导，一张伪造的图片、一段伪造的视频，都可能引起轩然大波，对数据安全造成巨大威胁。

齐向东指出，奇安信是网络安全领军企业，在数据安全防护领域实现领跑，目前已经开始深入布局人工智能模型安全。我们基于海量知识和大数据，在深度伪造、深度鉴伪等技术方面取得了重大突破，能准确识别多种AI伪造技术生成的虚假图片和视频。未来，奇安信会继续开展技术攻关，进一步发挥安全防护专长，维护好人工智能时代的数据安全。