周鸿祎:AI安全需要“以模制模”

　　证券时报记者 王小伟

　　作为全国政协委员，360集团创始人周鸿祎今年第八年参加全国两会。他关注的方向是人工智能和安全两大主题。

　　周鸿祎认为，人工智能将重塑所有行业，企业应该从找场景、打造专业知识库、打造智能体、接入办公流程等四个方面拥抱人工智能。他呼吁，国家对大模型发展实行柔性监管，更加包容审慎。对于人工智能发展同步伴生的安全问题，周鸿祎认为，传统网络安全已经无法应对新挑战，应由既懂安全又懂AI的企业牵头，以模制模，通过打造安全大模型来解决大模型的应用安全问题。

　　企业拥抱AI“四步走”

　　在周鸿祎看来，人工智能将重塑所有行业，每个行业都能找到降本增效的地方；对个人来说，则可以拥有自己的专业助手。“过去我们软件、APP经常是接收指令，完成一个功能。未来人工智能的模式，会像跟一个顾问一样交流，倾诉问题，表达想法，通过多轮讨论，帮个人找到答案或启发。”

　　产业层面的改变会更大。他以医疗医药产业举例分析说，医院运营等传统行业，人工智能可以通过加速数字化改造和智能化升级，来提升效率，比如使病人候诊的时间缩短很多倍。生物制造等新兴产业，用人工智能可以成为研究工具和范式。基因抗癌等领域则属于AI for Science（科学智能），用大模型这种算法模式套到生物学里，变成生物学研究的工具。

　　“AI的应用范围非常多，成为个人助理只用到它5%的功能；更重要的是和产业结合。”

　　周鸿祎建议，企业应该从四个方面拥抱人工智能。第一，找场景，需要大模型来解决效率低、成本高、体验差的问题。第二，需要打造专业知识库，在企业的数据库里、老板的脑子里、大家的开会记录里，都有很多隐藏的知识。第三，要打造智能体，比照数字员工。第四，通过企业的工作流软件把智能体接到企业的OA办公流程里，企业应用才能做起来。

　　今年春节期间，DeepSeek在全球异军突起，成为了AI发展史上的重要里程碑。在周鸿祎看来，DeepSeek最大的成果不仅是让中国大模型在技术上赶上了美国大模型，同时在中国用户、企业和政府中做了一次人工智能的普及教育。由于DeepSeek免费、开源等特性，政府企业纷纷开始采用DeepSeek在内部降本增效，加速了中国爆发AI产业革命的步伐。

　　“DeepSeek对中国AI产业带来最大的影响，是让产业玩家各自归位，否则大家一窝蜂地‘百模大战’，等于都在造轮子。倘若都希望做通用大模型，都做AGI，谁的卡也不够，谁的数据也不足。”周鸿祎说，如今，连腾讯、百度都宣布引入DeepSeek。DeepSeek做得好，就由它来做基座模型；其他厂商就不用重复造轮子，不用重复耗费算力；云服务商也不用自己开发算力，可以直接用DeepSeek做服务，而且价格可以做得很便宜，因为没有研发成本。他判断，未来很多小应用都会做起来。

　　周鸿祎呼吁，就像“避风港原则”曾带给互联网巨大的产业发展机会，国家对大模型发展实行柔性监管，更加包容审慎，这样中国人工智能才能借助DeepSeek的机会实现更长远的发展。

　　“以模制模”应对安全挑战

　　今年两会提案中，周鸿祎还关注到“硬币的另一面”。

　　“DeepSeek作为基座模型，存在着幻觉、提示注入攻击等问题。同时，大模型要在企业内部真正发挥作用，还需要连上企业的专业知识库、打造智能体，调用企业各种IT系统，这进一步加剧了安全风险。”

　　当大模型渗透率提升时，应用安全问题也迫在眉睫。周鸿祎认为，网上现在对DeepSeek等大模型安全问题，还是当成一个传统IT设备看待。这个思路是过时的，传统网络安全的解题方法解决不了人工智能的安全问题。

　　因此，他建议，应由既懂安全又懂AI的企业牵头，以模制模，通过打造安全大模型来解决大模型的应用安全问题。

　　在周鸿祎看来，人工智能的安全问题包括多个层面。比如，基座模型的安全问题，是如何在AI领域防止幻觉。“DeepSeek用互联网的知识库来做校正、企业里应用连上专有知识库校正等，一部分幻觉可以通过知识库来解决。同时，大模型很容易被PUA，这是比较严重的问题，是基座模型的问题。”

　　再比如，大模型应用需要建立知识库，尤其在企业应用，单靠提示词是解决不了的。而一旦把企业很重要的资料放到知识库里喂给大模型了，大模型又会如实地把知识库里能看到的资料告诉任何人，这就会存在数据安全问题。

　　智能体的安全、知识数据的安全、客户端的安全、基座模型的安全，构成人工智能安全的新领域。周鸿祎认为，解决的关键问题是“以模制模”——专门做安全大模型，用聪明的大模型智力能力去管理知识库的使用，去管理智能体的调用，去管理基座模型的“胡说八道”和对人的“PUA攻击”。

　　“幻觉是一把双刃剑，是大模型具备真智能的体现，是走向AGI的基础，它让大模型体现出更多的创造性和想象力，能够在科研领域发挥重要作用。”周鸿祎强调，大模型幻觉很难消除，但已经通过多个大模型交叉验证、搜索矫正以及企业知识库比对等方式进行了纠正。在大模型产业高速发展的过程中，不发展是最大的不安全，所以不能因为大模型的幻觉问题就因噎废食。

　　让技术转化为新质生产力

　　“应该正确认识AI安全问题，不能夸大也不能忽视。”周鸿祎强调，不发展是最大的不安全，必须要抓住AI这次工业革命的机会，提升生产力，包括让科技普惠在每个人身上。

　　对于网信安全产业竞争格局，周鸿祎表示，一直以来，我国安全行业内卷严重，很多厂商只是一味的卖硬件软件，客户也无法得到想要的安全服务，致使行业面临普遍性经营困境，造成客户和厂商双输的局面。同时，各种高级别攻击日益严重，企业不只需要一个“安全盒子”，更需要高级网络安全专家协助进行数据分析研判、数据追踪及事件处置。

　　为了解决这个困境，周鸿祎认为，通过SaaS的方式来为更多企业提供安全服务，企业不仅可以直接体验安全服务的效果，投入成本也降到了五分之一甚至十分之一。因此，周鸿祎在今年两会上也会呼吁国家从政策上支持采购安全服务，特别是鼓励采购SaaS化安全服务，实现安全的普惠。

　　“筑牢网络安全根基，是为大模型发展铺路；而解决AI应用安全与幻觉问题，则是让技术真正转化为新质生产力。”周鸿祎表示。

　　在记者采访中，周鸿祎还谈到了对360AI产品的未来规划。

　　他介绍，自己一直都有危机感，搜索本来就是一个巨头林立的赛道，公司要想办法把纳米AI搜索做得比DeepSeek好。“公司产品引入了DeepSeek以及国内其他16家一共50种模型，通过这些模型的协作，有的擅长改写，有的擅长总结，有的擅长推理和分解任务。DeepSeek春节期间7天新增用户级别以亿计算，我们15天涨了2000万手机用户。现在PC端360的产品流量很大，我们会耐心地把PC上再转出来至少上千万用户。有了很好的基础之后，剩下的问题就是要仔细打磨用户的体验和把各种深度的工具做好。”