王皓：为人工智能发展筑牢安全堡垒

长沙晚报掌上长沙9月15日（全媒体记者 朱泽寰 实习生 林佳）“随着生成式人工智能技术的快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。”9月15日，2023世界计算大会上，西安电子科技大学华山学者领军教授、博导王皓表示，在发展人工智能的同时，更应该协同发展网络和信息数据技术，为人工智能产业高质量发展保驾护航。

据统计，仅今年上半年与大模型直接相关的融资事件超20起，国内现已发布的各类大模型数量超过100个，呈现出“百模大战”的态势。

“大模型的蓬勃发展，也为一些安全漏洞提供了‘温床’。”王皓表示，在8月份，ChatGPT、Bard等聊天机器人暴露出的“奶奶漏洞”就证明了这样的事实，只需要通过提示让这些聊天机器人扮演用户已故的祖母，便能欺骗它们在讲睡前故事的过程中透露大量限制信息，甚至是手机IMEI密码或Windows激活秘钥。

当前，我国已出台了如《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等相关政策法规来规正人工智能产业的健康发展，但政策法规之余还需技术的助力。

“西安电子科技大学在网络和信息安全领域拥有雄厚的产业基础和技术优势，综合实力跻身全国第一方阵。”王皓表示，作为“两芯一生态”与超级计算机的策源地，长沙还拥有45个国家级先进制造业集群中唯一的“计算”产业集群，发展先进计算产业，长沙有基础、有优势，希望能有机会同长沙各计算产业企业与机构院校，进行深度合作，共同筑牢人工智能产业高质量发展的安全堡垒。