“数字员工”不安全？“湘江行动”给出AI安全产学研协同发展方案

长沙晚报掌上长沙8月19日讯（湘江早报全媒体记者 柯鸣 通讯员 高涵）“9秒内自主删除生产库和备份？”这不是科幻电影，而是企业AI智能体运行中真实发生过的事故。8月18日，2026北京网络安全大会（BCS）长沙站“守御智体风险 筑牢AI安全”高峰论坛在湘江新区举行，近200名政产学研代表到场，共同探讨AI智能体的安全风险与应对之策。

此次高峰论坛上，不仅集中展示了智能体防护平台、AI安全网关及安全运营数字员工等六大前沿落地方案，更迎来了重磅的“湘江行动”。湖南奇安信科技有限公司（简称“湖南奇安信”）分别与湖南大学、湖南师范大学、数字湖南有限公司签署战略合作，共建AI安全联合实验室、攻关智能网联数据安全、打造安全运营智能体，打通AI安全科研攻关、成果转化与全省数字化安全运营链路，推动湖南AI安全产学研协同发展迈上新台阶。

活动现场，行业专家们聚焦AI应用场景下的各类安全风险，围绕AI智能体全生命周期安全防护体系、政企AI调用的统一安全管控等方向展开深度解读，分享立足各行业AI应用实践，为政企单位防范AI风险提供参考思路。

“AI应用越来越广泛，很多企业里出现了数字员工，但安全隐患确实不少。”湖南奇安信公司副总经理申杰伟介绍，AI智能体的安全风险包括外部提示词注入攻击、训练数据投毒、插件与技能模块安全隐患，以及企业内部AI资产不清导致的攻击溯源难等风险，这让许多企业在AI规模化应用上遭遇一定阻碍。

申杰伟提出，要打造针对智能体的“安全锁”，首先要能够对输入输出内容进行安全过滤，抵抗提示词注入、工具投毒等攻击；技能和插件必须要安全检查才能上线。同时，对AI的权限进行精细化管理，划定AI的行为红线，并对AI推理从用户输入到模型响应，再到Agent推理，工具调用，最后到输出结果等全链条都有审计、能溯源。

谈及AI对网络安全行业的影响，申杰伟说：“可以用天翻地覆来形容。”攻击门槛大幅降低，漏洞挖掘从过去的3-7天压缩到分钟级甚至几十秒，“网络安全从人与人的对抗，进入到了AI与AI的对抗时代。”他介绍，AI安全机器人可7×24小时监控，自主研判威胁并处置，平均可节省80%机械重复类工作。

本次活动由长沙市国链安全可靠计算机产业促进中心联合指导，湖南奇安信科技有限公司牵头承办。