欢迎访问智慧医疗网 | 网站首页
 
当前位置:首页 > 信息安全

国家安全部提醒:外包成数据泄密通道,大模型落地须过安全关

发布时间:2025-04-01 来源:奇安信集团 浏览量: 字号:【加大】【减小】 手机上观看

打开手机扫描二维码
即可在手机端查看

3月28日,国家安全部公众号发文提醒,“服务外包在带来便利的同时,也暗藏着失泄密隐患。机关、单位务必保持高度警惕,采取有效措施加以防范。”

国家安全部列举了若干外包引发数据泄密的案例。例如某公司不具备涉密档案数字化资质,骗取多个机关单位档案管理部门信任后,承包档案资料数字化业务。该公司员工蒋某利用工作便利,先后窃取、复制档案资料中几十份涉密文件并带回家中,为谋取私利,又将其中几份放在互联网上出售,致使国家秘密泄露。此外还有外包保洁员主动投靠境外情报机关,造成重大失泄密的案例。

微信图片_20250401105551.png

无独有偶,就在3月27日的2025BCS政企数字化转型及数据安全专题研讨会上,奇安信集团董事长齐向东表示,在大模型时代,数据安全不是“选择题”,而是“必答题”,企业需要更加关注小数据安全、更加关注内鬼防范,更加关注外包管理。“外包人员虽然游离于政企单位的直接管控体系之外,但出于业务需要,其数据接触权限也很大。由于监管难度高且更容易受到利益诱惑,外包人员有可能利用工作便利做出危害数据安全的行为。”


01

大模型催生海量外包需求,数据安全风险激增




国家安全部指出,随着经济社会的快速发展,服务外包成为众多单位优化资源配置、提升运营效率的重要手段。尤其今年以来,在DeepSeek、通义千问的开源和免费商用浪潮下,大模型应用正在政务、金融、运营商、医疗、教育等各个行业加速落地。与此同时,业界对大模型数据标注等岗位的人力需求正在攀升。


咨询公司Grand View Research的数据显示,2022年全球数据标注的市场价值为22.2亿美元,预计到2030年将增长到171亿美元。在这股AI浪潮下,数据标注已经催生大量的外包人力需求。
微信图片_20250401105626.png


奇安信人工智能专家指出,数据标注是大模型在垂直场景落地应用中不可或缺的一环,主要是对图片、语音、文本、视频等数据进行处理,标记对象的特征,生成满足机器学习训练要求的可读数据编码。然而数据标注工作量大、繁琐且高负荷,外包人员成为很多企业的首选。

然而,外包人员的广泛使用,给企业如火如荼的大模型应用落地浪潮带来了数据泄密隐患。例如某大型金融公司在部署了DeepSeek通用大模型之后,需要利用公司积累的海量金融信贷风控数据和专业知识库,进行数据标注、运维管理、预训练微调等操作,其中很多环节需要外包人员来完成,这就意味着公司大量内部敏感数据直接暴露给外包人员,而相关的数据安全保护措施却没有与之匹配,一旦泄密,将对企业经营造成致命打击。


02

零信任架构+安全空间,多管齐下封堵外包数据泄密


 


“大模型等新兴技术的应用往往伴随着新的风险和挑战。特别是在数据处理和管理方面,任何疏忽都可能导致严重的后果。”齐向东表示,大模型在训练和应用过程中会引入更加复杂的人员角色,其中包括大量外包人员,这就要求政企单位需要加快推动零信任架构的普及和安全空间的落地。

奇安信推出的零信任网络访问系统(ZTNA),可以和天擎形成深度融合,进一步增强内网终端对大模型核心各组件的管控、访问能力,能够在登录阶段、访问阶段获取到终端安全评分(木马病毒、漏洞检测等),避免不安全终端接入零信任系统,防止对业务应用访问,缓解恶意终端访问和数据泄露等安全风险。


微信图片_20250401105629.png


动态访问控制是零信任网络访问系统的核心能力,它通过用户属性,环境属性,行为属性,终端属性,应用属性多维度属性组合成准入策略和访问策略,根据采集到的最新属性信息与策略规则进行匹配,如果当前属性与控制策略规则相匹配,则根据控制策略对用户准入和访问实施动态访问控制。

为了对外包人员对企业内部数据访问进行更加精细化的管控,奇安信创新提出了安全空间的设计理念。安全空间对企业内部系统进行环境隔离,为模型开发、数据标注等终端内提供内存、磁盘数据加密、数据隔离、流转合规等数据安全保护,能够在人员不可信、终端不可信的前提下,允许核心数据被可信查看、加工和处理,但不能向外流转和传输,从而有效避免数据被窃取风险。

通过零信任架构+安全空间的组合使用,奇安信可以为大模型客户提供端、网、业务、文件、数据全周期访问控制闭环,解决大模型访问过程中的模型代码、模型数据落地等问题,保障大模型数据安全。



结束语


数据是人工智能的核心,数据安全是人工智能大模型应用的核心关切,而外包人员造成的数据泄密隐患仅仅是大模型安全风险的冰山一角。可以预见的是,垂直大模型在激活数据价值的同时,也打开了潘多拉魔盒,因高价值数据泄露导致“一失万无”的情况将成为企业的头号挑战。企业要在AI时代行稳致远,数据安全无疑是底线和基石。


特别声明:智慧医疗网转载其他网站内容,出于传递更多信息而非盈利之目的,同时并不代表赞成其观点或证实其描述,内容仅供参考。版权归原作者所有,若有侵权,请联系我们删除。

凡来源注明智慧医疗网的内容为智慧医疗网原创,转载需获授权。


上一篇:无 下一篇:医患共筑网络信息安全防线

智慧医疗网 © 2022 版权所有   ICP备案号:沪ICP备17004559号-5