当前位置: 首页 » 资讯 » 新科技 » 正文

Wiz公布2025AI安全现状:DeepSeek采用激增催化自托管AI,但数据安全风险令人担忧 | 企服国际观察

IP属地 北京 编辑:柳晴雪 钛媒体APP 时间:2025-02-12 14:03:25

就在DeepSeek引发美国科技界焦虑与“双标”行为之际,美国增长最快的云安全初创公司Wiz旗下安全研究团队也在密切关注DeepSeek是否存在安全风险问题。过去一年,Wiz已经报告了多个人工智能大模型项目存在的安全漏洞。1月29日,Wiz报告称DeepSeek的大量敏感数据无意中暴露在开放互联网上。其团队称,在Wiz发出警报后,DeepSeek很快对这部分数据进行了保护。

Wiz安全研究员在博客中写道,随着人工智能平台被嵌入到全球拥有高度敏感数据的关键基础设施组织和企业中,安全性变得越来越重要。他警告说,组织可能经常急于采用DeepSeek等初创公司提供的人工智能工具和服务,而忽视了安全性。

结合近DeepSeek遭受诸多网络安全攻击的情况,AI安全正演变为更为广泛的话题。

Wiz公布了2025年云端人工智能使用的安全报告,报告基于数十万个公共云账户的样本量,重点分析了当前阶段人工智能的变化及发展趋势。

2024年,第三方托管和自托管的AI工具的采用速度都非常快,其中有超过70%的AI服务基于云上部署。并且,许多企业或组织处于早期采用阶段,32%部署了不超过10个的云服务实例,且倾向于实验而非大规模生产使用。而到了今年,这一数字均有所提升。其中,74%的组织基于第三方托管AI,85%的组织两种部署方式均有。这表明AI的研发和投入热情保持稳定。

报告同时分析了中国大模型产品DeepSeek自发布以来带来的AI市场增量。得益于DeepSeek-R1的发布,仅在今年1月,基于自托管AI模型进行开发的企业或组织就增加了一倍多,达到7%。

不过,Wiz对DeepSeek监测并发现其数据库存在的敏感数据泄露。“DeepLeak”,一个属于DeepSeek的可公开访问的ClickHouse数据库,它暴露了高度敏感的信息,包括用户的聊天记录、密钥和敏感的内部信息,以及超过一百万行的日志流,并允许完全控制数据库操作。

除此之外,Wiz还报告,过去12个月中,已经出现了诸多人工智能应用带来的网络安全风险。

英伟达AI高危漏洞,去年10月被披露的英伟达容器工具包(NVIDIA Container Toolkit)漏洞,可被攻击者利用实现容器逃逸,从而获得对AI主机系统的完全访问权限,执行命令或窃取AI系统的敏感数据。超过35%的云环境面临威胁,对大量AI应用程序和环境带来了严重威胁。

“SAPwned”,于去年7月被披露的SAP AI Core漏洞,包括能被用于绕过网络限制、泄露AWS凭证(Token)、暴露用户的文件、入侵Docker存储库及组件服务器、暴露Google的访问凭证及用户帐密数据。这些漏洞可能允许恶意攻击者接管服务并访问客户数据。

“Probllama”,开源AI基础设施项目Ollama中一个易于利用的远程代码执行漏洞。Ollama是用于在Windows、Linux和macOS设备上进行本地封装、部署以及运行大语言模型的服务。

Hugging Face赫赫有名,但依然存在可能允许黑客通过恶意模型进行跨租户攻击的情况。同样,另一款开源机器学习平台Replicate也被发现被恶意模型攻击的弱点。如果没有适当保护,将对平台客户数据造成重大风险。

上述这些漏洞由Wiz安全研究团队发现,并进行了报告。相关漏洞主体单位先后确认了其漏洞,并进行了安全修复。

为此,报告指出,尽管人工智能软件带来了巨大机遇,但也带来了严重的风险,从早期关注的研发和采用,也必然会过渡到标准和治理的问题上。

以下为钛媒体摘录的此次报告的五个关键要点。

一、DeepSeek用户激增

1月份,在全球范围内属于最新参与者的DeepSeek,用户使用量翻了一番。

1月20日,DeepSeek-R1发布,仅在HuggingFace上线以来就达到13万次的下载量。其中,采用AI自托管的企业组织中就有7%正在使用DeepSeek开发的系列模型,其中又约有4%使用DeepSeek-R1模型。凭借其成本效益和快速的创新步伐,DeepSeek迅速获得了广泛关注。

报告还指出,目前更多的企业组织使用的并非官方调用接口使用模型。

二、OpenAI仍保持占有率领先

上述图表列出了超过20款的大模型,但研究发现,超过一半的组织仍会调用OpenAI的接口。

首先,基于本地或私有云自托管AI模型的企业组织比例上升到75%,去年这一数字只有42%,其增长的主要原因在于第三方软件中AI的采用增加(包括用于特定任务的AI和机器学习系统)。

此外,67%基于云环境调用的是OpenAI或Azure OpenAI接口,高于去年的53%。排名前五的还有Pytorch(50%)、onNX Runtime(46%)、Hugging Face Transformers(45%)和Tiktoken(43%)。

三、开源与闭源AI之争

开源与闭源AI模型并非对立。

最近火热的DeepSeek-R1,阿里Qwen等属于开源模型,OpenAI在GPT-3及以后则采用了闭源模式。尽管OpenAI和Anthropic属于闭源模型模型提供商,但其也会有一定开源动作,如OpenAI的Tiktoken是一款开源快速分词工具。同样,开源工具链Langchain也会提供付费平台。Vertex AI可以让用户在各个开源闭源模型间进行选择。

报告预测,开源模型的应用可能会呈爆炸式增长,并且会具有一定持久力。比如另一款开源模型meta的Llama,其使用率已经从18%增长到了35%。

四、自托管的AI会越来越受欢迎

基于API与自托管的AI模型,是企业采用大模型的两种常见方式,但后者相对来讲在模型定制和隐私性方面更有优势。

与去年相比,自托管的AI模型采用率有所提高。在选择这一方式的企业组织中,最受欢迎的则是BERT。BERT于2018年由谷歌提出,奠定了NLP领域预训练大模型的基调。直到目前,在最流行的模型排行中,BERT仍在稳固其主导地位,从49%增长到74%,值得关注的是,Mistral AI的Le Chat,阿里Qwen2成为新的竞争者。

五、AI托管服务采用趋于稳定

-托管AI是由第三方提供商提供的托管式端到端服务,使企业能够高效地开发、部署和管理人工智能/机器学习解决方案。

使用托管AI服务的云环境同比去年增长了4%个百分点。目前,超过85%的组织正在使用托管或自托管AI服务/工具。过去一年,使用托管AI的企业组织,从70%上升到74%,其实验或研发AI的热情持续且稳定。

总结

Wiz认为,DeepSeek有望带来重大变革,并将推动创造力、竞争、速度及诸多新机遇的涌现。然而,随着其应用的日益广泛,组织也面临着治理、安全及成本管理等多重挑战。AI工具的迅速引入往往缺乏统一标准,导致可见性、风险管理和责任使用等方面的问题凸显。

为此,Wiz指出,创新不应以牺牲风险为代价,在DeepSeek及其他AI供应商中发现的重大漏洞,凸显了对强化AI安全性的迫切需求。随着自托管AI的加速采用,企业组织必须将网络安全工作摆在更优先位置,以应对风险,特别是数据泄露和云环境中未经授权的AI使用风险。(本文首发于,作者 | 杨丽,编辑 | 盖虹达)

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新