当前位置:首页 > 技术分析 > 正文内容

Wiz公布2025AI安全现状:DeepSeek采用激增催化自托管AI,但数据安全风险令人担忧 | 企服国际观察

ruisui882个月前 (02-24)技术分析11

就在DeepSeek引发美国科技界焦虑与“双标”行为之际,美国增长最快的云安全初创公司Wiz旗下安全研究团队也在密切关注DeepSeek是否存在安全风险问题。过去一年,Wiz已经报告了多个人工智能大模型项目存在的安全漏洞。1月29日,Wiz报告称DeepSeek的大量敏感数据无意中暴露在开放互联网上。其团队称,在Wiz发出警报后,DeepSeek很快对这部分数据进行了保护。

Wiz安全研究员在博客中写道,随着人工智能平台被嵌入到全球拥有高度敏感数据的关键基础设施组织和企业中,安全性变得越来越重要。他警告说,组织可能经常急于采用DeepSeek等初创公司提供的人工智能工具和服务,而忽视了安全性。

结合近DeepSeek遭受诸多网络安全攻击的情况,AI安全正演变为更为广泛的话题。

Wiz公布了2025年云端人工智能使用的安全报告,报告基于数十万个公共云账户的样本量,重点分析了当前阶段人工智能的变化及发展趋势。

2024年,第三方托管和自托管的AI工具的采用速度都非常快,其中有超过70%的AI服务基于云上部署。并且,许多企业或组织处于早期采用阶段,32%部署了不超过10个的云服务实例,且倾向于实验而非大规模生产使用。而到了今年,这一数字均有所提升。其中,74%的组织基于第三方托管AI,85%的组织两种部署方式均有。这表明AI的研发和投入热情保持稳定。

报告同时分析了中国大模型产品DeepSeek自发布以来带来的AI市场增量。得益于DeepSeek-R1的发布,仅在今年1月,基于自托管AI模型进行开发的企业或组织就增加了一倍多,达到7%。

不过,Wiz对DeepSeek监测并发现其数据库存在的敏感数据泄露。“DeepLeak”,一个属于DeepSeek的可公开访问的ClickHouse数据库,它暴露了高度敏感的信息,包括用户的聊天记录、密钥和敏感的内部信息,以及超过一百万行的日志流,并允许完全控制数据库操作。

除此之外,Wiz还报告,过去12个月中,已经出现了诸多人工智能应用带来的网络安全风险。

英伟达AI高危漏洞,去年10月被披露的英伟达容器工具包(NVIDIA Container Toolkit)漏洞,可被攻击者利用实现容器逃逸,从而获得对AI主机系统的完全访问权限,执行命令或窃取AI系统的敏感数据。超过35%的云环境面临威胁,对大量AI应用程序和环境带来了严重威胁。

“SAPwned”,于去年7月被披露的SAP AI Core漏洞,包括能被用于绕过网络限制、泄露AWS凭证(Token)、暴露用户的文件、入侵Docker存储库及组件服务器、暴露Google的访问凭证及用户帐密数据。这些漏洞可能允许恶意攻击者接管服务并访问客户数据。

“Probllama”,开源AI基础设施项目Ollama中一个易于利用的远程代码执行漏洞。Ollama是用于在Windows、Linux和macOS设备上进行本地封装、部署以及运行大语言模型的服务。

Hugging Face赫赫有名,但依然存在可能允许黑客通过恶意模型进行跨租户攻击的情况。同样,另一款开源机器学习平台Replicate也被发现被恶意模型攻击的弱点。如果没有适当保护,将对平台客户数据造成重大风险。

上述这些漏洞由Wiz安全研究团队发现,并进行了报告。相关漏洞主体单位先后确认了其漏洞,并进行了安全修复。

为此,报告指出,尽管人工智能软件带来了巨大机遇,但也带来了严重的风险,从早期关注的研发和采用,也必然会过渡到标准和治理的问题上。

以下为钛媒体摘录的此次报告的五个关键要点。

一、DeepSeek用户激增

1月份,在全球范围内属于最新参与者的DeepSeek,用户使用量翻了一番。

1月20日,DeepSeek-R1发布,仅在HuggingFace上线以来就达到13万次的下载量。其中,采用AI自托管的企业组织中就有7%正在使用DeepSeek开发的系列模型,其中又约有4%使用DeepSeek-R1模型。凭借其成本效益和快速的创新步伐,DeepSeek迅速获得了广泛关注。

报告还指出,目前更多的企业组织使用的并非官方调用接口使用模型。

二、OpenAI仍保持占有率领先

上述图表列出了超过20款的大模型,但研究发现,超过一半的组织仍会调用OpenAI的接口。

首先,基于本地或私有云自托管AI模型的企业组织比例上升到75%,去年这一数字只有42%,其增长的主要原因在于第三方软件中AI的采用增加(包括用于特定任务的AI和机器学习系统)。

此外,67%基于云环境调用的是OpenAI或Azure OpenAI接口,高于去年的53%。排名前五的还有Pytorch(50%)、ONNX Runtime(46%)、Hugging Face Transformers(45%)和Tiktoken(43%)。

三、开源与闭源AI之争

开源与闭源AI模型并非对立。

最近火热的DeepSeek-R1,阿里Qwen等属于开源模型,OpenAI在GPT-3及以后则采用了闭源模式。尽管OpenAI和Anthropic属于闭源模型模型提供商,但其也会有一定开源动作,如OpenAI的Tiktoken是一款开源快速分词工具。同样,开源工具链Langchain也会提供付费平台。Vertex AI可以让用户在各个开源闭源模型间进行选择。

报告预测,开源模型的应用可能会呈爆炸式增长,并且会具有一定持久力。比如另一款开源模型Meta的Llama,其使用率已经从18%增长到了35%。

四、自托管的AI会越来越受欢迎

基于API与自托管的AI模型,是企业采用大模型的两种常见方式,但后者相对来讲在模型定制和隐私性方面更有优势。

与去年相比,自托管的AI模型采用率有所提高。在选择这一方式的企业组织中,最受欢迎的则是BERT。BERT于2018年由谷歌提出,奠定了NLP领域预训练大模型的基调。直到目前,在最流行的模型排行中,BERT仍在稳固其主导地位,从49%增长到74%,值得关注的是,Mistral AI的Le Chat,阿里Qwen2成为新的竞争者。

五、AI托管服务采用趋于稳定

-托管AI是由第三方提供商提供的托管式端到端服务,使企业能够高效地开发、部署和管理人工智能/机器学习解决方案。

使用托管AI服务的云环境同比去年增长了4%个百分点。目前,超过85%的组织正在使用托管或自托管AI服务/工具。过去一年,使用托管AI的企业组织,从70%上升到74%,其实验或研发AI的热情持续且稳定。

总结

Wiz认为,DeepSeek有望带来重大变革,并将推动创造力、竞争、速度及诸多新机遇的涌现。然而,随着其应用的日益广泛,组织也面临着治理、安全及成本管理等多重挑战。AI工具的迅速引入往往缺乏统一标准,导致可见性、风险管理和责任使用等方面的问题凸显。

为此,Wiz指出,创新不应以牺牲风险为代价,在DeepSeek及其他AI供应商中发现的重大漏洞,凸显了对强化AI安全性的迫切需求。随着自托管AI的加速采用,企业组织必须将网络安全工作摆在更优先位置,以应对风险,特别是数据泄露和云环境中未经授权的AI使用风险。(本文首发于钛媒体APP,作者 | 杨丽,编辑 | 盖虹达)

扫描二维码推送至手机访问。

版权声明:本文由ruisui88发布,如需转载请注明出处。

本文链接:http://www.ruisui88.com/post/2220.html

分享给朋友:

“Wiz公布2025AI安全现状:DeepSeek采用激增催化自托管AI,但数据安全风险令人担忧 | 企服国际观察” 的相关文章

「干货」通俗易懂的Deno 入门教程

作者: semlinker转发链接:https://mp.weixin.qq.com/s/2eqRTsf_z7Bcs6dziXe73Q一、Deno 简介Deno 是一个 JavaScript/TypeScript 的运行时,默认使用安全环境执行代码,有着卓越的开发体验。Deno 含有以下功能亮点:默...

Gitlab+Jenkins通过钩子实现自动部署web项目,图文详细教程

扩展参考:Jenkins+Gitlab通过脚本自动部署回滚web项目至集群 一:基础环境介绍及准备1):Gitlab服务器:ubuntu 192.168.152.131 ---参考搭建:Linux安装gitlab,docker安装gitlab教程2):Jenkins服务器:ubunu 192.168...

掌握版本控制:Git的那些常见用法与技巧

Git作为现代开发中最常用的版本控制系统,它的普及和高效性使得程序员几乎每天都在与它打交道。无论是个人项目,还是团队协作,Git都能帮助我们追踪代码的修改历史,保证代码版本的管理井井有条,并在多人协作时有效地避免冲突。本文将分享一些常见的Git用法与技巧,帮助你更好地掌握Git的强大功能,并提升你在...

7 招教你轻松搭建以图搜图系统

作者 | 小龙责编 | 胡巍巍当您听到“以图搜图”时,是否首先想到了百度、Google 等搜索引擎的以图搜图功能呢?事实上,您完全可以搭建一个属于自己的以图搜图系统:自己建立图片库;自己选择一张图片到库中进行搜索,并得到与其相似的若干图片。Milvus 作为一款针对海量特征向量的相似性检索引擎,旨在...

你感动了吗?佳能超规格镜头 RF 24-105mm F2.8深度测评

如果要你选一支用作多题材创作的挂机镜头,那我相信很多人会选择24-105mm这个焦段的镜头。作为一支可以实现从广角到长焦的变焦镜头,24-105mm有着丰富的焦段选择。只是基于镜头体积以及光学结构上的限制,此前的24-105mm镜头只能恒定在F4的光圈。而佳能打破了这一限制,将实用焦段和恒定光圈完美...

Vue页面传参详解

一、两种方式方法1:name跳转页面this.$router.push({name:'anotherPage',params:{id:1}})另一页面接收参数方式:this.$route.params.id示例:控制台展示:方法2:path跳转页面this.$router.push(...