ITBear旗下自媒体矩阵:

DeepSeek推动自托管AI热潮,数据安全风险如何破解成焦点?

   时间:2025-02-12 13:55:55 来源:ITBEAR编辑:快讯团队 发表评论无障碍通道

近期,美国科技界对DeepSeek这一新兴的人工智能大模型表现出了复杂的情绪,一方面对其技术潜力寄予厚望,另一方面则对其可能带来的安全风险感到焦虑。与此同时,Wiz,这家美国增长最快的云安全初创公司,也在密切关注DeepSeek的安全性。Wiz在过去一年中多次揭露了人工智能大模型项目的安全漏洞,最近的一次是发现DeepSeek的大量敏感数据意外暴露在互联网上。Wiz团队迅速发出警报,DeepSeek随后保护了这些数据。

Wiz的安全研究员在博客文章中强调,随着人工智能平台被越来越多地嵌入到处理高度敏感数据的关键基础设施中,安全性问题变得尤为突出。他们警告说,许多组织在急于采用DeepSeek等初创公司提供的人工智能工具和服务时,往往忽视了安全性这一重要环节。

DeepSeek近期遭受的多次网络安全攻击,更是将AI安全这一话题推向了风口浪尖。Wiz发布了一份关于2025年云端人工智能使用安全的报告,该报告基于数十万个公共云账户的样本量,深入分析了当前人工智能的发展趋势。

报告指出,2024年,无论是第三方托管还是自托管的AI工具,都迎来了极快的增长速度。超过70%的AI服务是基于云部署的。许多企业或组织仍处于早期采用阶段,32%的组织部署的云服务实例不超过10个,且更倾向于实验性质而非大规模生产使用。然而,到了今年,这些数字都有所提升,74%的组织采用第三方托管AI,85%的组织则同时采用两种部署方式,这表明AI的研发和投入热情依然高涨。

特别中国大模型产品DeepSeek的发布,对AI市场产生了显著影响。得益于DeepSeek-R1的发布,今年1月,基于自托管AI模型进行开发的企业或组织数量增加了一倍多,占比达到7%。

然而,Wiz在对DeepSeek的监测中发现,其数据库存在敏感数据泄露的问题。一个名为“DeepLeak”的公开可访问的ClickHouse数据库,暴露了包括用户聊天记录、密钥、敏感内部信息以及超过一百万行的日志流等高度敏感信息,甚至允许完全控制数据库操作。

Wiz还报告了过去12个月中人工智能应用带来的诸多网络安全风险。例如,去年10月被披露的英伟达容器工具包漏洞,可被攻击者利用实现容器逃逸,从而获得对AI主机系统的完全访问权限,对大量AI应用程序和环境构成了严重威胁。还有SAP AI Core漏洞和Ollama中的远程代码执行漏洞等,都暴露了人工智能领域的安全隐患。

这些漏洞均由Wiz安全研究团队发现并报告,相关漏洞主体单位也先后确认了漏洞并进行了安全修复。报告强调,尽管人工智能软件带来了巨大的机遇,但同时也带来了严重的风险。从早期的研发和采用阶段,必然会过渡到标准和治理的问题上。

在Wiz的报告中,还提到了几个关键要点。首先,DeepSeek的用户数量在1月份翻了一番,特别是在HuggingFace上线后,DeepSeek-R1的下载量达到了13万次。其次,OpenAI在市场占有率上依然保持领先,超过一半的组织仍会调用OpenAI的接口。开源与闭源AI模型之间的竞争也日益激烈,但并非完全对立。最近火热的DeepSeek-R1和阿里Qwen等属于开源模型,而OpenAI则采用了闭源模式。然而,即使是闭源模型提供商,也会有一定的开源动作。

报告还指出,自托管的AI模型越来越受欢迎。与去年相比,自托管的AI模型采用率有所提高。在选择这一方式的企业组织中,BERT是最受欢迎的模型之一。BERT于2018年由谷歌提出,至今仍在NLP领域占据主导地位。AI托管服务的采用也趋于稳定,使用托管AI服务的云环境同比去年有所增长。

Wiz认为,DeepSeek有望带来重大变革,推动创造力、竞争、速度及诸多新机遇的涌现。然而,随着其应用的日益广泛,组织也面临着治理、安全及成本管理等多重挑战。AI工具的迅速引入往往缺乏统一标准,导致可见性、风险管理和责任使用等方面的问题凸显。因此,Wiz强调,创新不应以牺牲风险为代价,特别是在DeepSeek及其他AI供应商中发现的重大漏洞,凸显了对强化AI安全性的迫切需求。企业组织必须将网络安全工作摆在更优先的位置,以应对风险。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version