ITBear旗下自媒体矩阵:

AMD显卡本地部署DeepSeek教程来啦!轻松体验AI大模型

   时间:2025-02-09 19:16:48 来源:ITBEAR编辑:快讯团队 发表评论无障碍通道

近期,DeepSeek凭借其出色的表现吸引了全球范围内的广泛关注,众多企业纷纷加入适配行列,力求为用户提供更加高效的服务。对于AI大模型而言,GPU的加持无疑是提升性能的关键,AMD便是其中的佼佼者。无论是Instinct加速卡,还是Radeon游戏卡,AMD均已实现与DeepSeek的完美适配。

令人振奋的是,用户只需拥有一块AMD RX 7000系列的显卡,便可在本地轻松体验DeepSeek的强大功能。这一便捷性无疑为广大用户打开了一扇通往AI新世界的大门。

想要在本地部署DeepSeek?其实操作异常简单。用户只需访问AMD官网,无论是中文版还是英文版均可,搜索“15.1.1”,进入搜索结果中的第一个页面,下载AMD Adrenalin 25.1.1测试版驱动。完成安装并重启计算机后,便可进行下一步操作。

接下来,用户需访问LM Studio的锐龙专栏(https://lmstudio.ai/ryzenai),下载并安装LM Studio for Ryzen AI安装包。运行软件后,点击右下角的设置按钮(支持中文语言),找到并开启“Use LM Studio's Hugging Face”选项。

返回主界面,点击左侧菜单栏的搜索图标,输入“DeepSeek R1”,便可看到一系列已训练好的DeepSeek模型。用户可根据AMD官方推荐列表选择适合自己的模型。例如,旗舰级的RX 7900 XTX可支持高达32B参数的模型,而主流的RX 7600则支持8G模型。

选择合适的模型后,在主界面上方选中它,并调整“GPU Offload”的数值。不同选项的具体含义,用户可自行搜索或咨询DeepSeek官方。模型加载完毕后,用户便可在本地尽情体验DeepSeek带来的便捷与高效。

AMD Instinct GPU加速卡也已成功集成DeepSeek V3模型,并对SGLang性能进行了优化,支持完整的671B参数。开发者可借助AMD ROCm平台,快速、高效地开发AI应用。具体操作步骤包括启动Docker容器、使用CLI登陆Hugging Face、启动SGLang Server并部署DeepSeekV3 FP8模型等。基准测试结果显示,该方案在准确率和稳定性方面均表现出色。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version