切换到宽版
开启辅助访问
登录
立即注册
搜索
搜索
搜索
首页
Portal
论坛
同城
人才网
工具
菲龙网工具
个人中心
关于我们
每日签到
本地新闻
时事评论
华人世界
中国新闻
新闻视频
国际新闻
娱乐新闻
科技新闻
菲龙广场
房产网
菲龙速聘
二手交易
便民电话
美食餐厅
旅游签证
物流速运
商品买卖
二手车市场
严选
话费充值
便民电话
贺词页面
瀑布流页
汇率查询
APP下载
每日签到
我的任务
道具商店
每日签到
我的任务
道具商店
更改用户名
关于菲龙网
About US
联系菲龙网
活动回顾
加入我们
本版
用户
菲龙网
»
论坛
›
新闻频道
›
科技新闻
›
争相入局!DeepSeek引爆这门“新生意”!“一些服务近期 ...
菲龙网编辑部7
有 744 人收听 TA
150048
主题
150065
回复
176255
积分
收听TA
发消息
加好友
本文来自
科技新闻
订阅
|
收藏
(
2953
)
菲龙网编辑部7发布过的帖子
0/57
上市9个月股价翻10倍,老铺黄金成「新茅台」?丨氪金·大消费
0/61
金价连创新高各路“长钱”入局,险资、养老FOF纷纷加码
0/59
南财观察|违规车辆统筹乱象何时休?
0/57
偏股混合型产品表现领跑,2024年收益冠军持续加仓权益资产丨机警理财日报
0/59
中国人民银行迎来新副行长:货币政策司司长邹澜出任
0/61
1月金融数据前瞻:信贷有望“开门红”,新增社融或超6万亿
0/67
金价创新高!A股黄金股走强
0/59
国家开发银行:2024年超1.5万亿元贷款支持基础设施建设
0/58
南财理财通:洞察趋势,预见未来
查看TA的全部帖子>>
争相入局!DeepSeek引爆这门“新生意”!“一些服务近期已有千人购买”
时间:2025-2-11 09:18
0
49
|
复制链接
|
互动交流
显示全部楼层
阅读模式
直达楼层
马上注册,结交更多好友
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
2025.02.
10
本文字数:2109,阅读时长大约4分钟
作者 |
第一财经 薛路皓
随着DeepSeek持续火爆出圈,人们开始不满足于网页端和APP端上使用DeepSeek,而尝试将DeepSeek进行本地化部署。本地化部署是指将DeepSeek的AI大模型安装到本地计算机内,不依赖网络或云服务。记者搜索视频网站发现,不少用户上传了如何将DeepSeek部署到本地计算机的教程,不少视频浏览量超过100万。
DeepSeek引发本地部署热潮
教人部署DeepSeek也成为了一门生意。记者通过在电商平台搜索“DeepSeek本地部署”发现,不少店铺开辟了DeepSeek本地部署的生意,这些服务单价从几元到几十元不等,其中一些服务近期已有1000人购买。
一位尝试过部署的AI爱好者告诉记者,网络端运行响应速度较慢,并且访问量过大时候,时常出现“服务器繁忙,请稍后再试。”为了获得更好的使用体验,他就尝试采用DeepSeek进行本地部署。据了解,本地部署不需要掌握深厚的编程知识,通过教程按部就班,即可部署成功。
艾媒咨询首席分析师张毅告诉记者:“本地部署支持个人根据需求,对DeepSeek进行一些定制化修改,也是驱动力之一。”张毅补充道,本地部署中个人数据不上云,可满足隐私需要。
DeepSeek发布了不同参数量的模型,小至10亿参数,大至6710亿参数,参数越大所需的计算资源就越大。由于个人电脑手机等设备的计算资源受限,6710亿参数的DeepSeek模型往往无法本地部署。“普通笔记本电脑只能部署10亿参数的版本,如果个人电脑配有好的GPU显卡或较高内存(比如32GB),那么可以跑70亿参数版本的DeepSeek。”上述AI技术爱好者告诉记者。
从本地部署的效果而言,参数越小的版本,大模型的回答质量越差。“我尝试本地部署过70亿参数版本的DeepSeek,运行较流畅,但是回答质量还比云端版本差很多,更小参数版本的效果会更差。”上述AI爱好者表示。
在DeepSeek本地部署的热度下,专门在PC中添加了NPU的AI PC有望迎来销量增长。据了解,华为、联想、戴尔等电脑品牌纷纷推出AI PC,这种新型PC搭载有专门处理本地部署AI大模型计算的处理器芯片,这些处理器芯片均由英特尔、AMD、高通等芯片厂提供。
这些AI PC可在本地部署并流畅运行上百亿参数的AI大模型,例如本次CES 2025年上,AMD就推出了Ryzen AI max系列处理器,称可在电脑本地运行700亿参数AI大模型。不过,配置有该处理器芯片的AI PC售价不菲,据了解,华硕某游戏本价格近1.5万元。另外,也有人质疑,花大价钱买AI PC,进行AI大模型的本地部署,实现功能却和云端AI大模型高度重合,AI PC仅仅是厂商的噱头而已。
企业尝试本地部署DeepSeek
除了个人开启DeepSeek本地部署之外,企业也开始跃跃欲试。蛇年工作日的第一天,蒂姆维澳创始人王加辉发布一条微信朋友圈:“DeepSeek大模型本地电脑部署体验成功,导入煤矿知识安全库进行问答,下一步让它结合工业现场作业。”
蒂姆维澳是一家提供工业管理解决方案的企业,它面向采矿业、石油业等行业,运用AR眼镜和AI软件,为工业现场人员的维修、质检、故障排查,提供实时观察和指导。王加辉告诉记者,此前仅采用通义千问AI大模型打造了本地知识库问答,鉴于DeepSeek更好的推理能力,他正考虑将DeepSeek和业务深度融合。
“我们会在DeepSeek基础上,根据特定工业场景的需求和数据,对特定参数进行微调,或者进行二次开发,以适配IT系统和实现新功能。”王加辉向记者表示:“我们目标是将DeepSeek部署在本地,并和现场的相机进行联动,从而更好地识别现场的危险作业,并实现隐患排查和产品质检等功能。”
他认为,工业客户是否采用本地部署主要取决于数据的涉密性。“一些国企、军工、医疗设备企业往往要求我们实施本地部署的方案,因为它们对于数据安全的要求较高。”他进一步补充道:“非涉密场景可采用云端接入的方案,虽然会出现操作延时,但是影响不大,并且方案价格更低。”
如果采用本地部署,这些客户要求配置装有4卡或8卡GPU的服务器,实现DeepSeek本地推理服务。“我的客户普遍选择英伟达的消费级显卡来配置服务器,例如4090,性价比较高。”王加辉表示:“如果客户有国产化配置要求,我们会采购价格更高的国产GPU显卡。”
除工业外,越来越多企业开始本地部署DeepSeek。国金证券称DeepSeek可应用于信息检索、文档处理、行业研究、市场研判等场景。此外,医疗行业、网络安全等行业内的企业近期也在本地化部署DeepSeek,包括万达信息、奇虎360等。
张毅告诉记者,随着企业对本地化部署要求扩大,国产推理算力的需求量将增加,加上美国对高端芯片封禁,国产芯片算力企业将迎来较大机遇。
AI应用将爆发
高通CEO克里斯蒂亚诺·安蒙(Cristiano Amon)称,DeepSeek-R1是AI产业的转折点,AI推理将向端侧迁移,AI将变得更小、更高效、更定制化,并且基于特定场景的AI大模型和AI应用将出现。中航证券研报认为,DeepSeek-R1说明了端侧AI部署将变得更加普惠,万物智能时代将加速到来。
开源将吸引更多开发者在DeepSeek基础上构筑应用。华为昇腾、摩尔线程、壁仞科技、天数智芯等国产GPU卡已经适配DeepSeek;腾讯云、阿里云、移动云、华为云等云厂商也和DeepSeek完成适配。对国产算力的适配优化,有望进一步降低推理侧的成本。
由于国内应用付费的习惯尚未完全成熟,AI应用的商业化可能受阻。国金计算机首席孟灿认为,美国对应用付费有着10年,甚至20年基础,这对AI应用的商业化有助益,而国内由于尚无此基础,AI应用落地及商业化的时间进度会较慢。不过,国内正在不断追赶,时间进度有望缩短至半年以内。
微信编辑
| 七三
回复
举报
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
点我进行验证
本版积分规则
发表回复
回帖后跳转到最后一页
关闭
站长推荐
/1
【点击免费下载】菲龙网移动APP客户端
【点击免费下载】菲龙网移动APP客户端,新闻/娱乐/生活资讯生活通,带你了解菲律宾多一点!
查看 »
扫码添加微信客服
快速回复
返回列表
返回顶部