400 128 6709

行业新闻

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一

发布时间:2024-05-07点击次数:

最新国产开源moe大模型,刚刚亮相就火了。

DeepSeek-V2性能达GPT-4级别,但开源、可免费商用、API价格仅为GPT-4-Turbo的百分之一。

因此一经发布,立马引发不小讨论。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

通过公布的性能指标来看,DeepSeek V2的中文综合能力超越一众开源模型,同时GPT-4 Turbo、文快4.0等闭源模型同处第一梯队。

英文综合能力也和LLaMA3-70B同处第一梯队,并且超过了同是MoE的Mixtral 8x22B。

在知识、数学、推理、编程等方面也表现出不错性能。并支持128K上下文。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

这些能力,普通用户都能直接免费使用。现在内测已开启,注册后立马就能体验。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

API更是是骨折价:每百万tokens输入1元、输出2元(32K上下文)。价格仅为GPT-4-Turbo的近百分之一。

同时在模型架构也进行创新,采用了自研的MLA(Multi-head Latent Attention)和Sparse结构,可大幅减少模型计算量、推理显存。

网友感叹:DeepSeek总是给人带来惊喜!

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

具体效果如何,我们已抢先体验!

实测一下

目前V2内测版可以体验通用对话和代码助手。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

在通用对话中可以测试大模型的逻辑、知识、生成、数学等能力。

比如可以要求它模仿《甄嬛传》的文风写口红种草文案。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

还可以通俗解释什么是量子纠缠。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

数学方面,能回答高数微积分问题,比如:

使用微积分证明自然对数的底e 的无穷级数表示。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

也能规避掉一些语言逻辑陷阱。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

测试显示,DeepSeek-V2的知识内容更新到2025年。

Canva AI Canva AI

Canva平台AI图片生成工具

Canva AI 1374 查看详情 Canva AI

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

代码方面,内测页面显示是使用DeepSeek-Coder-33B回答问题。

在生成较简单代码上,实测几次都没有出错。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

也能针对给出的代码做出解释和分析。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

不过测试中也有回答错误的情况。

如下逻辑题目,DeepSeek-V2在计算过程中,错误将一支蜡烛从两端同时点燃、燃烧完的时间,计算成了从一端点燃烧完的四分之一。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

带来哪些升级?

据官方介绍,DeepSeek-V2以236B总参数、21B激活,大致达到70B~110B Dense的模型能力。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

和此前的DeepSeek 67B相比,它的性能更强,同时训练成本更低,可节省42.5%训练成本,减少93.3%的KV缓存,最大吞吐量提高到5.76倍。

官方表示这意味着DeepSeek-V2消耗的显存(KV Cache)只有同级别Dense模型的1/5~1/100,每token成本大幅降低。

专门针对H800规格做了大量通讯优化,实际部署在8卡H800机器上,输入吞吐量超过每秒10万tokens,输出超过每秒5万tokens。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

在一些基础Benchmark上,DeepSeek-V2基础模型表现如下:

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

DeepSeek-V2 采用了创新的架构。

提出MLA(Multi-head Latent Attention)架构,大幅减少计算量和推理显存。

同时自研了Sparse结构,使其计算量进一步降低。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

有人就表示,这些升级对于数据中心大型计算可能非常有帮助。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

而且在API定价上,DeepSeek-V2几乎低于市面上所有明星大模型。

国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一图片

团队表示,DeepSeek-V2模型和论文也将完全开源。模型权重、技术报告都给出。

现在登录DeepSeek API开放平台,注册即赠送1000万输入/500万输出Tokens。普通试玩则完全免费。

以上就是国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一的详细内容,更多请关注其它相关文章!


# 两周  # 杭州建设网站app游戏  # 涟源网站营销与推广  # 承德网站建设制作设计  # 赤峰网站建设服务商  # seo综合优化公司电话  # 滁州装修网站建设公司  # 黄山网站关键词百度排名  # 南宁网站建设与网页设计  # 网站外链推广价格怎么算  # 静安网站建设供应商  # 中国  # 开源  # 三季度  # 仅为  # 采用了  # 欧洲  # 也能  # 内测  # 显存  # llama  # deepseek  # moe  # 指标 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 朱民:普通人炒股炒不过机器人是很正常的 AI已经能理解市场情绪  央视报道车载人机交互技术!MWC上海魅族表现亮眼,现场热火朝天  利用AI技术更好地发展农村电商  Yann LeCun团队新研究成果:对自监督学习逆向工程,原来聚类是这样实现的  黄仁勋:5年前,我们对AI抱有巨大期望  管提需求,大模型解决问题:图表处理神器SheetCopilot上线  新华社联合北大发布AI大模型评测:安全可靠成重点,360智脑表现优异  羊驼家族大模型集体进化!32k上下文追平GPT-4,田渊栋团队出品  智能技术提高现代商业运营的7七种方式  英伟达推出 L40S GPU,AI 推理性能超过 A100 约 1.2 倍  你们的开机第一屏画面要变了!安卓机器人首次3D化  OpenAI首席执行官引用《道德经》 呼吁就AI安全问题合作  Zoom远程会议应用:AI培训需经用户授权  当TS遇上AI,会发生什么?  海南科技职业大学第25届中国机器人及人工智能大赛海南赛区荣获一等奖等114项  全国体育人工智能大会举办,专家聚焦体育人工智能领域人才培养  苹果机器学习关键人物 Ali Farhadi 离职,回归 AI2 担任 CEO  陈根:AI工具为游戏软件实时3D内容助力  看懂AI,找到增长新势能 | 笔记侠AI峰会等你来  先进技术在防止全球数据丢失方面的作用  网易云音乐和小冰推出AI歌手音乐创作软件,首发内置12名AI歌手  AI会帮我们把活干完吗?  Meta Connect 2025已确定时间为9月27-28,主题涵盖Quest 3与AI技术  生成式人工智能进入产业应用!但再“聪明”仍是工具,最终目的是服务于人  Meta 为打造元宇宙不惜下血本:VR 开发者年薪高达百万美元  腾讯自主研发机器狗 Max 升级,可“奔跑跳跃”完成避障动作  QQ音乐业内率先推出「AI一起听」功能,领取你的AI听歌助手  “智能体动作生成技术”现身WAIC:游戏AI技术为机器人科创注入新动力  “三夏”农忙保障用电,无人机高空巡视高压线  Bing 聊天机器人现支持在桌面端用语音提问  人工智能如何用于家庭安全  官宣!爱康AI未来之夜三大亮点提前剧透!  全面拥抱大模型浪潮,ISC 2025打造全球首场AI数字安全峰会  全球首款AI裸眼3D平板 国产的售价破万  业内领先 四川大学华西第四医院甲状腺乳腺外科成功进入手术机器人时代  全场景智能车:智能无处不在|芯驰亮相世界人工智能大会  LinkedIn 推出生成式 AI 辅助撰写帖文功能,将向所有用户开放  GPT-4 模型架构泄露:包含 1.8 万亿参数、采用混合专家模型  一文读懂自动驾驶的激光雷达与视觉融合感知  热点资讯:家乐福推出聊天机器人;米哈游2025年营收273.4亿元…  0代码微调大模型火了,只需5步,成本低至150块  微软新出热乎论文:Transformer扩展到10亿token  周星驰支持的人工智能与 Web3 初创公司 Moonbox 完成 100 万美元融资  小艺将具备大模型能力,鸿蒙4加速AI普及之路  华为推出两款商用 AI 大模型存储新品,支持 1200 万 IOPS 性能  马斯克称未来机器人数量将多于人类,特斯拉愿共享自动驾驶技术  第四范式“式说”大模型入选《2025年通用人工智能创新应用案例集》  自己动手使用AI技术实现数字内容生产  Unity发布Sentis和Muse AI工具,助力创作游戏和3D内容  V社回应拒绝上架含 AI 生成内容的游戏:审核政策正在调整中 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司