周五的时候才写文章说 DeepSeek 上次的故障可能是为了新模型做测试,没想到大的真的来了!
10 月 17 日,DeepSeek-v4.1-flash 模型推出了新版本!后缀是象征发布日期的 1017。
官方表示和上一个版本 0731 相比,新模型在各方面的测试当中都有了长足的进步。
那么这个长足的进步究竟有多长足呢?
长到能和 opus-5 掰手腕的程度!下面来看官方的评测数据。
我们可以看到在 DeepSWE、Automation-Bench V1.0.6、Agent's Last Exam、Apex Bench v1.1、Chartography 等多项测试中,指标超过了 claude-opus-5。
我特意问了一下 AI,这五项指标分别指的是:长时间、原创的软件工程能力、跨应用业务流程自动化、极端困难、高经济价值的专家级任务、专业服务领域的深度工作能力、专业级图表理解能力。
相比于传统的考察模型知识全面性和记忆力的指标,这些指标更加侧重实战和应用。基本上也是模型智力的最直观体现,没有之一。
官方非常不谦虚地表示:
在提升性能的同时,我们还缩短了模型的任务运行时间与输出长度,让用户能够以更低成本、更快速度完成任务(如下图所示),在多个 Harness 下达到了新的性能-费用帕累托最优。
“费用帕累托最优”可以简单理解成在单位成本最优,简单来说,就是无敌性价比。
官方同样也贴了一张性价比展示图。横轴是成本,纵轴是性能。越靠近左上角,说明性价比越高,反之越靠近右下角,说明性价比越低。
低价性价比的模型有哪些呢,好难猜啊。
就在 DeepSeek 新版引起广泛关注的时候,无人在意的角落,openai 再次送出了额度重置……
但是很遗憾,在 DeepSeek 新模型如此价格面前,小甜甜也只能变回牛夫人了。
实战开发
不过看到这里,相信很多朋友还是有些困惑的。
参数每个厂商都会列,可是往往模型实际的表现能力并不一定完全符合参数。
这次的新模型,我打算实战一个需求,来实际体验一下它的聪明程度以及对应的 token 开销。
我选择的任务是鹈鹕测试。
鹈鹕测试,就是让模型生成一个鹈鹕骑车的动态网页。通过最终模型生成的效果来反推模型对任务理解、开发和调试的能力。
不过这一次我们不只是让模型来简单进行一下鹈鹕测试,而是让它在 kimiseek 里增加一个在线鹈鹕测试的功能,让每个人都能测试自己的 llm 渠道。
这次选择的开发环境是 DeepSeek Harness + DeepSeek-v4.1-flash-1017.
我之前用过 DeepSeek Harness + 各种国模,对 Claude code 和 Codex 的开发体验也非常熟悉。因此在这次开发的过程当中,有一些点感受非常明显。
交互更好了
这是我的提示词:
我想要在本站当中新增一个鹈鹕测试的功能,用来测试 llm 的智商。
简单来说实现一个 agent,能够使用用户填写 llm 的配置信息(baseurl, apikey),调用编程和调试功能,生成鹈鹕骑车的网页,在线显示效果给用户。
输完提示词之后,我马上就感觉到了和从前不一样。
因为它主动问了我三个问题。
之前版本的 DeepSeek 似乎不太会问问题,GPT-6-astra 问题也很少,经常需要我手动打断纠正,印象里只有 Claude 连续问过两个以上的问题。
某种程度上来说问题多其实是模型有思考有智商的体现,明明提示词写得很简短,模型啥也不问上来就干活是很恐怖的。
除非你一直盯着执行结果,否则谁也无法保证中间哪个环节会跑偏。
性价比之王
第一个版本,一共用了 37 分钟。
消耗了 26M 的 token。
我登上账号一看,这么一个中等规模的任务,居然只花了两块五!
代码质量非常高,第一个版本就完整实现了功能,没有任何运行 bug。
并且我的提示词里是没有任何关于前端页面设计的内容的,它不仅知道要参考之前的页面风格,而且参考得非常好。
我之前的前端代码都是 GPT-6-astra 写的,现在 DeepSeek 新增的页面,完全看不出来出自两个不同的模型。
就凭这一点就让我相信,这一版的 DeepSeek 无论是研发能力,还是前端设计能力都远超从前。
功能上,我只经过了两轮调试,就得到了满意的结果。
此时 token 的总开销是 5 块。
此时代码生成量已经来到了 5 千行,平均一千行代码一块钱。
换成 Claude 我随便做点 code review,都能用掉好几十刀,在 DeepSeek 的衬托下,Claude 性价比已经趋近于 0。
代码质量
当然代码质量不能只看前端表现,后端看不见的后端逻辑也非常重要。
关于这点,我给出的答案是:它已经接近 GPT-6-astra 了。
测试一个模型代码能力和质量的最好方法,就是让另外一个旗舰模型来做 review,给出参考意见。
通过另外一个模型的描述,以及两者之间交互的过程,我们大致能够看得出来模型的能力高低。
模型越聪明,能 review 出的 bug 就越少,反之 bug 和缺陷越多,说明模型越“笨”。
这次我选择来当裁判的模型是 GPT-6-astra,思考预算极高。
GPT-6-astra 给它的表现打分是 7.5-8 分。
我让 gpt-6 做了严格的 code review,确实发现了一些隐患和潜在问题,但完全没有功能 bug 。
进行了三四轮「修复-review-再修复-再 review」的循环之后,就再也挑不出问题了。
鹈鹕测试
现在这个在线鹈鹕测试的功能已经上线:https://kimiseek.app/zh-CN/pelican
欢迎大家来给榜单里的模型打分,也欢迎大家测试自己的模型。
最后,我们来看下一测试的结果,通过鹈鹕骑车来直观感受一下模型们的能力差距。
先看一梯队,效果比较好的:
gpt-6-astra
非常完美,也是我觉得页面最好看的。唯一的缺点是虽然骑车的动作完全做对了,可是它是在原地骑车的,没有把往前移动的感觉做出来。
但它页面做得太好看了,因此我还是给了 5 星。
claude-opus-5-5
虽然不如 gpt-6 的好看,但是所有细节效果都做对了,妥妥 5 星。
claude-opus-5
画面比 opus-5.5 好看一些,但是脚和踏板的关系错了,其他都做得很好。
glm-5.3
画面也很好看,动态效果也有,和 opus-5 一样的问题,页面不如 opus-5 版本好看。
可以给 4.5 星,算是一梯队守门员。
下面是二梯队。
gpt-5.6-sol
和 glm-5.3 一个问题,鹈鹕的脚和踏板不同步,往前骑行的动态效果也有点问题。
而且鹈鹕画得也有点丑,所以只能给 4 星,算二梯队。
qwen3.8-max
基本上逻辑都是对的,除了脚的问题,还有鹈鹕摆放的位置不太对。
并且整体美观度也弱了点,算是二梯队守门员吧。
然后是惨不忍睹的三梯队。
gpt-6-sol
逻辑上问题很多,背景也不对,样式也很丑。
我有点不敢相信这居然是 gpt-6-sol 的作品,然而当我看到 gpt-6.1-sol 的结果之后释然了,因为 gpt-6.1-sol 的结果更夸张。
gpt-6.1-sol
所以奥特曼说 gpt-6.1-sol 有接近 gpt-6-astra 的智商,你们相信吗?
deepseek-v4.1-flash(旧版)
对比之下,上个版本的 DeepSeek flash 模型是不是没那么不能接受了?
最后,我们来看看新版 DeepSeek flash 模型的成果吧,它是这样的:
所以官网说这版的 DeepSeek-flash 模型已经在多个领域追上了 opus-5,你们相信吗?
我深信不疑。