AI学习吧
📍 源码七号站 开源解码 Kimi K3 全景拆解:2.8 万亿参数开源大模型的架构底牌、编程实战与国内落地指南

Kimi K3 全景拆解:2.8 万亿参数开源大模型的架构底牌、编程实战与国内落地指南

摘要:Kimi K3 震撼开源:2.8万亿参数、128个专家中仅激活16个,凭借KDA混合线性注意力和注意力残差机制,将100万token长上下文做到“能用且用得起”,并原生支持视觉理解。发布当天,K3在Arena.ai前端代码榜以1679分登顶,超越Claude Fable 5和GPT-5.6 Sol,成为首个在该人类偏好榜单排名第一的开源模型。API定价仅为竞品的三分之一到十分之一,完整权重承诺7月27日前放出。
字号 100%
行距 2.05
当前可见 60% 的内容
本文由 莫潇羽@源码七号站(www.fuyuan7.com)撰写,转载请注明出处。

快速摘要

Kimi K3 是月之暗面在 2026 年 7 月 16 日发布的开源大模型,总参数量 2.8 万亿(MoE 架构),单次推理只激活 896 个专家里的 16 个。它靠 KDA 混合线性注意力和注意力残差两项架构改动,把 100 万 token 上下文做到了"能用而且用得起"的水平;原生支持视觉理解,OpenAI SDK 兼容。发布当天,K3 在 Arena.ai 前端代码榜(Code WebDev)以 1679 分登顶,超过 Claude Fable 5 的 1631 分和 GPT-5.6 Sol 的 1618 分,是开源模型首次在这个人类偏好榜单上排到第一。API 定价 3 美元每百万输入 token、15 美元每百万输出 token,缓存命中价 0.3 美元,大约是 Fable 5 的三分之一到十分之一。完整权重承诺在 2026 年 7 月 27 日前放出。

从技术架构到接口报价,从前端评分到编程实测,这次 K3 的发布是一次少见的"从底层重做一遍"的尝试。这篇文章会把架构原理、性能画像、Kimi Code 上手、七个方向的编程实战、成本细算、选型思路和国内合规使用一次说清楚,篇幅偏长但每一节都可以独立读。

想看完整拆解,往下翻。

一、写在前面:Kimi K3 发布这件事值得怎么看

时间选在 2026 年 7 月 16 日凌晨,地点隔着一天就是 WAIC 2026——2026 世界人工智能大会在上海开幕。月之暗面把 K3 的官方博客和 API 上线时间卡在这个节点,并不完全是营销的巧合。开源大模型这两年在国内圈子里已经不缺"发布会",但真正能带着技术新意、产品完整度和商业成绩单一起出场的,其实屈指可数。K3 想做的显然不只是刷一次榜。

围绕 K3 的三条外部信号,可以先摆在这儿看:

第一条是参数规模。总参数 2.8 万亿,一次前向只激活约 16 个专家,激活参数量约 320 亿量级,是目前公开可下载权重里量级最大的一个。之前挂在开源模型规模上限的,也是月之暗面自己的 K2 系列——从 2025 年 7 月的 K2(1 万亿)一路到 K3,过去 12 个月里有 9 个月都是月之暗面顶着这道天花板。

第二条是 Arena 榜单。Arena.ai 的 Code WebDev 榜是基于人类盲测投票的前端代码偏好榜,K3 上线当天就以 1679 分位列第一,Claude Fable 5 拿 1631 分,GPT-5.6 Sol 拿 1618 分。这一榜在过去很长时间里被闭源旗舰把持,开源模型第一次坐到最前面。发布当天 Simon Willison 在自己博客里写了同样的观察,措辞是"K3 是 Arena 前端代码榜上的领先模型,甚至超过了 Fable 5",这个话由他说出来,就不只是月之暗面的自我营销了。

第三条是商业面。截至 2026 年 6 月中旬,月之暗面公开的年度经常性收入突破 3 亿美元,其中 API 收入占七成以上,海外付费用户同比增长约 400%,最新一轮融资投前估值大约 315 亿美元。开源、API、商业化三件事同时跑通,是这次 K3 能被认真讨论的底座——因为背后有真实的收入曲线,不是靠一次发布撑起来的估值故事。

放在国产大模型的时间轴上看,K3 的意义不完全在参数量本身。让人上心的是这几件事同时到来:架构层重做(KDA 混合线性注意力 + 注意力残差 + 更稀疏的 MoE)、能力层进入前沿(编程、Agent、长上下文都进第一梯队)、成本层显著下探(比 Fable 5 便宜三分之二以上)、开源承诺完整(7 月 27 日前放权重)。以往开源模型能做到其中一两条已经不容易,K3 一次把这四条都占了。

莫潇羽@源码七号站 —— 我写这篇之前,翻了 K3 官方博客、Kimi 平台文档、几家海外测评自媒体的独立观察,也去 Kimi Code CLI 里跑了几段真实项目。想说的核心判断是:这不是一次以"营销大发布"为目的的动作,而是一次以"把架构做扎实、把产品交付出去"为目的的动作。国产大模型走到这个阶段,值得认真讨论一次它到底做了什么、做得怎么样、以及对开发者来说该怎么用。

这篇文章的写法,不会一路顺着官方博客的顺序念,而是分几个维度分别拆:底层是怎么设计的、跑分和真实表现的差异在哪、上手怎么用、成本怎么算、选型怎么选、国内怎么合规使用。每一章都可以单独跳读,但如果你打算把 K3 纳入日常开发流程,我建议从第五章"性能全景"开始看,再回头看架构。这样理解会更立体一些。

二、参数与身位:K3 的四张底牌一次看懂

在展开架构细节之前,先把 K3 的四张"底牌"摆清楚。这四件事分别是:总参数量、上下文窗口、MoE 稀疏度、原生多模态。它们决定了 K3 在能力天花板、推理成本、落地场景上的基本盘。

2.1 2.8 万亿参数:数字背后的含金量

K3 的总参数量是 2.8 万亿(约 2800 B),是当前公开可下载的开源模型里量级最大的。但参数不是越多越强,评估一个 MoE 模型时更值得看两个数字:单次激活参数量和参数利用率。K3 的每次前向只激活 16 个专家(约占 896 个专家的 1.8%),激活参数量约在 320 亿量级。也就是说,你用 K3 推理时,实际"跑起来"的部分和 K2 差不多,但底层能调用的知识库和模式库要丰富得多。

这个思路和把公司做大类似。一家几十人的团队,一个人身兼数职;扩到几千人以后,可以按项目按方向切分小组。响应一次业务需求时,被调动的人数没有翻几百倍,但可选的专业配置多了。MoE 的价值也在这里:让模型的"知识总量"和"响应速度"这两条曲线尽量脱钩,前者管上限,后者管成本。

2.2 100 万 token 上下文:从"能长"到"用得起"

100 万 token 的上下文窗口,K3 不是第一个宣称的,但它是少数几个把"支持"和"实际用起来不心疼"这两件事同时做到的。100 万 token 大概是什么概念?

  • 差不多相当于 70 到 80 万个汉字,长篇小说《三体》三部曲连读完还有余量
  • 一个中型 Github 仓库的核心代码加文档,可以一次性喂进去
  • 一次持续几个小时的编程会话,全部对话历史都能放进上下文

传统全注意力架构下,100 万 token 意味着 KV 缓存占用会飙上去,一台 8 卡机器都吃不消。K3 在 KDA 架构下把这个开销压掉了大部分,官方公开的数据是 KV 缓存最多削减约 75%、100 万 token 上下文下解码速度提升最高约 6.3 倍。第三章会把这套机制拆开讲,这里先记结论:K3 的长上下文不是"能开但很贵",是"能开而且推理速度还上涨"。

2.3 896 专家、每次激活 16 个:稀疏度是效率的关键

K3 的 MoE 配置是 896 个专家、每 token 激活 16 个,激活率约 1.8%。这是一个相当激进的稀疏度——K2 那一代激活率大约在 3% 左右,K3 直接把它推到接近一半的水平。这里的核心工程挑战不是"稀疏"本身,而是稀疏之后还能稳住训练:一旦有些专家被频繁调用、有些专家常年闲置,整个集群的算力就浪费了。

K3 用了一套叫 Stable LatentMoE 的训练框架,配合 Quantile Balancing(分位数均衡)来管这件事。传统方法是加一项额外的平衡损失,硬把专家调用频次拉平,但这样很容易伤到主任务精度,也不合理——本来不同专家擅长的领域就不一样。K3 的做法更像"按能力分配任务",热门专家自然接更多活,冷门专家在遇到自己擅长的场景时也能被有效激活。第四章会详细讲这套机制。

2.4 原生视觉理解:多模态不是外挂

K3 是原生多模态的,意思是视觉能力不是训练完文本模型再"接一个视觉编码器"接上去,而是从预训练阶段就把图像 token 和文本 token 放在一起训。这对编程场景其实非常有用:你截一张页面效果图丢给它,它能理解图上的布局、颜色、元素关系,然后给出对应的 HTML/CSS;调试时把控制台报错截图发给它,它能直接读出错误信息帮你分析。

月之暗面把这套流程叫做 "vision in the loop"——AI 写完代码后自动截图,看效果对不对,不对就自己改。这个能力后面在前端实战章节里会反复出现,是 K3 拿下 Arena 前端榜第一的一个关键抓手。

2.5 一张表把 K3 和 K2 系列摆一起

新老对比是最直观的方式。下面这张表把 K3 和 K2 系列几个关键版本放在一起看:

维度

Kimi K3

Kimi K2.7 Code

Kimi K2.6

Kimi K2

发布时间

2026 年 7 月

2026 年 6 月

2026 年 4 月

2025 年 7 月

总参数量

2.8 万亿

1 万亿

1 万亿

1 万亿

激活参数

约 320 亿

320 亿

320 亿

320 亿

上下文窗口

100 万 token

256K token

256K token

128K token

注意力机制

KDA + AttnRes 混合

MLA

MLA

MLA

视觉理解

原生支持

支持

支持

不支持

定位

通用旗舰

编程专精

通用长程 Agent

通用基础

输入价(未命中/百万 token)

约 20 元

6.5 元

6.5 元

4 元

输出价(每百万 token)

约 100 元

27 元

27 元

16 元

(表中定价为写稿时的国内报价,会随平台策略动态调整,请以官方定价页面的实时数据为准。)

从这张表能看出几件事。一是 K3 并不是简单地把 K2 系列的所有旗号都收进来,而是和 K2.7 Code、K2.6 形成了"产品线"关系——K3 做通用旗舰,K2.7 Code 继续做编程专精,K2.6 继续跑通用长程 Agent。二是 K3 的价格档次明显上抬,这是模型能力和推理成本的直接反映。三是上下文窗口从 256K 一跃到 100 万,是一次真正意义上的扩容。

2.6 面向的场景

月之暗面官方博客里给 K3 列了几类目标场景,我做了一次归纳:

  • 长程编程:能理解和处理大型代码库,持续完成长时间工程任务,协调使用终端工具
  • 视觉推理:结合软件工程与视觉反馈,用截图迭代前端、游戏、CAD 场景
  • 知识工作:撰写复杂研究报告、协调多步分析任务、跨文档信息检索
  • 深度研究:BrowseComp、DeepSearchQA 等长周期检索基准表现领先
  • GPU 编程:24 小时闭环内独立分析、重写并验证 GPU 内核优化
  • 编译器开发:从零构建类 Triton GPU 编译器,实现完整优化到 PTX 生成流水线

前两项是普通开发者最容易接触到的场景,也是这篇文章后面实战章节会重点覆盖的方向。后两项更偏系统研发,属于 K3 的"上限探索"。

莫潇羽@源码七号站 —— 底牌看完,接下来两章会把架构拆开讲。如果你对底层原理没那么感兴趣,可以直接跳到第五章"性能全景"和第六章"Kimi Code 上手"。但架构那两章其实不难懂,我尽量用类比和示意代码把话说清楚——理解一点底层,选型和调优的时候会少走弯路。

三、KDA 混合线性注意力:把 Transformer 的老瓶颈拧开

参数规模能上到 2.8 万亿而推理成本还控制得住,靠的不是"再买一批 GPU",是架构层面的重构。K3 在注意力机制上做的这件事,是过去几年国产大模型里少见的、真正把底层重新推一遍的尝试。这一节把 KDA(Kimi Delta Attention)从"为什么需要"讲到"怎么做的"。

3.1 标准自注意力卡在哪里

先回到一个老问题:为什么标准 Transformer 在长序列上又慢又贵?

标准自注意力的计算复杂度是 O(N²),N 是序列长度。一段 1000 token 的文本,模型要在每两个 token 之间算一遍注意力权重;一段 10000 token 的文本,计算量不是 10 倍,是 100 倍。KV 缓存(键值缓存)的显存占用也会随序列长度线性膨胀。100 万 token 的上下文如果全走标准注意力,KV 缓存能吃掉几百 GB 显存——一台 8 卡机器都放不下。这就是为什么很多号称"支持长上下文"的模型,实际用起来要么慢得像蜗牛,要么在长序列后半段开始"失忆"。

业界过去几年尝试了几条路来绕开这个瓶颈:稀疏注意力(每个 token 只关注一小部分历史 token)、滑动窗口注意力(只关注最近若干个 token)、线性注意力(从数学结构上把 O(N²) 压到 O(N))等等。月之暗面从 2025 年的 Kimi Linear 项目开始,一直在线性注意力这条路上做优化。K3 是这条路上迄今为止最完整的产品化成果。

3.2 线性注意力的老问题:粗暴的"遗忘"

线性注意力的想法几年前就有论文在讨论。它的核心思路是通过数学变换,把注意力计算重排成一个可以随序列长度线性增长的形式,同时把状态压缩成一个固定大小的矩阵,从而摆脱 KV 缓存无限膨胀的问题。

想法很好,但实现有一个尴尬:过去的线性注意力模型在小规模实验里表现不错,一放大到真实场景,效果和全注意力就有明显差距——跑分看着还行,实际对话体验软塌塌。问题出在"遗忘"这一步。

传统线性注意力在做状态更新时,对所有信息通道"一刀切"地衰减,就像一个只能整体调亮暗的滤镜。你没办法告诉它"这条信息很重要,多保留一会儿;那条信息已经用完了,赶紧丢掉"。信息越多,通道间的干扰就越大,最后模型能"想起来"的东西越来越少。

3.3 KDA 的核心:细粒度门控遗忘

Kimi Delta Attention 给出的解决办法,可以用一句话概括:在标准线性注意力的基础上引入细粒度的门控遗忘机制,让模型可以在每个通道维度上独立地控制记忆的保留与丢弃。

用示意代码更直观一些:

# 标准线性注意力(简化示意)
def linear_attention(Q, K, V):
    S = 0  # 状态矩阵
    for t in range(seq_len):
        # 对所有通道统一衰减
        S = gamma * S + K[t].T @ V[t]  # gamma 是全局遗忘系数
        output[t] = Q[t] @ S
    return output

# KDA 的改进(简化示意)
def kda_attention(Q, K, V, input_seq):
    S = 0
    for t in range(seq_len):
        # 每个通道独立门控
        gate = sigmoid(W_gate @ input_seq[t])   # 形状: [d_k]
        S = gate * S + K[t].T @ V[t]            # 逐通道衰减
        output[t] = Q[t] @ S
    return output

关键在那个 gate 向量——它不是全局统一的标量,而是和隐藏维度等长的向量,每个元素独立控制一个通道的保留强度。带来的效果是:模型可以学会在"编程语法规则"这种需要长期保留的通道上设高保留率,在"当前变量名"这种快速更迭的通道上设低保留率。有限的显存容量里,装下的有效信息就多了。

KDA 的另一个设计要点是它基于改进的 Delta Rule(增量学习规则)来更新状态。这个规则的直觉来自神经科学——突触权重的更新应该与"预期和实际之间的误差"成正比。在注意力场景里,每次有新的 K、V 向量到来时,模型不是简单地把它们叠加进状态矩阵,而是根据"当前状态与理想状态之间的差距"做定向修正。这让长序列中的信息累积更精准,减少了早期信息被后来的噪声淹没的风险。

3.4 3:1 混合层布局:不做"全线性"的原因

一个容易被忽略的细节是:K3 并没有把所有层都换成 KDA。它做的是混合布局——每 4 层里 3 层用 KDA 线性注意力,1 层保留全局注意力(月之暗面在 K2 系列里就用过的 Gated MLA)。

这个选择其实很务实。线性注意力的强项是效率,弱项是局部精细度——某些需要"精确点对点关联"的任务,全注意力依然是最优解。3:1 布局的思路是让大多数层跑在 O(N) 复杂度上处理长序列的信息流动,少数关键层保留全注意力做精确的 token 间交互。

这样做的实际收益是:

指标

全注意力(K2 基线)

K3(KDA 3:1 混合)

相对变化

KV 缓存占用

100%

约 25%

削减约 75%

100 万 token 解码速度

1x

最高约 6.3x

大幅提升

长上下文质量

基线

略优于全注意力

提升

短上下文质量

基线

持平或略优

持平

杨植麟在公开演讲里提到过这么一句话:这是第一个在短上下文、长输入和长输出任务上都能全面超过全注意力的架构。 这句话如果拆开看,其实很重要——过去的线性注意力方案通常是"长上下文有优势、短上下文有折损",K3 的 KDA 混合布局把这个折损也抹掉了。

3.5 让理论收益落到工程收益

这些架构改动最终反馈到几个关键指标上:

  • 推理成本:同等能力下,运行 K3 的算力开销明显低于同等参数量的全注意力模型
  • 响应延迟:100 万 token 上下文场景下,K3 的首 token 延迟和吞吐都有实质改善
  • 训练效率:K3 相比 K2 的整体扩展效率提升约 2.5 倍——同样的训练算力,产出的"模型能力"是 K2 的 2.5 倍

莫潇羽@源码七号站 —— 写到这儿我想多说一句:过去两年国内大模型圈最喜欢讲的故事是"我们参数又多了多少",但真正让开发者愿意掏钱订阅的,是"这个东西用起来顺不顺手"。K3 在注意力架构上花的心思,本质上是在回答后一个问题。参数量是能力的天花板,架构效率决定天花板能不能真的落到用户手里。

四、注意力残差与稀疏 MoE:让"堆参数"真的变成"堆能力"

架构改动的另一半发生在两个地方:注意力残差(Attention Residuals,简称 AttnRes)和稀疏 MoE。前者关心"深层网络里的信息如何被更好地保留",后者关心"896 个专家如何在训练过程中被合理调用"。这一节把这两条线一起讲清楚。

4.1 注意力残差:不让深层信息被稀释

在标准 Transformer 里,每一层都通过残差连接把上一层的输出加到当前层的输出上。这个设计本意是让深层网络中的梯度能顺利回传,但它也带来一个副作用:随着层数增加,早期层的信息会被一层层"等权累加"。100 层深度网络下,来自第 1 层的信息占最终输出的权重会被稀释到微乎其微。

用一个类比:100 个厨师接力往同一碗汤里加料,每人都放一勺自己的调料。到最后,第一位厨师放的那勺盐几乎尝不出来了。深层网络里发生的信息稀释也是这个道理。

Attention Residuals 的做法是在残差路径上引入可学习的权重,让模型自己去决定从不同深度"调取"多少信息。示意逻辑是这样的:

# 标准残差连接
output = layer_output + residual_input   # 等权相加

# 注意力残差(AttnRes)简化示意
output = layer_output + alpha * residual_input   # alpha 是可学习参数
# 更完整的版本里,alpha 可以根据内容和层深度动态变化

看起来只是加了一个可学习系数,但在 2.8 万亿参数、几十层深度的模型里,这个改动让模型能够在处理第 100 万个 token 时,仍然"记得"第 1 万个 token 处出现的关键信息。这在长周期编程任务中尤其关键——你可能在对话开头定义了一个数据结构,AI 需要在半小时后的代码生成中精确引用它的字段名和类型。

4.2 稀疏 MoE 的"负载均衡"难题

MoE 架构好听,但训练起来麻烦。最大的挑战是负载均衡——如果某些专家总是被调用而另一些专家长期闲置,整个集群的训练效率就会被拖慢。896 个专家的团队,如果只有 50 个人在干活,其余的在摸鱼,那再大的团队也没用。

传统做法是加一个"平衡损失"函数,训练时惩罚那些负载不均的情况。但这个方法有两个问题:一是需要在主任务损失和平衡损失之间调一个超参数,调不好要么模型精度下降,要么专家负载仍然不均;二是"平衡"这个词本身就有歧义——不同专家擅长的领域天然不同,"代码专家"的调用频率本来就该比"古诗词专家"高(至少在编程场景下),强行平均反而不合理。

4.3 Stable LatentMoE 和 Quantile Balancing

K3 采用的 Stable LatentMoE 框架,核心改进之一是用 Quantile Balancing(分位数均衡)来代替传统的平衡损失。核心思路示意:

# Quantile Balancing 核心思路(简化)
def quantile_balance(expert_scores, num_experts=896):
    # 对每个 token 的路由分数按分位数归一化
    quantiles = compute_quantiles(expert_scores)
    # 根据分位数分配负载,而不是硬性均衡
    balanced_scores = expert_scores / quantiles
    return top_k(balanced_scores, k=16)  # 选 top-16

这个做法的巧妙之处在于:它不要求所有专家"吃同样多的活",而是让每个专家在其能力范围内被合理地调用。热门专家自然处理更多任务,冷门专家在遇到擅长领域时也能被有效激活。减少了对额外平衡损失和人工超参数的依赖后,训练过程更稳定,模型的最终质量也更高。

4.4 Per-Head Muon:让优化器"精确到头"

训练 2.8 万亿参数的模型,优化器的选择直接影响收敛速度。K3 用了一个叫 Per-Head Muon 的优化器,可以理解成把 Muon 优化器的更新机制进一步细化到了每个注意力头的粒度。

传统优化器(比如 AdamW)对所有参数使用统一的更新规则,但不同注意力头在训练过程中面对的数据分布和梯度特性可能差异很大。Per-Head Muon 让每个注意力头独立调整自己的更新幅度,相当于给每个"专家中的专家"配了一个专属的调参师。这个设计在 MoE 架构下尤其有效——因为不同的专家-注意力组合可能对应完全不同的学习动态。

4.5 MXFP4 量化感知训练:为大规模部署做准备

K3 从 SFT(监督微调)阶段开始就采用了量化感知训练,权重用 MXFP4、激活用 MXFP8。这样做的目的是让模型在训练时就"知道自己以后会被量化部署",从而在参数分布上主动适应低精度硬件。

这个决策带来的好处是:K3 的开源权重发布后,第三方厂商可以直接用 INT4/FP4 精度做推理部署,而不用担心量化后能力大幅下降。对于国内开发者,这意味着可以在国产 GPU 上以更低的显存开销跑起来。K3 的官方博客里也提到了他们和多家推理合作伙伴的联调工作。

4.6 训练效率提升 2.5 倍的实际含义

把这些技术点串起来,K3 在 MoE 和训练优化上的整体思路是:用更高效的稀疏激活(896 选 16)降低推理成本,用更智能的负载均衡(Quantile Balancing)保证训练效率,用更精细的优化策略(Per-Head Muon)提升收敛质量,用量化感知训练为大规模部署铺路。

最终结果是月之暗面官方公布的那组数据——K3 相比 K2 的整体扩展效率提升了约 2.5 倍。也就是说,同样的训练算力投进去,K3 产出的"模型能力"是 K2 的 2.5 倍。

当参数规模到达万亿级别后,每一点效率提升带来的都是巨大的成本节省。粗略估算,如果 K3 没有这些架构和训练优化,要达到目前的能力水平,可能需要投入 2 到 3 倍的 GPU 集群和电力——这对任何一家公司来说都不是小数目。从这个角度说,K3 的技术含金量,有一大半藏在这些看不见的地方。

莫潇羽@源码七号站 —— 架构章节到这儿告一段落。下一章讲性能画像,会从跑分和真实体验两个角度切开看,帮你把"到底强不强"这件事对着实际场景校准一次。

五、性能全景:把跑分和真实体验分开看

架构说完,回到最实在的问题:K3 到底有多能打?这一节把评测数据分成三类看——综合智能榜、编程专项榜、真实任务体验——然后再看一下几个反面数据(比如幻觉率),把 K3 的能力画像补完整。评测数据来自多个第三方平台和官方博客,不同基准的评分体系不同,放在一起对比时看相对排名比看绝对分数更有意义。

5.1 综合智能:稳定进入第一梯队

第三方机构 Artificial Analysis 发布的 Intelligence Index 是一个综合了多个子维度(推理、知识、编程、多语言等)的评测体系。截至 2026 年 7 月,主要模型的排名如下:

模型

Intelligence Index 得分

类型

上下文长度

Claude Fable 5

约 65

闭源

1M token

GPT-5.6 Sol

约 62

闭源

1M token

Kimi K3

57.1

开源

1M token

Claude Opus 4.8

约 54

闭源

200K token

GPT-5.5

约 52

闭源

256K token

K3 稳定超过 Claude Opus 4.8 和 GPT-5.5,但和 Fable 5、Sol 之间还有可见差距。放在 189 个被测模型里,K3 排在第四位,是开源模型的最高名次。我的解读是:K3 已经跨过"第一梯队"的门槛,但爬到"最顶尖"还需要再迭代一轮。

再看 GDPval-AA v2——这是一个衡量模型在 44 个职业、9 大行业实际任务中表现的基准,比纯粹的学术跑分更贴近真实使用场景。K3(max 模式)拿到 1687 分,排第三,仅次于 Claude Fable 5 Max 和 GPT-5.6 Sol Max。另外在 AA-Briefcase(私有代理基准)上,K3 以 1527 分冲到第二,反超 GPT-5.6 Sol Max。这两个数据放在一起看,说明在某些 Agent 工作流场景下,K3 的实际表现可能比综合排名看起来更好。

5.2 编程专项:前端登顶,工程仍有距离

编程是 K3 最引人注目的方向。以下是编程相关基准的核心数据:

基准名称

测试维度

Kimi K3

Claude Fable 5

GPT-5.6 Sol

K3 排名

Arena Code WebDev

前端代码人类偏好

1679 分

1631 分

1618 分

第 1

Terminal-Bench 2.1

终端编程与 Agent

88.3%

84.6%

88.8%

第 2

Program Bench

多步骤编程完成度

77.8%

76.8%

77.6%

第 1

DeepSWE

复杂软件工程

有差距

领先

领先

第 3

FrontierSWE

前沿工程问题

有差距

领先

领先

第 3

Arena Code WebDev 的数据尤其值得展开。这个榜单基于真实用户盲测——用户看到两个模型生成的前端效果(不知道哪个是哪个),选择更喜欢的那一个。K3 在 7 个细分赛道上拿了 6 个第一:

  • 品牌与营销页面
  • 参考设计还原
  • 数据与分析看板
  • 消费产品界面
  • 模拟仿真
  • 内容创作工具

只有在游戏开发子项上以微弱差距排在 Fable 5 之后。目前 K3 的排名仍被标记为 Preliminary(初步),累计有效投票约 1757 次,少于 Fable 5 的 2505 次和 Sol 的 2542 次。随着投票量增加,分数和排名可能还有波动——但即使最终滑到第二或第三,也已经是非常能打的表现。

需要诚实地说,在 DeepSWE 和 FrontierSWE 这类更复杂、更接近真实软件工程的基准上,K3 和 Fable 5、Sol 之间还有实质性差距。这两个基准测试的是模型在大型代码仓库中定位 Bug、跨文件修改、理解复杂依赖关系的能力——这些恰好是目前所有大模型都还在攻克的难题,不只是 K3。

5.3 一个可以用来"临床"感受的数据

跑分是一回事,实际体验是另一回事。月之暗面官方博客里用了一个我觉得挺贴切的说法:在极少人工监督的情况下,K3 可以持续完成长时间工程任务,理解和处理大型代码库,并协调使用终端工具

这里有一段我特别认同的表述——K3 擅长结合软件工程与视觉推理。它能利用截图和视觉反馈来优化游戏开发、前端设计和 CAD 场景。月之暗面管这个叫 "vision in the loop":AI 写完代码后渲染出页面,截图看效果对不对,不对就自己改。相当于模型自带一双"眼睛"来检查自己的作品。这个能力在前端开发场景下尤其实用,因为它把"写代码 → 跑起来看 → 发现不对劲 → 改代码"这个循环中的"看"这一步也自动化了。

另外值得一提的是 BrowseComp 基准——这是一个测试长周期高难度检索能力的基准,K3 以 91.2 分位列第一。这说明在处理需要"翻很多页、跨很多文档才能找到答案"的复杂信息检索任务时,K3 的 100 万 token 上下文窗口配合 KDA 架构的长期记忆能力,确实发挥了实际作用。

5.4 也得看反面数据:幻觉率

评测榜单不能只挑好的看。Artificial Analysis 在 AA-Omniscience 测试上给 K3 的幻觉率是约 51%,比 K2.6 的 39.3% 反而高了一截。综合能力上升的同时,事实性可靠度反而退了一步,这个现象值得警惕。

我的理解是:K3 的推理链条更长、思考更深,某种程度上也放大了"自信地讲错"的风险。这对开发者的启示很直接——用 K3 做涉及事实性判断的任务时,一定要交叉验证。写代码这类"能不能运行"有客观检验方式的场景,幻觉的风险相对可控;写研究报告、写基于事实的分析文章时,务必让它引用具体来源并自己去核对。

5.5 GPU 内核与编译器:能力上限的探索

月之暗面在发布同时公开了几组"能力上限探索"的数据,主要有两块:GPU 内核优化竞技场和 MiniTriton 编译器项目。

在 GPU 内核竞技场里,K3 在 NVIDIA H200 GPU 上跑 Attention Residuals 内核优化任务,24 小时闭环内的最终成绩是相对基线加速 59.7%,Fable 5 的成绩是 57.1%(含回退机制)。这个数字的意义不在于绝对领先——差距很小——而在于说明 K3 具备了自主进行低层次系统优化的能力。

MiniTriton 项目更有意思:K3 从零构建了一个紧凑版的类 Triton GPU 编译器,基于 MLIR 建立了自己的 tile 级中间表示层,完整实现了优化 pass 到 PTX 代码生成的流水线。这是一个能让研究型开发者眼前一亮的成绩——不是"帮人写代码",是"从零设计并实现一个编译系统"。

5.6 我的三条整体判断

跑完这么多数据,可以给出三条整体判断:

判断一:K3 在编程和前端方向已经进入前沿,Arena 榜第一不是运气,是它在生成质量、审美、细节把控上综合优势的体现。

判断二:K3 在复杂软件工程和事实性任务上还有短板,DeepSWE 榜落后、幻觉率升高,都是需要用户自己在使用中留意的地方。

判断三:K3 的能力画像更适合"生成型"任务而非"审校型"任务——让它写、让它做原型、让它跑长链条 Agent 都行;让它做"绝对不能出错的事实性输出"要多一层校验。

莫潇羽@源码七号站 —— 总的来说,K3 的评测画像可以这样描述:前端编程绝对强项,终端 Agent 紧随其后,复杂工程还有提升空间。对绝大多数日常开发任务,K3 的能力已经远超"够用"的及格线。下一章开始进入怎么上手的部分。

六、Kimi Code CLI 上手指南:从安装到跑通第一个项目

理论讲得再多,最后还是要落到"怎么用"上。K3 目前最直接的使用方式有两条:一是通过 Kimi 网页/客户端(www.kimi.com)直接对话,二是通过 Kimi Code CLI 在终端里做 AI 辅助编程。第一条不用教,谁都会点开网页聊天;这一节重点讲第二条——Kimi Code CLI 是月之暗面官方推出的终端 AI 编程工具,功能定位类似 Anthropic 的 Claude Code 或 OpenAI 的 Codex CLI,但后台对接的是 Kimi 系列模型(包含 K3 和 K2.7 Code)。

6.1 一行命令搞定安装

Kimi Code CLI 的安装体验非常干净:不需要预装 Node.js(新版内置了运行时),不需要手动配 PATH,一条命令跑完就能用。

macOS 或 Linux:

curl -LsSf https://code.kimi.com/install.sh | bash

Windows(PowerShell):

irm https://code.kimi.com/kimi-code/install.ps1 | iex

Windows 用户额外需要先装一下 Git for Windows,Kimi Code 会用其中的 Git Bash 作为 Shell 环境。安装脚本会自动下载最新版本、校验 checksum、把 kimi 可执行文件放进 PATH。装完后在终端输入 kimi 就能进入交互界面。

新版的 CLI 用的是 Node.js 底层实现(早期是 Python 实现),启动速度快很多。第一次打开时你会看到一个精致的 TUI 界面,深色背景、清晰的分区、输入区和输出区一目了然。

6.2 登录:两条路径

进入 Kimi Code 后需要先登录。输入 /login 会弹出浏览器窗口完成 OAuth 认证,登录方式有两种:

  • Kimi Code OAuth(推荐):适合购买了 Kimi 会员套餐的用户,直接用 Kimi 账号登录,权益额度直接生效
  • Moonshot 开放平台 API Key:适合按用量付费的开发者,登录后填入 API Key 就行

对绝大多数国内开发者,我建议走 OAuth 这条路——不用管 API 额度、不用管账单、不用担心密钥泄露,套餐用完之前不会有额外账单突袭。

6.3 /model 切换:K3 之外还有什么

登录成功后,输入 /model 命令可以查看和切换当前使用的模型。截至写稿时,可选的模型主要有:

模型名称

特点

上下文长度

Kimi K3

最新旗舰,通用能力最强

100 万 token

Kimi K2.7 Code

编程专用,指令遵循更稳

256K token

Kimi K2.7 Code Highspeed

K2.7 Code 高速版,官方口径输出速度约 5 到 6 倍

256K token

Kimi K2.6

通用长程 Agent(K3 发布前的旗舰)

256K token

切换到 K3 后,界面底部会显示当前模型为 K3,上下文窗口为 1M。要注意的一点:K3 目前默认的思考模式(reasoning_effort)是 max,官方计划在后续更新中放出 low 和 high 两档。 换句话说,现在用 K3 就是满血版,不存在"省电模式"。如果你的任务偏简单,理论上用 K2.7 Code Highspeed 会更划算。

6.4 Skills 技能系统:让 AI 用上"插件"

Kimi Code 沿用了类似 Claude Code 的 Skills 技能扩展机制。技能文件存放在 ~/.agents/skills/ 目录下,Kimi Code 启动时会自动扫描并加载。输入 /skill 可以查看已安装的技能列表:

# 进入 Kimi Code 后
/skill
# 输出示例:
# - context7: 查询最新技术文档
# - firecrawl: 联网搜索与网页抓取
# - browser-use: 浏览器操控
# - pdf-reader: PDF 文档解析

技能这个设计的价值在于:K3 本身有截止日期的知识,但通过 Skills 可以把"查最新文档"、"抓取网页最新内容"这些能力挂进来,让它在写代码时能自己去查最新的 API 文档、库版本、社区讨论。

对高频使用者,我建议至少装两个:Context7(查技术文档最新版)和 Firecrawl(联网搜索)。这两个装上以后,K3 在写代码时就不容易用到过时的 API。

6.5 /yolo 和 /goal:两个高频命令

Kimi Code 有两个能显著提升效率的模式:

  • /yolo 模式:开启后,AI 会自动批准安全的工具调用(读文件、执行不涉及删除的命令等),不需要每一步手动确认。适合跑那些你已经确定不会有副作用的任务——生成前端页面、查询 API 文档、做静态分析。跑完记得关掉,避免 AI 自主操作太多。
  • /goal 模式:输入 /goal 后跟上完整的需求描述,AI 会进入自主目标模式,跨多轮持续工作直到任务完成。适合"丢给它一个完整项目让它自己跑"的场景。

用法示例:

/goal 用 React + TypeScript 搭建一个任务看板应用,
支持拖拽排序、状态切换和本地存储,要求桌面端和移动端都能用。

这两个模式后面的实战章节会反复用到。

6.6 一个小提醒:上下文再大也别乱塞

K3 的 100 万 token 上下文确实很大,但不要因此就无脑往里塞东西。上下文越长,推理延迟越高,token 消耗也越多。实际使用中,我的习惯是把相关的代码文件和文档精准地放进去,而不是把整个项目目录一股脑喂给它。

精准的上下文比大的上下文更重要——这一点不管是 K3 还是其他任何模型都适用。K3 提供 100 万 token 是让你在"确实需要"时不用截断上下文,而不是让你每次都把仓库里所有文件都拉进去。

6.7 首个测试项目:先跑一个"你好世界"

装完、登录完、模型切换完之后,最快验证一切正常的方式是让它写一个小项目。可以试这个提示词:

/goal 生成一个用 HTML + CSS + JavaScript 实现的极简番茄钟计时器:
- 25 分钟工作 / 5 分钟休息切换
- 可以开始、暂停、重置
- 深色背景,卡片式布局,简洁美观
- 单个 HTML 文件,可以直接在浏览器打开

K3 大概两分钟就能给出完整代码。你会看到它在生成过程中的思考痕迹——先规划整体结构、再写 HTML 骨架、再写 CSS、最后写 JS 逻辑。生成完了在同目录下用浏览器打开 HTML 文件,一个可以用的番茄钟就出来了。

跑通这个之后,你就可以开始尝试更有意思的项目。下一章从前端方向进入实战。

七、前端实战:交互动画、3D 可视化与 PPT 生成工具

K3 在前端方向的口碑不是靠跑分刷出来的,是靠实际生成效果打出来的。这一章通过三个前端项目来验证 K3 的界面设计能力和交互实现水平。项目的设计思路是:从简单到复杂——从单页面动画到 3D 可视化再到全栈工具,逐步逼近真实前端开发的复杂度。

7.1 项目一:交互式动画讲解页面

第一个任务:让 K3 生成一个用交互动画讲解"注意力残差机制"的单页网站。这个话题恰好就是 K3 自己的核心技术之一——让它用自己写的代码去解释自己的原理,还挺有意思。

提示词的写法是关键。不是简单地丢一句"做一个讲解页面",而是给出明确的约束:

请生成一个单页面的交互式讲解网站,用于解释 Transformer 模型中的
"注意力残差"机制。要求:

- 讲解拆成 3 到 4 个阶段,每个阶段配一个可交互动画
- 第一阶段用生活类比解释问题(比如煮汤或调色)
- 第二阶段展示核心机制——用户可以拖滑块控制不同层的注意力权重
- 第三阶段展示工程落地——分块策略对显存的影响
- 使用纯 HTML/CSS/JS,不依赖任何框架
- 桌面端和移动端都要适配
- 先用 Firecrawl 技能联网搜索注意力残差的技术细节,确保内容准确
- 配色深色背景,科技感,莫兰迪色调

K3 的执行过程很有意思:

  • 先调用 Firecrawl 联网搜索了相关论文和技术解读
  • 拆出 3 个交互阶段并规划页面结构
  • 生成完 HTML、CSS、JS 后,自动用无头浏览器截图验证效果
  • 发现某个滑块的响应有延迟,自己修了一遍

这就是前面反复提到的 "vision in the loop"——AI 不是闭着眼睛写代码,而是写完看一眼效果,不对就改。

最终成品的效果是这样的:

  • 第一部分(煮汤类比):用"100 位厨师接力往汤里加调料,最后第一位厨师的原味几乎尝不到"来类比标准残差连接的信息稀释问题。用户拖动滑块控制"加料速度",实时看到信息浓度的变化
  • 第二部分(注意力权重交互):用户拖动滑块给不同层分配权重,页面实时计算 softmax 归一化后的分布,用柱状图展示。点与线之间的连接非常准确,动画过渡也很流畅
  • 第三部分(分块策略可视化):调节总层数和分块数,页面动态展示分块对显存占用的影响

从提示词到成品,大概 5 分钟不到。这个项目的意义不只是"好看"。它说明 K3 在处理"把抽象技术概念转化为视觉表达"这类任务时,已经具备了很强的理解和执行力。以前我用其他模型做类似项目,经常会出现元素错位、动画卡顿的情况,K3 在细节把控上明显更胜一筹。

7.2 项目二:3D 版知识可视化

同样的知识点,这次换成 3D 场景来呈现。提示词在项目一的基础上加了几个约束:

(前述约束保持不变,额外增加)

- 使用 Three.js 做 3D 渲染,在 3D 空间中展示 Transformer 各层的信息流动
- 先用 Context7 查询 Three.js 的最新 API 文档,避免用过时写法
- 用户可以用鼠标拖拽旋转视角、滚轮缩放
- 左下角放步骤控制面板,支持逐步推进讲解

这次执行前我开了 /yolo 模式让 AI 自动跑完全程。K3 通过 Context7 拉取了 Three.js 的最新文档(重要,Three.js 的 API 迭代很快,用旧版本写法可能渲染异常),然后按标准场景搭建流程完成开发。

成品是一个深色 3D 空间,Transformer 的各层被可视化为排列在空间中的节点,节点之间用带有透明度渐变的连线表示信息流动。用户拖拽鼠标可以自由切换观察角度——从正面、侧面、俯视等不同视角理解层与层之间的连接关系。左下角的控制面板支持按步骤推进讲解,每到新步骤,对应的节点和连线会高亮显示。

两个项目加起来,从输入提示词到拿到可用成品,前端动画项目大概 5 分钟内搞定,3D 项目稍长但也远快于手写。效率和效果的组合,是我觉得 K3 在前端方向最值得称道的地方。

7.3 项目三:PPT 生成工具(全栈)

前两个都是纯前端项目。第三个把难度往上抬一档:开发一个通用的 PPT 生成器——用户粘贴任意文案,后端调用大模型拆解内容,前端渲染成网页 PPT,支持切换主题和导出 HTML。这是一个标准的全栈项目,涉及前后端通信、API 密钥管理、异步任务处理。

提示词用了 /goal 模式:

/goal 开发一个网页 PPT 生成工具:
前端:用户粘贴文案 → 点击生成 → 预览 PPT → 切换主题 → 导出 HTML
后端:Node.js + Express,调用 Kimi API 拆解文案为 PPT 结构
- API Key 写入 .env 并加入 .gitignore
- 支持至少 3 套配色主题
- 开发完成后用 Playwright 做桌面端和移动端的端到端测试
- 测试通过后生成测试报告

有一个重要的实操细节:我把 Kimi 的 API Key 直接写在了提示词里。这样 AI 才能自主调通大模型接口完成测试,不用中途停下来等我手动输入。但也要提醒——写完项目后一定检查 .env.gitignore,确保密钥不会被意外提交到公开仓库。

K3 跑完这个项目大概 15 到 20 分钟。从日志看,它做了两组 Playwright 端到端测试,桌面端和移动端都验证通过。最终产出的工具界面极简:一个大文本框加一个"生成 PPT"按钮。粘贴文案点击生成后,后端拆解内容并返回结构化数据,前端渲染成可翻页的演示页面。

功能验收:

功能

状态

说明

文案拆解

正常

AI 正确识别文章结构和重点

PPT 渲染

正常

页面排版美观,代码块有高亮

主题切换

正常

3 套配色可正常切换

全屏演示

正常

支持键盘翻页

导出 HTML

正常

导出的文件可独立打开

移动端适配

正常

触摸滑动翻页正常

不足的地方是:这个版本没给大模型加上工具调用等 Agent 能力,生成的 PPT 内容有时候偏精简——一篇 3000 字的文章可能只提炼出 6 到 8 页,有些细节被省略。作为初版原型,核心业务链路全部跑通,后续可以通过增加提示词约束或多轮调用来丰富内容。

7.4 K3 前端能力的边界

说了不少好话,也得诚实地说不足。K3 在前端"创意型"项目上表现亮眼——动画、可视化、PPT 风格页面、营销落地页这些,基本上"一把过"。但在需要严格像素级还原设计稿的场景下,它偶尔会出现字体大小不一致、间距偏差几个像素的情况。这些问题通常再让它修一轮就能解决,但如果你追求"零改动直接上线",可能还要再等一次迭代。

另外,K3 在处理复杂前端状态管理(比如带路由的单页应用、全局状态共享)时,代码结构有时候会显得啰嗦,不像人类高级前端工程师那样精炼。这说明"能写对"和"写得好"之间,还有一段路要走。

不过话说回来,对于绝大多数"我想快速搭个页面看看效果"的场景,K3 已经是我目前的首选。Arena 前端榜的排名不是虚的——它反映的是真实用户在盲测下的偏好。

莫潇羽@源码七号站 —— 有一次我让 K3 生成一个带粒子动画背景的产品介绍页,它自己选了一套蓝紫渐变配色,加上悬浮粒子效果。做完之后我直接截图发给了设计师朋友,对方回了三个字:"挺好看的"。能让设计师说"挺好看的",对于一个 AI 来说已经是相当高的评价。

八、游戏与全栈实战:物理引擎和 Roguelike 复刻

游戏开发是检验 AI 编程模型的"终极考场"——它要求模型同时处理图形渲染、物理模拟、游戏逻辑、AI 行为、用户体验多个维度。这一章通过两个游戏项目来观察 K3 的表现,并且引入一个横向对比:用完全相同的提示词,让 K3、Claude Fable 5、GPT-5.6 Sol 和 Grok 4.5 四个模型各自开发同一个足球游戏,直接比较成品效果。

8.1 项目四:足球对战网页游戏——四模型横评

足球游戏的提示词包含了规则、技术栈和开发流程约束。核心要求是:

  • 后端 Node.js + Express + SQLite
  • 前端 Canvas 手写物理引擎(不用游戏框架)
  • 按 Loop Engineering 方式推进:先搭最小可玩版本 → 自测 → 修 Bug → 逐步加功能
  • 至少支持选择队伍、调整难度、完整比赛流程
  • 交付前做完整验收

四个模型各自跑完后的结果,我整理成下面这张对比表:

评估维度

Kimi K3

GPT-5.6 S

🔒
该内容仅对更高等级用户组开放,请升级您的账户等级以查看完整内容
部分文章时效属性较强,请谨慎解锁发布日期比较早的文章
您当前:游客 · 可见 60% 内容 · 升级至 注册用户 可见 70%
👀
游客
可见 60%
✓ 当前
注册用户
注册用户
可见 70%
社区精英
社区精英
可见 100%
仅解锁本文,永久有效。如需PDF珍藏版,请联系站长获取。 当前单篇价格 ¥9.9
✏️ 发表评论

请先登录后发表评论

前往登录
📊 站点统计
今日发布0 篇
文章总数1289 篇
昨日发布2 篇
本月发布0 篇
建站时间408 天
🔍 搜索
📅 日历
« 2026 » « 09 »
 123456
78910111213
14151617181920
21222324252627
282930    
站长微语

联系站长

微信:165255185
AIGC 技术社区
致力于解码 AI前沿技术 与经验分享
纯粹的技术交流社区

💡 欢迎您的建议与反馈,让社区变得更好

快速通道
联系站长
站长微信二维码
AI交流群
AI交流群二维码
仍在路上

那些寒夜里追赶过的方向

那些冷眼下没放弃的理想

一篇一篇写到现在

仍在路上

"不羁放纵爱自由"

—— 致敬 Beyond
持续创作中 莫潇羽 · 源码七号站