6倍速度狂飙 国产大模型Kimi 2.7高速版发布:可达260Token/s

哈哈库 百科资讯 2

6月15日消息,继续上周发布Kimi 2.7 Code大模型之后,月之暗面公司今晚又上线了该模型的高速版,速度是常规版的6倍。

大模型的输出速度对日常使用体验来说也很重要,尤其是写代码,速度越快自然效率也会更高,能给开发者节省大量时间,这次的Kimi K2.7 Code高速版就是为此而生的。

根据官方所说,Kimi K2.7 Code高速版和普通版是同一个模型,但输出速度约为5-6倍,常规编程场景下(取输入长度中位数)输出速度约180 Token/s,短上下文场景可达260 Token/s ,带来更极致的编程体验。

不过价格也会涨的,但跟速度相比涨幅不大,高速版API定价为普通版的2倍,企业和开发者可通过Kimi API开放平台调用高速版模型,模型ID:kimi-k2.7-code-highspeed。

Kimi Code Plan用户可以加入「抢先体验计划」(kimi.com/code/beta),在Kimi Code中体验Kimi K2.7 Code高速版。

Kimi方面也提到,在算力扩容之后会进一步扩大开放范围,预计从7月开始,Kimi会陆续开放给Allegretto及以上会员,6倍速的高速版模型在Kimi Code Plan中的用量消耗是普通版模型的3倍。

需要注意的是,使用 Kimi K2.7 Code系列模型须打开思考模式(Thinking)以发挥最佳性能。Kimi API 和 Kimi Code均默认开启思考,如果手动关闭思考模式,API会报错,Kimi Code 会回退到K2.6模型。

最后要提一句,Kimi在这篇文章的开头也说了一句值得赞扬的话——前沿智能应该更开放、响应更快、全球通用,而非成为一种特权。

很明显他们这句话也是在针对美国封杀Anthropic公司的Fable 5及Mthyos 5两款大模型一事,美国限制前沿大模型技术对外开放会是AI发展史的一个关键转折点,影响最终有多大不好说,但是它会让美国之外的国家看到依赖美国的技术有多么可怕,美国政府随时可以掐断别国的技术依赖。