跳转到主内容
Abstract AI model infrastructure with open modular compute nodes and multimodal signal streams

Thinking Machines 发布开放权重 AI 模型 Inkling,主打定制化

Inkling 为开发者提供开放权重、多模态输入和 Tinker 微调能力,但直接自托管仍需要强大的 GPU 基础设施。

发布时间

18 7月 2026

阅读时间

3 分钟阅读

分享这篇文章:

目录

Thinking Machines 把首个模型定位为可定制 AI 的起点

Thinking Machines Lab 发布了 Inkling,这是该公司首个自研 AI 模型。这个发布的重点不只是冲击所有公开榜单第一,而是为开发者提供另一个可以修改的高端基础模型。WIRED 于 2026 年 7 月 15 日报道了该消息,Thinking Machines 也在同一天发布了技术公告和模型卡。

该公司将 Inkling 描述为一个开放权重的 Mixture-of-Experts transformer,拥有 9750 亿总参数,每次请求激活 410 亿参数。模型支持最高 100 万 token 的上下文窗口,并使用文本、图像、音频和视频进行预训练。它的输出模态是文本,包括代码和结构化回答。

这让 Inkling 处在 AI 市场中的一个明确位置:公司并没有把它包装成目前最强的开放或闭源模型,而是把它定位为一个可通过微调适配的广泛多模态基础模型。

开发者实际能得到什么

这次发布有三条主要访问路径。Thinking Machines 表示,Inkling 可通过其定制服务 Tinker 进行微调。模型卡显示,模型权重可通过 Hugging Face 获取,同时也提到可以通过第三方推理提供商使用 API。

开放权重的重要性在于,研究人员和企业可以在发布条款允许的范围内直接检查、托管和微调模型权重。但这并不意味着训练数据或完整源代码已经公开。对于评估透明度、合规性和可复现性的团队来说,这一区别很关键。

模型卡也明确说明,直接自托管最大 checkpoint 不是普通工作站可以轻松完成的任务。Thinking Machines 表示,BF16 checkpoint 需要至少 2 TB 聚合 VRAM 的 GPU 集群,而量化的 NVFP4 checkpoint 将需求降至至少 600 GB。Hugging Face 的发布文章也把直接部署描述为大型基础设施工作负载,同时提到 Transformers、SGLang 和 vLLM 等主要推理引擎的支持。

因此,对多数开发者来说,眼下的问题不只是 Inkling 能不能下载,而是 Tinker、托管推理提供商,或未来更小的变体,能否让定制化在不购买大型 GPU 集群的情况下变得实际可行。

这次发布为什么值得关注

Thinking Machines 由 OpenAI 前 CTO Mira Murati 领导,并因团队和融资受到关注。但 Inkling 是该公司产品方向的第一次重要检验:它押注的是去中心化、由用户塑造的 AI,而不是单一封闭助手体验。

公司称 Inkling 被训练为一个通用模型,覆盖代理式任务、推理、编程、指令遵循、事实性、视觉和音频等能力。它还预览了 Inkling-Small,这是一个更轻量、拥有 120 亿激活参数的模型,不过主要发布材料将其描述为预览,而不是本次主要可下载版本。

公司公告中较有意思的一项演示是自我微调流程。Thinking Machines 称,它让 Inkling 使用 Tinker 创建数据、运行微调任务、评估结果,并切换到针对某一狭窄行为更新后的权重。这是产品演示,不是对广泛自主改进能力的独立证明,因此更应被理解为该公司想推广的定制化工作流示例。

接下来要看什么

Inkling 发布之际,开放权重 AI 模型正成为闭源、仅 API 系统之外的重要替代方案,尤其适合希望更好控制数据处理、成本和产品行为的企业。代价是运营复杂度:运行、保护、评估和微调这种规模的模型都需要基础设施和专业能力。

对 AI 开发者而言,真正有价值的信号不是发布当天的 benchmark 表格,而是采用情况。接下来要观察的是,开发者能否通过常见推理栈可靠运行 Inkling,Tinker 是否能降低微调门槛,以及独立评估者是否能确认模型在编程、多模态和长上下文任务上的优势与限制。

这次发布让 Thinking Machines 围绕去中心化叙事拿出了具体产品。更困难的测试在后面:实验室之外的团队能否把这些开放权重变成有用、可维护的系统。

标签:

#Thinking Machines #Inkling #Open weights #AI models #Tinker #Hugging Face #Mira Murati #Multimodal AI

19

浏览

0

分享

0

点赞

相关文章