Cohere开源30B参数编程Agent：单张H100即可运行

单GPU运行的开源编程Agent

Cohere近日发布了一款开源编程Agent，基于300亿参数模型构建，可在单张NVIDIA H100 GPU上完整运行，无需任何分布式基础设施。这一设计使其成为目前门槛最低的开源编程Agent之一，个人开发者和小型团队无需昂贵的云计算集群即可使用。

权衡与取舍

这款Agent的trade-off在于模型输出较为冗长，在高吞吐量流水线中会推高推理成本。但对于不需要处理海量请求的独立开发者和小团队来说，单GPU部署带来的便利性和成本优势远大于这一短板。

开源编程Agent赛道升温

Cohere的发布紧随月之暗面Kimi Code更新和Cursor持续迭代之后，开源编程Agent赛道正在快速升温。此前高质量AI编程辅助主要被Cursor、GitHub Copilot等闭源商业产品垄断，Cohere此举有望改变这一格局。