
应用与工具
新工具、新功能,以及它们能帮你完成什么。
Hy Memory 2.0 发布,MemHub 汇集跨工具任务记忆
需要在多个 AI 工具间延续任务的用户,可关注腾讯 MemHub。据 IT之家10月16日报道,它随 Hy Memory 2.0 发布,提供 Mac 应用和命令行两种使用方式。用户授权关联应用后,可导入历史会话,将后续新会话同步为本地记忆,供关联工具执行任务时调用。
目前覆盖 WorkBuddy、Cursor、Codex、Qwen Code、DeepSeek Harness 等10种工具,支持插件接入。此次框架新增工作记忆与代码记忆,保存任务目标、已确定的做法、阶段结果及经验适用条件。开发者可通过 SDK,即软件开发工具包接入;框架、MemHub 已在 GitHub 开源,专用模型权重已在 Hugging Face 发布。
经常切换 AI 工具的用户,可关注它能否减少重复交代任务背景;实际价值取决于关联工具覆盖和记忆筛选质量。
技术与开发
模型、API、开源与工程实践,关注能力和使用边界。
Beam 开放5010亿参数权重,采用 Apache 2.0 许可
Hugging Face 10月16日介绍 Reflection 首款模型 Beam,面向编程和智能体任务,以 Apache 2.0 许可发布。模型仅处理文本,支持100万词元上下文,即单次可容纳的内容规模;总参数5010亿,每个词元激活约230亿参数。
Beam 提供 BF16、FP8、NVFP4 三种精度权重,支持 Transformers、vLLM 和 SGLang,并附带基于 Rust 的任务执行框架与后训练方案。BF16 权重文件约1TB。博客估算,在 Transformers 动态缓存、BF16、单序列条件下,完整百万词元上下文另需约36.08GiB 的键值缓存,用于保存已处理内容的中间信息。
每次仅激活部分参数可以减少计算量,但部署仍需容纳全部权重,不能按230亿参数模型估算显存。
Ling-3.1-flash 开源,量化方案降低部署资源需求
据 IT之家10月16日报道,蚂蚁百灵于10月15日宣布开源 Ling-3.1-flash,权重可从 Hugging Face 和 ModelScope 获取。模型总参数约5600亿、每个词元激活约250亿,最高支持100万词元上下文,并加强了工具调用对 JSON Schema 的支持,便于按预定数据结构对接业务接口。
团队采用混合精度量化,将权重占用从约534GB降至292GB;在对应 Hopper GPU 测试配置中,服务部署从8卡降至4卡。在平均输入约8500词元、输出约800词元的四卡测试中,吞吐量约每秒1.36个请求,同时满足首词元延迟中位数低于3秒、输出词元间隔第90百分位低于70毫秒的约束。
四卡部署结果可作容量规划起点,长上下文和高并发服务仍应按自身请求分布验证。
小米开放空间音频模型,让声音理解加入方位信息
据 IT之家10月16日报道,小米于10月15日发布 MiDashengLM-Spatial,公开完整模型权重和推理代码,采用 Apache 2.0 许可。它以 MiDashengLM-7B 为基础,在声音内容理解之外,新增对声源位置与空间分布的感知和推理能力。
开发者可获取模型与评估代码,探索空间音频交互。小米称将陆续应用于智能家居和汽车座舱;这些应用属于后续安排,不能视为消费产品已经获得更新。
AFTER READING
读完之后
本期重点是跨工具记忆与可自行部署的模型更新;选型时仍需结合硬件容量、任务类型和实际负载。
评论