AI资讯
苹果与 Meta 破冰：Muse Spark Open 可在两台 M5 Ultra Mac Studio 上本地运行
苹果与 Meta 在经历多年公开对立后出现罕见合作。10 月 15 日 Meta 发布开放权重模型 Muse Spark Open，总参数 8160 亿、每次推理激活 420 亿、支持 100 万 token 上下文，Meta 称其为「…
标签
标签： 本地推理
共 3 篇资讯
AI资讯
GitHub Copilot 将自动决定本地还是云端推理，微软未说明哪些仓库数据会被上传
微软在周三的一篇博客中宣布，GitHub Copilot 将扩展 Project HydraFusion，使其不仅能选择模型，还能决定推理在本地还是云端执行，自动路由预计在 10 月底上线。该功能将出现在 Copilot CLI、Cop…
AI资讯
Transformers 支持直接运行 llama.cpp 的 GGUF 量化模型
Hugging Face 在官方博客宣布，transformers 现已支持高效运行 GGUF 格式模型，用户可以直接从 Hub 上选取 GGUF 检查点，通过熟悉的 from_pretrained 接口加载并生成内容。GGUF 由 l…