微软宣布Copilot混合推理架构:云端与本地模型自动切换,本月底上线

火星财经快讯

10月08日 12:25
火星财经消息 10月8日,在美国旧金山举办的发布会中,微软宣布GitHub Copilot将在本月底前支持本地AI模型推理,开发者可在云端模型与设备端模型之间自动或手动切换。GitHub Copilot是微软推出的AI编程助手,可集成于Visual Studio Code、CLI等工具,根据代码上下文生成补全、解释或重构建议,此前全程依赖云端模型运行;新上线的混合推理架构,将为用户提供两种模式:自动编排或强制使用设备端模型。用户可在GitHub Copilot CLI、Copilot应用与Visual Studio Code中设置偏好。本地模型选择支持指定提供程序、模型或端点,开发者可通过Windows ML选择MAI Code 1.1 Flash,或连接OpenAI兼容的本地端点并选用其暴露的模型。(广角观察)

本内容旨在传递行业动态,不构成投资建议或承诺。
看更多快讯,下载火星财经 APP