VS Code 支持 BYOK 本地模型开发,内联建议仍需第三方工具补足
VS Code 支持 BYOK 本地模型开发但内联建议仍受限需第三方工具补足微软大力推动将 Visual Studio Code 打造成使用其 AI 服务的主要途径大多以 GitHub Copilot 形式呈现。GitHub Copilot 与 VS Code 深度集成带来内联自动补全功能等便利但对于想用其他模型或本地部署大语言模型LLM的用户来说有些令人沮丧。Visual Studio Code 1.122 引入“无需 GitHub 登录即可使用 BYOK自带密钥”新功能允许在气隙或受限环境中使用聊天、工具和 MCP 服务器还支持用像 Ollama 这样的本地模型实现完全离线工作流程。不过目前无法用本地 LLM 提供内联和下一次编辑建议至少在无额外工具时做不到。为 BYOK 模式选择模型若想在 VS Code 自带模型系统用本地 LLM需先部署模型。VS Code 自身无模型部署机制未来可能有 VS Code 扩展提供类似功能。部署模型复杂需专门应用程序。一种简单部署方式是通过像 LM Studio 这样的产品它是方便的图形用户界面GUI可在自己硬件上启动、服务和管理 LLM。模型部署系统不一定和运行 VS Code 的系统相同也可以是自己控制的服务器或云实例。选择模型也很重要。很多模型功能强大但体积大在普通硬件上运行效果不佳。实用经验法则是选能适配现有显存又能满足较大令牌上下文越大越好所需内存的模型且该模型要适合编码和开发工作。以下是能轻松适配 8GB 显存的此类模型Gemma4有效 20 亿参数版本Qwen3.5 9BCodestral 22B v.0.1专有许可证在 VS Code 中设置 BYOK 模式模型部署并运行后可将其与 Visual Studio Code 集成。若之前禁用了 VS Code 的 AI 功能需重新启用确保“chat.disableAIFeatures”设置为关闭状态可在“设置 | 聊天 | 其他”中找到该设置。第三方语言模型通过 Visual Studio Code 的语言模型列表管理。按下 Ctrl Shift P 并输入“Manage Language Models”可打开现有语言模型列表。默认情况下可用的模型仅为作为外部 API 提供的模型而非本地运行的模型。添加新模型首先会看到内置模型列表这些模型均为外部部署。要添加新模型点击右上角“Add Models”并选择“Custom Endpoint”随后会有一系列提示组名默认是“Custom Endpoint”可选择任何想要的名称该名称仅用于组织模型列表不影响模型识别或连接等功能。API 密钥若已将 LM Studio 配置为使用 API 密钥来提供模型服务需在此处提供该密钥若在本地部署模型且未明确设置 API 密钥则可留空。API 类型选项包括“Chat Completions”“Responses”和“Messages”大多数情况下希望使用“Responses”因为它是最通用的。完成上述信息填写后会进入用于编辑 JSON 文件的模态编辑器该文件包含正在配置的端点的详细信息。还需在标记字段中输入一些详细信息id用于唯一标识此条目的文本字段ID 选择基本任意若只使用一个模型ID 可以是模型名称。name模型在模型服务器上的标识名称在 LM Studio 中可通过点击主界面中的“My Models”然后选择相关模型的三点图标并点击“Copy Default Identifier”来获取该名称。例如对于 Qwen 2.5名称可能类似于“qwen2.5-coder-7b-instruct”。url服务器端点的 URL在 LM Studio 中默认类似“http://127.0.0.1:1234/v1”末尾的“/v1”很重要因为该端点用于自动发现模型及其功能。其他字段通常无需编辑。大多数模型都具备工具调用功能。若确定所使用的模型不支持视觉功能可将“vision”设置为“false”。填写完这些字段后关闭模态编辑器以保存更改。重新加载“Manage Language Models”页面将看到新的端点。现在应该能够启动聊天窗口并使用已定义的模型进行对话和使用相关工具。目前Visual Studio Code 的 BYOK 功能存在重大限制仅适用于聊天和工具任务不允许用本地模型进行内联建议或代码补全。要在 VS Code 中利用本地模型实现更多功能唯一办法是使用像 Continue 这样的第三方工具。目前尚不清楚微软最终是否会解除这一限制。GitHub Copilot 与 VS Code 的集成是 Copilot 服务触达目标用户的重要方式。就目前而言肯定可以在 VS Code 的 AI 辅助开发工作中大量使用第三方和本地模型并通过额外工具来缩小功能差距。相关领域开发工具、软件开发、人工智能、生成式 AI