試)
如何用 Foundry Toolkit for VS Code4 步完成從選模型到本地測(cè)試【免費(fèi)下載鏈接】foundry-dev-tools項(xiàng)目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-toolsFoundry Toolkit for Visual Studio Code前身是 AI Toolkit是微軟 Foundry 開發(fā)者工具套件里的一款 VS Code 擴(kuò)展。它把瀏覽模型目錄、與模型對(duì)話測(cè)試、微調(diào)模型、調(diào)試 Agent、查看調(diào)用鏈這些環(huán)節(jié)收進(jìn)同一個(gè)編輯器用一套擴(kuò)展串起完整流程。本文按你腦子里問題的順序一步步帶你走通。認(rèn)識(shí) Foundry Toolkit它能替你做什么很多人第一反應(yīng)是這和我直接寫代碼有什么區(qū)別。一句話區(qū)分Foundry Toolkit 管的是 AI 應(yīng)用里的模型這一側(cè)——找模型、試模型、調(diào)模型、看模型而你的業(yè)務(wù)代碼照舊寫在 VS Code 里不需要換環(huán)境。官方把整條工具鏈分成了 4 個(gè)入口你可以按自己的工作習(xí)慣挑工具干什么Foundry Toolkit for VS Code在 VS Code 里瀏覽模型、聊天測(cè)試、微調(diào)、管理資源本文主角Azure Developer CLIazd用終端命令腳手架項(xiàng)目、部署、自動(dòng)化Foundry Skills給你的編程助手coding agent提供可復(fù)用的 Foundry 開發(fā)指引Foundry Canvas預(yù)覽版在引導(dǎo)式可視化面板里設(shè)計(jì)、配置、部署托管 Agent這四者不沖突可以混用。典型路徑是先在 VS Code 里把項(xiàng)目搭起來再用azd命令行部署到云端。安裝 Foundry Toolkit 并驗(yàn)證環(huán)境用 1 次點(diǎn)擊或 1 個(gè)腳本裝好擴(kuò)展最直接的方式按CtrlShiftX打開擴(kuò)展面板搜索 AI Toolkit點(diǎn)安裝。正式發(fā)布版功能穩(wěn)定預(yù)發(fā)布版可以提前體驗(yàn)新特性。裝完你會(huì)看到擴(kuò)展出現(xiàn)在左側(cè)活動(dòng)欄并提示重新加載窗口。另一條路是用官方 DevPack 一鍵安裝器把整套開發(fā)工具一次裝齊。它檢測(cè)到系統(tǒng)里有 VS Code 或 GitHub Copilot App 時(shí)才會(huì)裝上 Toolkit 和 Canvas 擴(kuò)展不會(huì)替你把開發(fā)環(huán)境改面目全非。倉庫里放著這兩個(gè)安裝腳本devpack-installer/scripts/ 下的foundry-devpack.shLinux/macOS和foundry-devpack.ps1Windows。?? 安裝后記得重新加載 VS Code 窗口。首次啟動(dòng)時(shí)擴(kuò)展會(huì)自動(dòng)檢測(cè) Python 依賴缺什么會(huì)彈出安裝提示跟著走幾分鐘就能完成。首次啟動(dòng)后做 3 件事讓擴(kuò)展把環(huán)境檢測(cè)跑完。如果你有 NVIDIA 顯卡先確認(rèn)終端里nvidia-smi能正常輸出否則后面微調(diào)時(shí)容易遇到未檢測(cè)到 GPU。從側(cè)邊欄進(jìn)入內(nèi)置的快速入門引導(dǎo)它會(huì)帶你完成選模型、建項(xiàng)目這些基礎(chǔ)動(dòng)作。確認(rèn)側(cè)邊欄樹視圖里出現(xiàn)了 Models、Playground、Tracing 等節(jié)點(diǎn)——看到這個(gè)說明安裝完成。圖 1Foundry Toolkit 首次啟動(dòng)的內(nèi)置引導(dǎo)頁跟著走完就能進(jìn)入 Playground 與模型對(duì)話為你的電腦找到合適的模型用模型目錄的 3 組篩選條件在側(cè)邊欄點(diǎn)Models打開模型目錄。模型來自 GitHub、ONNX、OpenAI、Anthropic、Google 等多個(gè)托管源卡片列表支持 3 組篩選Hosted by / Publisher模型托管在誰家、哪家機(jī)構(gòu)出品Device TypeCPU、GPU 還是 NPU 能跑——這是決定我電腦能不能跑的關(guān)鍵Fine-tuning Support打開后只顯示支持微調(diào)的模型 拿不準(zhǔn)就先按 Device Type 篩再從知名出品方里挑個(gè)小模型。等它在你機(jī)器上跑通了再換大的試錯(cuò)成本幾乎為零?？炊Ｐ涂ㄆ系?3 個(gè)按鈕每張模型卡片上有 3 個(gè)入口Try in Playground不下載模型直接試推理Download從 Hugging Face 等源把模型文件拉到本地Load in Playground把已下載的模型載入聊天面板。點(diǎn)完前一個(gè)按鈕幾秒后你就會(huì)看到 Playground 面板自動(dòng)彈出、模型已選中的狀態(tài)。圖 2模型目錄以卡片展示模型可按托管源、出品方和設(shè)備類型篩選在 Playground 里直接測(cè)試模型不下載模型先試聊Playground 就是下決定前的試駕場(chǎng)。在頂部下拉框選一個(gè)模型可選地填上下文指令、調(diào) temperature 等參數(shù)然后在底部輸入框直接提問。多模態(tài)模型還支持附加本地文件點(diǎn)附件圖標(biāo)選一個(gè)圖片或文檔模型會(huì)把它和文字 prompt 一起理解。圖 3Playground 聊天測(cè)試界面上方選模型與參數(shù)下方輸入問題即可看到生成結(jié)果把你已有的模型接進(jìn)來目錄之外的模型有兩條接入路徑遠(yuǎn)程模型BYOM把鼠標(biāo)懸停在MY MODELS上點(diǎn)填入模型名、托管 URL 和可選的認(rèn)證信息任何 OpenAI 兼容的聊天端點(diǎn)都能變成一個(gè)可選模型。本地 Ollama裝好 Ollama 后選 Add an Ollama model它會(huì)列出本機(jī)已下載的模型供你勾選加入。ollama pull model-name列表里沒有想要的模型時(shí)先在終端跑上面這條命令下載。 Ollama 列表只展示已下載過的模型且 Ollama 模型暫不支持附件功能需要多模態(tài)的話請(qǐng)選目錄模型或遠(yuǎn)程端點(diǎn)。Playground 的完整用法可參考 doc/playground.md。讓通用模型變成懂你業(yè)務(wù)的模型從微調(diào)項(xiàng)目模板起步微調(diào)就是用你的小數(shù)據(jù)集讓一個(gè)已受過教育的模型學(xué)會(huì)你的具體任務(wù)。Toolkit 提供開箱即用的微調(diào)項(xiàng)目模板選好模型、給項(xiàng)目起名、指定存放位置點(diǎn) Generate Project擴(kuò)展會(huì)把運(yùn)行環(huán)境替你準(zhǔn)備好。訓(xùn)練參數(shù)拿不準(zhǔn)就直接用默認(rèn)值配合項(xiàng)目里自帶的示例數(shù)據(jù)集先跑通一遍流程。數(shù)據(jù)如果來自 Hugging Face先登錄一次數(shù)據(jù)集才能替你下載huggingface-cli login把微調(diào)和推理放到云端跑本地沒有 GPU 也沒關(guān)系。創(chuàng)建項(xiàng)目時(shí)不勾選本地微調(diào)擴(kuò)展會(huì)引導(dǎo)你預(yù)配 Azure Container Apps 環(huán)境然后云端提交微調(diào)任務(wù)用 QLoRA 方式產(chǎn)出 LoRA 適配器。訓(xùn)練全程可以在 VS Code 的輸出面板里看流式日志。完成后還能部署推理端點(diǎn)通過自帶的 Gradio 網(wǎng)頁立刻驗(yàn)證微調(diào)效果。圖 4微調(diào)完成后啟動(dòng)的 Gradio 網(wǎng)頁可直接對(duì)話驗(yàn)證微調(diào)后的模型表現(xiàn)?? 微調(diào)任務(wù)可能因資源不足進(jìn)入排隊(duì)流式日志遲遲不出時(shí)等一會(huì)兒再用Show Streaming Logs命令重連GPU 檢測(cè)不通過時(shí)先更新 NVIDIA 驅(qū)動(dòng)。云端微調(diào)與推理的完整步驟見 doc/finetune.md。觀察你的 AI 應(yīng)用內(nèi)部在做什么用 Agent Inspector 一鍵調(diào)試模型包成 Agent 之后問題從能不能出結(jié)果變成是不是在對(duì)地出結(jié)果。Agent Inspector 就是為此設(shè)計(jì)按 F5它會(huì)帶著調(diào)試器啟動(dòng)你的 Agent你在聊天區(qū)發(fā)消息觸發(fā)工作流Agent 之間的執(zhí)行圖實(shí)時(shí)可視化雙擊任意節(jié)點(diǎn)就能跳到對(duì)應(yīng)代碼。沒有現(xiàn)成 Agent 也能玩在 Inspector 里選Scaffold a Sample它先生成一個(gè)預(yù)配置好的示例項(xiàng)目再按 F5 體驗(yàn)完整流程。圖 5Agent Inspector 的快速開始入口選擇 Scaffold a Sample 即可獲得可運(yùn)行的 Agent 示例接入追蹤收集器另一層觀察手段是分布式追蹤在樹視圖選中Tracing點(diǎn)Start Collector擴(kuò)展會(huì)在本地起一個(gè) OTLP 收集服務(wù)給 AI 應(yīng)用加上插樁代碼后運(yùn)行它每次模型調(diào)用都會(huì)以 span 的形式出現(xiàn)在追蹤列表里點(diǎn)進(jìn)去能看到輸入、輸出和完整元數(shù)據(jù)。支持的 SDK 清單與插樁示例見 doc/tracing.md。Foundry Toolkit 并不替代你的業(yè)務(wù)代碼它只是把 AI 開發(fā)里模型這一側(cè)統(tǒng)一收進(jìn)了 VS Code?，F(xiàn)在打開模型目錄挑一個(gè)標(biāo)注為能在你設(shè)備運(yùn)行的模型在 Playground 里完成第一次對(duì)話就是最快的第一步?！久赓M(fèi)下載鏈接】foundry-dev-tools項(xiàng)目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 如何用 Foundry Toolkit for VS Code：4 步完成從選模型到本地測(cè)試
如何用 Foundry Toolkit for VS Code4 步完成從選模型到本地測(cè)試【免費(fèi)下載鏈接】foundry-dev-tools項(xiàng)目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-toolsFoundry Toolkit for Visual Studio Code前身是 AI Toolkit是微軟 Foundry 開發(fā)者工具套件里的一款 VS Code 擴(kuò)展。它把瀏覽模型目錄、與模型對(duì)話測(cè)試、微調(diào)模型、調(diào)試 Agent、查看調(diào)用鏈這些環(huán)節(jié)收進(jìn)同一個(gè)編輯器用一套擴(kuò)展串起完整流程。本文按你腦子里問題的順序一步步帶你走通。認(rèn)識(shí) Foundry Toolkit它能替你做什么很多人第一反應(yīng)是這和我直接寫代碼有什么區(qū)別。一句話區(qū)分Foundry Toolkit 管的是 AI 應(yīng)用里的模型這一側(cè)——找模型、試模型、調(diào)模型、看模型而你的業(yè)務(wù)代碼照舊寫在 VS Code 里不需要換環(huán)境。官方把整條工具鏈分成了 4 個(gè)入口你可以按自己的工作習(xí)慣挑工具干什么Foundry Toolkit for VS Code在 VS Code 里瀏覽模型、聊天測(cè)試、微調(diào)、管理資源本文主角Azure Developer CLIazd用終端命令腳手架項(xiàng)目、部署、自動(dòng)化Foundry Skills給你的編程助手coding agent提供可復(fù)用的 Foundry 開發(fā)指引Foundry Canvas預(yù)覽版在引導(dǎo)式可視化面板里設(shè)計(jì)、配置、部署托管 Agent這四者不沖突可以混用。典型路徑是先在 VS Code 里把項(xiàng)目搭起來再用azd命令行部署到云端。安裝 Foundry Toolkit 并驗(yàn)證環(huán)境用 1 次點(diǎn)擊或 1 個(gè)腳本裝好擴(kuò)展最直接的方式按CtrlShiftX打開擴(kuò)展面板搜索 AI Toolkit點(diǎn)安裝。正式發(fā)布版功能穩(wěn)定預(yù)發(fā)布版可以提前體驗(yàn)新特性。裝完你會(huì)看到擴(kuò)展出現(xiàn)在左側(cè)活動(dòng)欄并提示重新加載窗口。另一條路是用官方 DevPack 一鍵安裝器把整套開發(fā)工具一次裝齊。它檢測(cè)到系統(tǒng)里有 VS Code 或 GitHub Copilot App 時(shí)才會(huì)裝上 Toolkit 和 Canvas 擴(kuò)展不會(huì)替你把開發(fā)環(huán)境改面目全非。倉庫里放著這兩個(gè)安裝腳本devpack-installer/scripts/ 下的foundry-devpack.shLinux/macOS和foundry-devpack.ps1Windows。?? 安裝后記得重新加載 VS Code 窗口。首次啟動(dòng)時(shí)擴(kuò)展會(huì)自動(dòng)檢測(cè) Python 依賴缺什么會(huì)彈出安裝提示跟著走幾分鐘就能完成。首次啟動(dòng)后做 3 件事讓擴(kuò)展把環(huán)境檢測(cè)跑完。如果你有 NVIDIA 顯卡先確認(rèn)終端里nvidia-smi能正常輸出否則后面微調(diào)時(shí)容易遇到未檢測(cè)到 GPU。從側(cè)邊欄進(jìn)入內(nèi)置的快速入門引導(dǎo)它會(huì)帶你完成選模型、建項(xiàng)目這些基礎(chǔ)動(dòng)作。確認(rèn)側(cè)邊欄樹視圖里出現(xiàn)了 Models、Playground、Tracing 等節(jié)點(diǎn)——看到這個(gè)說明安裝完成。圖 1Foundry Toolkit 首次啟動(dòng)的內(nèi)置引導(dǎo)頁跟著走完就能進(jìn)入 Playground 與模型對(duì)話為你的電腦找到合適的模型用模型目錄的 3 組篩選條件在側(cè)邊欄點(diǎn)Models打開模型目錄。模型來自 GitHub、ONNX、OpenAI、Anthropic、Google 等多個(gè)托管源卡片列表支持 3 組篩選Hosted by / Publisher模型托管在誰家、哪家機(jī)構(gòu)出品Device TypeCPU、GPU 還是 NPU 能跑——這是決定我電腦能不能跑的關(guān)鍵Fine-tuning Support打開后只顯示支持微調(diào)的模型 拿不準(zhǔn)就先按 Device Type 篩再從知名出品方里挑個(gè)小模型。等它在你機(jī)器上跑通了再換大的試錯(cuò)成本幾乎為零?？炊Ｐ涂ㄆ系?3 個(gè)按鈕每張模型卡片上有 3 個(gè)入口Try in Playground不下載模型直接試推理Download從 Hugging Face 等源把模型文件拉到本地Load in Playground把已下載的模型載入聊天面板。點(diǎn)完前一個(gè)按鈕幾秒后你就會(huì)看到 Playground 面板自動(dòng)彈出、模型已選中的狀態(tài)。圖 2模型目錄以卡片展示模型可按托管源、出品方和設(shè)備類型篩選在 Playground 里直接測(cè)試模型不下載模型先試聊Playground 就是下決定前的試駕場(chǎng)。在頂部下拉框選一個(gè)模型可選地填上下文指令、調(diào) temperature 等參數(shù)然后在底部輸入框直接提問。多模態(tài)模型還支持附加本地文件點(diǎn)附件圖標(biāo)選一個(gè)圖片或文檔模型會(huì)把它和文字 prompt 一起理解。圖 3Playground 聊天測(cè)試界面上方選模型與參數(shù)下方輸入問題即可看到生成結(jié)果把你已有的模型接進(jìn)來目錄之外的模型有兩條接入路徑遠(yuǎn)程模型BYOM把鼠標(biāo)懸停在MY MODELS上點(diǎn)填入模型名、托管 URL 和可選的認(rèn)證信息任何 OpenAI 兼容的聊天端點(diǎn)都能變成一個(gè)可選模型。本地 Ollama裝好 Ollama 后選 Add an Ollama model它會(huì)列出本機(jī)已下載的模型供你勾選加入。ollama pull model-name列表里沒有想要的模型時(shí)先在終端跑上面這條命令下載。 Ollama 列表只展示已下載過的模型且 Ollama 模型暫不支持附件功能需要多模態(tài)的話請(qǐng)選目錄模型或遠(yuǎn)程端點(diǎn)。Playground 的完整用法可參考 doc/playground.md。讓通用模型變成懂你業(yè)務(wù)的模型從微調(diào)項(xiàng)目模板起步微調(diào)就是用你的小數(shù)據(jù)集讓一個(gè)已受過教育的模型學(xué)會(huì)你的具體任務(wù)。Toolkit 提供開箱即用的微調(diào)項(xiàng)目模板選好模型、給項(xiàng)目起名、指定存放位置點(diǎn) Generate Project擴(kuò)展會(huì)把運(yùn)行環(huán)境替你準(zhǔn)備好。訓(xùn)練參數(shù)拿不準(zhǔn)就直接用默認(rèn)值配合項(xiàng)目里自帶的示例數(shù)據(jù)集先跑通一遍流程。數(shù)據(jù)如果來自 Hugging Face先登錄一次數(shù)據(jù)集才能替你下載huggingface-cli login把微調(diào)和推理放到云端跑本地沒有 GPU 也沒關(guān)系。創(chuàng)建項(xiàng)目時(shí)不勾選本地微調(diào)擴(kuò)展會(huì)引導(dǎo)你預(yù)配 Azure Container Apps 環(huán)境然后云端提交微調(diào)任務(wù)用 QLoRA 方式產(chǎn)出 LoRA 適配器。訓(xùn)練全程可以在 VS Code 的輸出面板里看流式日志。完成后還能部署推理端點(diǎn)通過自帶的 Gradio 網(wǎng)頁立刻驗(yàn)證微調(diào)效果。圖 4微調(diào)完成后啟動(dòng)的 Gradio 網(wǎng)頁可直接對(duì)話驗(yàn)證微調(diào)后的模型表現(xiàn)?? 微調(diào)任務(wù)可能因資源不足進(jìn)入排隊(duì)流式日志遲遲不出時(shí)等一會(huì)兒再用Show Streaming Logs命令重連GPU 檢測(cè)不通過時(shí)先更新 NVIDIA 驅(qū)動(dòng)。云端微調(diào)與推理的完整步驟見 doc/finetune.md。觀察你的 AI 應(yīng)用內(nèi)部在做什么用 Agent Inspector 一鍵調(diào)試模型包成 Agent 之后問題從能不能出結(jié)果變成是不是在對(duì)地出結(jié)果。Agent Inspector 就是為此設(shè)計(jì)按 F5它會(huì)帶著調(diào)試器啟動(dòng)你的 Agent你在聊天區(qū)發(fā)消息觸發(fā)工作流Agent 之間的執(zhí)行圖實(shí)時(shí)可視化雙擊任意節(jié)點(diǎn)就能跳到對(duì)應(yīng)代碼。沒有現(xiàn)成 Agent 也能玩在 Inspector 里選Scaffold a Sample它先生成一個(gè)預(yù)配置好的示例項(xiàng)目再按 F5 體驗(yàn)完整流程。圖 5Agent Inspector 的快速開始入口選擇 Scaffold a Sample 即可獲得可運(yùn)行的 Agent 示例接入追蹤收集器另一層觀察手段是分布式追蹤在樹視圖選中Tracing點(diǎn)Start Collector擴(kuò)展會(huì)在本地起一個(gè) OTLP 收集服務(wù)給 AI 應(yīng)用加上插樁代碼后運(yùn)行它每次模型調(diào)用都會(huì)以 span 的形式出現(xiàn)在追蹤列表里點(diǎn)進(jìn)去能看到輸入、輸出和完整元數(shù)據(jù)。支持的 SDK 清單與插樁示例見 doc/tracing.md。Foundry Toolkit 并不替代你的業(yè)務(wù)代碼它只是把 AI 開發(fā)里模型這一側(cè)統(tǒng)一收進(jìn)了 VS Code?，F(xiàn)在打開模型目錄挑一個(gè)標(biāo)注為能在你設(shè)備運(yùn)行的模型在 Playground 里完成第一次對(duì)話就是最快的第一步?！久赓M(fèi)下載鏈接】foundry-dev-tools項(xiàng)目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考