云碩自主 AI · 模型微調 · 地端訓練

自己的料
訓自己的模型

通用模型答得出一般問題,答不出貴單位的問題。xft 把「從一批資料到一顆能部署的模型」整條收進網頁:抓料、整理、訓練、評測、發布,每一步都留得下紀錄,誰在什麼時候用哪一份資料訓了哪一版,查得到。文字、語音、檢索三條模型線都走這一套。

3
條線:文字、語音、檢索
5
個階段一條龍
0
要自己寫的腳本
100%
在自己的機房完成
使用者操作流程

從一批資料
到一顆能部署的模型

由左到右:料怎麼進來、你在哪幾步做決定、平台在哪一步把關。沒蓋整理戳記的料進不了訓練。

xft 使用者操作流程圖
綠=料進來 藍=你的操作 橘=平台把關 紫=平台輸出
核心價值

資料是你的
訓出來的模型也該是你的

把資料送去別人的平台調一調,拿回來的是服務;在自己的機房訓,拿回來的是權重——那是一份放在你自己硬碟裡的資產。

料先整理乾淨

去重、清洗、統一格式、個資遮罩,每一步獨立存檔可以回溯,砍掉的另存不刪。沒蓋整理戳記的料不准進訓練。

訓練派到對的機器

在網頁上開一個訓練工作,平台派到跑得動的 GPU 機器上執行,進度、記錄與產出都在同一頁。

考過才發布

訓完先用評測題庫考過,沒過的版本不出門;通過後合併、量化成你的機器跑得動的格式。

資料不出單位

整條管線跑在自己的機房,原始資料與訓練中間產物都不離開。要在云碩的機群上訓也可以,依你的規定選。

五個階段,六大功能區

照訓練實際的先後
一步一步往下

多數單位卡在第一步——資料沒整理。所以這套的重點不是訓練參數,是前面那一段。

抓料

從指定來源開網頁抓回原文並保留出處;也能接貴單位既有的資料庫讀進來,或取用每日更新的新聞庫。

第一步

資料準備

去重、清洗、正規化、個資掃描,每一道都先自我驗尺,尺沒過就停下來。語音合成的料另有閘門,先篩口音、雜音、音文對齊與停頓。

第二步

選底模與訓練

文字模型之外,也能訓語音辨識、語音合成、嵌入與重排序模型,平台派到合適的機器。政府與教育案只列非中國來源的底模。

第三步

評測

問答題庫之外,也能考「從零做完一個專案」與標準程式題,程式題開考前先驗過題目本身。逐題結果留存,前後兩版直接比。

第四步

合併與發布

合併權重、量化成可部署的格式,連同模型卡與授權文件一起交付;要公開的模型直接從平台上傳 Hugging Face。

第五步

紀錄與稽核

哪一版用了哪一份料、誰跑的、用了哪台機器,逐筆留存,對外交付時拿得出來。

全程
技術與現況

這是我們自己每天在用的平台
不是另外做一套給客戶

云碩在 Hugging Face 公開的 xVITA 語音辨識、嵌入與重排序模型,就是用這套平台訓練並發布的。

派工到自有機群

訓練工作由平台派到合適的 GPU 機器,不同世代與不同架構的機器都能納入。平台更新或重啟時,進行中的訓練與評測會自動接回。

資料品質有尺

每一道整理程序都有判準,並且會先驗自己的尺;尺沒過就中止,不讓壞料無聲流到訓練。

多種訓練方式

全量微調、LoRA、蒸餾與延續預訓練都支援。延續預訓練直接用抓料時留下的原文,讓模型學台灣的用語,不只學怎麼回答。

語音與檢索也看得出進步

語音模型看錯字率、檢索模型看排序提升多少,訓完和原本的底模並排比,沒進步一眼就看得出來。

常見問題

導入前,先把疑慮問清楚

要準備多少資料才夠

不一定要很多。先從一個場景、幾千筆開始,我們會先幫你看資料夠不夠、品質如何;資料不夠我們會直說,不會硬訓一個交差。

只能訓文字模型嗎

不只。語音辨識、語音合成、嵌入與重排序模型都在同一個平台上訓,抓料、整理、評測的步驟相同;語音合成的料會先過口音與音質的篩選。

訓出來的模型是誰的

是你的。權重放在你自己的機器上,連同模型卡、評測結果與授權文件一起交付。

資料會不會外流

整條管線可以完全跑在貴單位自己的機房,原始資料與中間產物都不離開。要在云碩機群上訓也可以,由你決定。

會用到中國來源的模型嗎

政府、教育與醫療案一律不選。底模只列非中國來源的開源模型,選型時會把來源國寫清楚讓你確認。

訓完之後怎麼用

量化成你的機器跑得動的格式後,可以直接接上 xStudio 管用量、或用 xConsole 部署到邊緣設備。

把放了很久的資料,變成一顆模型

我們可以先看一批貴單位的資料,評估訓得出什麼、要花多久。

填寫需求,安排展示 →