一站式企業 AI 解決方案生態系

一張圖,看懂云碩如何驅動您的 AI 轉型

從使用者接入、9 套 AI 應用、AI 核心引擎到資料與基礎設施——點擊任一節點探索功能細節,或觀看請求如何在平台中層層流動。

成立 2012 · 持續創新

企業 AI 解決方案
驅動您的數位轉型

云碩科技 14 年深耕資訊服務,累計 222 件政府採購實績。提供從 AI 對話、知識管理、ESG 合規到流程自動化的完整產品線,助您在 AI 時代搶先佈局。

14
年資訊服務經驗
222+
件政府採購實績(持續增加)
5.97億+
累計得標金額(持續增加)
9
套 AI 產品解決方案
Azure
Microsoft AI Cloud Partner
自主 AI
模型訓練・自研技術專家
政府機關深度信任
14 年 222 件政府採購實績,深度理解公部門法規與流程需求。從台中市政府到各級機關,都有我們落地的解決方案。
AI 原生產品設計
每套產品以 AI 為核心架構,非事後加入功能。GraphRAG、多模型路由、工作流自動化——所有 AI 能力深度整合於業務流程中。
資料主權在您手中
全產品支援地端(On-Premise)部署,以 vLLM 為主、llama.cpp/Ollama 為輔的地端模型推理,敏感資料完全不離境,符合政府資安要求與個資法規範。
AI MODEL TRAINING · 模型訓練能力

不只打造系統,更能訓練專屬模型

從資料工程、基底模型選型、LoRA/QLoRA 微調,到評估對齊與地端部署——云碩用您的資料,在自有 GPU 叢集訓練出只屬於您的 AI 模型。

STEP 01
資料工程
清洗、標註、去識別化,建立高品質訓練資料集
STEP 02
基底模型
選用 Llama/Mistral/Qwen 等開源模型為起點
STEP 03
微調訓練
LoRA/QLoRA 微調,自有 GPU 叢集加速
STEP 04
評估對齊
自動評測、RAG 校準與安全對齊驗證
STEP 05
部署上線
地端/雲端部署,API 與 RAG 即時服務
訓練損失曲線 (Training Loss)LIVE
LoRA 微調 · 即時收斂監控
2.400
Loss · 損失值
32.0%
Accuracy · 準確率
0
Step · 訓練步數
1/10
Epoch · 訓練輪次
GPU 叢集使用率
本地 GPU · Tesla P100 · MI50 · DGX Spark
本輪進度
FROM SCRATCH · 模型研發

從零打造,專屬大語言模型

不只微調——云碩具備從語料工程、Tokenizer、架構設計,到大規模預訓練與對齊的完整自研能力,為您打造真正自有的基礎模型。

STEP 01
語料工程
蒐集、清洗、去重 TB 級多語語料
STEP 02
Tokenizer
訓練專屬詞表(BPE),最佳化中文切詞
STEP 03
架構設計
Transformer 層數、維度、注意力頭設計
STEP 04
預訓練
大規模分散式預訓練(自有 GPU 叢集)
STEP 05
對齊發布
SFT/DPO 對齊,發布自有基礎模型
自有 GPU 算力叢集 不依賴外部算力 · 即時遙測每 1.5 秒 即時算力監控 →
2.10PFLOPS 總算力
24GPU 加速器
0GB 總記憶體
10台設備節點
CUDA + ROCm6 系統雙架構
資料中心算力 · DATACENTER
MI50-FARM
8× Radeon Instinct MI50 · 256GB
P100-FARM
4× NVIDIA Tesla P100 · 64GB
DGX Spark ×2
GB10 Grace Blackwell · 241GB · bf16 微調主力 · 雙機 FSDP 跑 gpt-oss-120b 蒸餾
Strix Halo ×2
Ryzen AI MAX 395 · 雙機 192GB · 協同跑 MiniMax-M2.7(228B)
W580
2× RTX 6000 Ada 48G + A30 24G · 120GB · bf16/fp8 訓練+獨立推論
RTX 5090
Blackwell GB202 · 32GB · 原生 fp4 推論
邊緣推論節點 · EDGE INFERENCE
Jetson Thor
研華 Advantech 邊緣 AI · 123GB
Transformer 架構組裝BUILDING
7B 參數 · 32 層 · 從零預訓練
LM Head→ vocab 32,000
Final LayerNormRMSNorm
Transformer Block 25–32attn + MLP
Transformer Block 17–24attn + MLP
Transformer Block 09–16attn + MLP
Transformer Block 01–08d_model 4096 · heads 32
Token + Positional Embeddingtokens → vectors
預訓練進度
分散式訓練 · ZeRO-3 · 自有 GPU 叢集
7.0B
Parameters · 參數量
0.00T
Tokens · 訓練語料
3,200
Perplexity · 困惑度
1.00M
tok/s · 吞吐量
語料消化進度
AI 設備・NVIDIA DGX

同樣的設備,也可以搬進你的機房

我們自己用它訓練 xVITA,也替客戶規劃、採購與建置。以下規格取自 NVIDIA 官方,實際組態與交期依供貨狀況確認。

DGX Spark 與 DGX Station 外觀與體積示意:Spark 是桌邊放得下的扁盒,旁有馬克杯作為體積參考;Station 是直立式機箱,明顯大上一個量級 能處理的模型參數規模,一層包一層:Spark 微調 700 億、推論 2000 億、四台串接 7000 億;最外層是 Station 單機 1 兆
NVIDIA DGX Spark
桌邊級・研究室與單一部門

體積像一台迷你主機,放辦公桌邊就能跑。適合系所、研究室或單一部門自己做模型微調與開發。

晶片GB10 Grace Blackwell
算力1 PFLOP FP4
官方僅公布 FP4 數值
記憶體128 GB LPDDR5x
273 GB/s
處理器20 核 Arm
10× Cortex-X925 + 10× A725
儲存4 TB NVMe 自加密
網路ConnectX-7 200 Gb/s
另有 10 GbE
耗電240 W
體積150 × 150 × 50.5 mm
1.2 kg
適合誰想自己微調模型、但不想為此動機房的單位。四台串接就能往上接到千億參數。
預約訂貨・索取報價
NVIDIA DGX Station
企業級・取代整櫃機房

單機就能訓練與服務兆級參數模型。不必為了跑大模型去租機櫃、拉專線、養機房團隊。

晶片GB300 Grace Blackwell Ultra
算力20 PFLOPS FP4
10 FP8/FP6・5 FP16/BF16
記憶體748 GB 一致性記憶體
252 GB HBM3e @ 7.1 TB/s
處理器72 核 Grace
Neoverse V2
儲存依組態配置
網路ConnectX-8 SuperNIC
800 Gb/s
耗電1,600 W
體積桌邊立式機箱
尺寸依最終組態
適合誰原本要租機櫃或採購整櫃 GPU 才做得到的規模,現在一台桌邊機箱就完成。
預約訂貨・索取報價
我們自己就有兩台 DGX Spark 它們是 xVITA 的訓練主力,雙機串接跑千億參數模型的蒸餾。上方的算力叢集面板可以看到它們此刻的即時狀態,不是型錄上的數字。 看即時算力 官網 AI 設備產品頁:DGX Spark、DGX Station、研華 MIC-743-AT、ASRock AI BOX-A395
VIRTUALIZATION · 虛擬化納管

核心技術 · 虛擬化環境

跨平台 GPU 虛擬化與資源納管能力——從微軟混合雲、企業級 vSphere 到私有雲作業系統,彈性切分與調度算力。

Az
Azure Local
Microsoft 混合雲 · 前 Azure Stack HCI
虛擬化Hyper-V + Azure Arc 統一納管
GPU 管理GPU 分割(GPU-P)/ 直接指派(DDA 直通)
vS
VMware vSphere
企業級虛擬化平台
虛擬化ESXi + vCenter 集中管理(vMotion/HA/DRS)
GPU 管理NVIDIA vGPU / DirectPath I/O 直通
C
CubeCOS
私有雲作業系統
虛擬化私有雲 OS · 雲端資源池統一管理
GPU 管理GPU 直通 / vGPU 切分
主力產品

七套自建 AI 服務,自己開發、自己維運

每一套都是云碩自己開發、自己維運的產品,全地端部署,資料不離開你的機房。從校務分析、會議記錄、廠區巡檢,到模型治理與算力調度。另有開源的 agent 框架 xHarness,MIT 授權可自由商用。

xIR
校務數字問一句就有,不必等報表開發

校務研究智慧分析平台。校內資料自己串接,用自然語言直接問,回答附上資料來源與計算口徑。既有 Qlik、Power BI 報表照舊使用。

資料不出校,學生資料留在校內機房
數字由指標層算出,模型不決定數值
已於國立臺灣藝術大學上線
大專校院 校務研究辦公室 教務處
xMeetAI
開完會 5 分鐘拿到完整摘要與行動清單

AI 智慧會議記錄平台,自動辨識多位發言人、即時生成重點摘要與行動項目。台語、客語全支援,Azure 原生架構符合台灣資料主權要求。

節省 80% 會議整理時間
說話者自動分離,誰說了什麼一目了然
直接整合 Microsoft Teams / Outlook
企業集團 政府機關 顧問公司 金融
x360
廠區走一遍,變成點開就到的巡檢現場

廠區 360 度巡檢平台。全景巡檢點導航、感測器數值即時疊層、平面圖同步定位,發現異常當場回報建檔。

支援 Modbus TCP、OPC UA、MQTT 五種來源
全地端運行,執行期不需外網
二十七項安全驗收全數通過
製造業 廠務 工安 設備維護
staffKMv5.43.0
行政問題一問即答,新人上手速度快 3 倍

專為政府機關及大型企業行政設計的 AI 知識管理平台,內建公文、人事、採購、經費、SOP、新進訓練六大場景,GraphRAG 確保查詢精準有依據。

六大行政場景開箱即用,快速導入
GraphRAG 混合搜尋,recall@5 高達 0.88
視覺化工作流程,無需程式碼即可設計
政府機關 學術機構 大型企業 公共事業
xESG
盤查、碳費、CBAM 到報告,一條龍完成

碳能管理平台。溫室氣體盤查、台灣碳費申報、歐盟 CBAM、供應商協作、碳權管理與 ESG 報告產製一站完成,內建永續戰情室大屏。

依 ISO 14064-1:2018 與 GRI 準則實作
Scope 2 位置基準與市場基準並陳
供應商自行填報,Scope 3 不必人工催收
上市公司 製造業 供應鏈 金融機構
xStudio
公司用了幾顆模型、花多少錢,一頁看完

AI 模型管理與計費平台。外購 API 與自家 GPU 上的模型收進同一個 OpenAI 相容入口,開發者只改一行 base_url,管理者拿到逐筆用量與台幣成本。

額度用完當下硬切,不是寄警告信
自建算力與外購 API 同一套報表可比較
已用於管理云碩自有機群與採購 API
企業 IT 開發團隊 財務控管
xReactor
機房的 GPU,用起來像雲端

GPU 算力管理平台。選機型按開機約一分鐘可用,JupyterLab 或 SSH 直接進去,環境存成快照下次接續。關機停止計費、閒置自動釋放。

底層是 k8s 真叢集,不是模擬畫面
團隊配額由伺服器端強制執行
資安已完成硬化稽核
大專校院 研究機構 企業機房
xHarness開源 MIT
讓 AI 動手做事,但每步都要你同意

開源 AI agent 框架,MIT 授權。約 1,900 行 Python、零執行期相依,接任何 OpenAI 相容端點。工具在沙箱裡跑,有副作用的動作一律先審批。

完全地端可用,除模型端點不外傳資料
多節點艦隊,一頁監看並可就地停止
已在云碩機群常駐運行
開發團隊 維運自動化 開源社群
準備好讓 AI 為您的業務加速了嗎?

歡迎預約 30 分鐘產品展示,我們將根據您的業務需求,量身推薦最適合的解決方案。

台北 中山區中山北路二段 170 號 12 樓
台中 北屯區大連路二段 221 號 2 樓
新竹 竹北市中山路 220 號 3 樓(同心樓)
統編:53998783
負責人:李偉業
成立:2012 年 10 月
核心技術生態系統
橫跨 9 套產品的完整技術棧,確保系統整合與長期維護能力
前端框架
React 18Next.js 14Vue 3TypeScript 5ViteTailwind CSS
後端框架
FastAPINestJSExpress.jsSpring Boot 3Go gRPC
資料庫
PostgreSQL 16MySQL 8Redis 7pgvectorMilvus
AI / ML
Azure OpenAIGPT-4.1Claude 3.5Gemini 1.5LangGraphGraphRAGvLLMllama.cppOllama
雲端 / 部署
AzureDockerKubernetesHelmOn-Premise
虛擬化 / GPU 調度
Azure LocalVMware vSphereHyper-VCubeCOSNVIDIA vGPUGPU-PDDA 直通
安全 / 合規
HashiCorp VaultOAuth 2.0JWTAzure ADLDAP