成立 2012 · 持續創新

企業 AI 解決方案
驅動您的數位轉型

云碩科技 14 年深耕資訊服務,累計 222 件政府採購實績。提供從 AI 對話、知識管理、ESG 合規到流程自動化的完整產品線,助您在 AI 時代搶先佈局。

14
年資訊服務經驗
222+
件政府採購實績(持續增加)
5.97億+
累計得標金額(持續增加)
9
套 AI 產品解決方案
Azure
Microsoft AI Cloud Partner
自主 AI
模型訓練・自研技術專家
主力產品

八套自建服務,自己開發、自己維運

每一套都是云碩自己開發、自己維運的產品,多數為全地端部署,資料不離開你的機房。從校務研究儀表板、校務 AI 分析、會議記錄、廠區巡檢,到模型治理與算力調度。另有開源的 agent 框架 xHarness,MIT 授權可自由商用。

xIR
校務數字問一句就有,不必等報表開發

校務研究智慧分析平台。校內資料自己串接,用自然語言直接問,回答附上資料來源與計算口徑。既有 Qlik、Power BI 報表照舊使用。

資料不出校,學生資料留在校內機房
數字由指標層算出,模型不決定數值
已於國立臺灣藝術大學上線
大專校院 校務研究辦公室 教務處
校務研究戰情室
教育部 118 張表冊,變成一眼看懂的招生與流失儀表板

Power BI 校務研究儀表板。註冊率、休學率、退學率、生師比、系所體檢與全國 170 所大專校院跨校對標,11 個報表頁現成可用,線上直接試看。

交付資料模型與報表檔,學校自己改、不綁廠商
比率保留分子分母在報表內算,與教育部口徑同構
公開報表免登入,現在就能打開操作
大專校院 校務研究辦公室 招生與教務
xMeetAI
開完會 5 分鐘拿到完整摘要與行動清單

AI 智慧會議記錄平台,自動辨識多位發言人、即時生成重點摘要與行動項目。台語、客語全支援,Azure 原生架構符合台灣資料主權要求。

節省 80% 會議整理時間
說話者自動分離,誰說了什麼一目了然
直接整合 Microsoft Teams / Outlook
企業集團 政府機關 顧問公司 金融
x360
廠區走一遍,變成點開就到的巡檢現場

廠區 360 度巡檢平台。全景巡檢點導航、感測器數值即時疊層、平面圖同步定位,發現異常當場回報建檔。

支援 Modbus TCP、OPC UA、MQTT 五種來源
全地端運行,執行期不需外網
二十七項安全驗收全數通過
製造業 廠務 工安 設備維護
staffKMv5.43.0
行政問題一問即答,新人上手速度快 3 倍

專為政府機關及大型企業行政設計的 AI 知識管理平台,內建公文、人事、採購、經費、SOP、新進訓練六大場景,GraphRAG 確保查詢精準有依據。

六大行政場景開箱即用,快速導入
GraphRAG 混合搜尋,recall@5 高達 0.88
視覺化工作流程,無需程式碼即可設計
政府機關 學術機構 大型企業 公共事業
xESG
盤查、碳費、CBAM 到報告,一條龍完成

碳能管理平台。溫室氣體盤查、台灣碳費申報、歐盟 CBAM、供應商協作、碳權管理與 ESG 報告產製一站完成,內建永續戰情室大屏。

依 ISO 14064-1:2018 與 GRI 準則實作
Scope 2 位置基準與市場基準並陳
供應商自行填報,Scope 3 不必人工催收
上市公司 製造業 供應鏈 金融機構
xStudio
公司用了幾顆模型、花多少錢,一頁看完

AI 模型管理與計費平台。外購 API 與自家 GPU 上的模型收進同一個 OpenAI 相容入口,開發者只改一行 base_url,管理者拿到逐筆用量與台幣成本。

額度用完當下硬切,不是寄警告信
自建算力與外購 API 同一套報表可比較
已用於管理云碩自有機群與採購 API
企業 IT 開發團隊 財務控管
xReactor
機房的 GPU,用起來像雲端

GPU 算力管理平台。選機型按開機約一分鐘可用,JupyterLab 或 SSH 直接進去,環境存成快照下次接續。關機停止計費、閒置自動釋放。

底層是 k8s 真叢集,不是模擬畫面
團隊配額由伺服器端強制執行
資安已完成硬化稽核
大專校院 研究機構 企業機房
xHarness開源 MIT
讓 AI 動手做事,但每步都要你同意

開源 AI agent 框架,MIT 授權。約 1,900 行 Python、零執行期相依,接任何 OpenAI 相容端點。工具在沙箱裡跑,有副作用的動作一律先審批。

完全地端可用,除模型端點不外傳資料
多節點艦隊,一頁監看並可就地停止
已在云碩機群常駐運行
開發團隊 維運自動化 開源社群
一站式企業 AI 解決方案生態系

一張圖,看懂云碩如何驅動您的 AI 轉型

從使用者接入、9 套 AI 應用、AI 核心引擎到資料與基礎設施——點擊任一節點探索功能細節,或觀看請求如何在平台中層層流動。

AI MODEL TRAINING · 模型訓練能力

不只打造系統,更能訓練專屬模型

從資料工程、基底模型選型、LoRA/QLoRA 微調,到評估對齊與地端部署——云碩用您的資料,在自有 GPU 叢集訓練出只屬於您的 AI 模型。

STEP 01
資料工程
清洗、標註、去識別化,建立高品質訓練資料集
STEP 02
基底模型
選用 Llama/Mistral/Qwen 等開源模型為起點
STEP 03
微調訓練
LoRA/QLoRA 微調,自有 GPU 叢集加速
STEP 04
評估對齊
自動評測、RAG 校準與安全對齊驗證
STEP 05
部署上線
地端/雲端部署,API 與 RAG 即時服務
訓練損失曲線 (Training Loss)LIVE
LoRA 微調 · 即時收斂監控
2.400
Loss · 損失值
32.0%
Accuracy · 準確率
0
Step · 訓練步數
1/10
Epoch · 訓練輪次
GPU 叢集使用率
本地 GPU · Tesla P100 · MI50 · DGX Spark
本輪進度
FROM SCRATCH · 模型研發

從零打造,專屬大語言模型

不只微調——云碩具備從語料工程、Tokenizer、架構設計,到大規模預訓練與對齊的完整自研能力,為您打造真正自有的基礎模型。

STEP 01
語料工程
蒐集、清洗、去重 TB 級多語語料
STEP 02
Tokenizer
訓練專屬詞表(BPE),最佳化中文切詞
STEP 03
架構設計
Transformer 層數、維度、注意力頭設計
STEP 04
預訓練
大規模分散式預訓練(自有 GPU 叢集)
STEP 05
對齊發布
SFT/DPO 對齊,發布自有基礎模型
自有 GPU 算力叢集 不依賴外部算力 · 即時遙測每 1.5 秒 即時算力監控 →
2.10PFLOPS 總算力
24GPU 加速器
0GB 總記憶體
10台設備節點
CUDA + ROCm6 系統雙架構
資料中心算力 · DATACENTER
MI50-FARM
8× Radeon Instinct MI50 · 256GB
P100-FARM
4× NVIDIA Tesla P100 · 64GB
DGX Spark ×2
GB10 Grace Blackwell · 241GB · bf16 微調主力 · 雙機 FSDP 跑 gpt-oss-120b 蒸餾
Strix Halo ×2
Ryzen AI MAX 395 · 雙機 192GB · 協同跑 MiniMax-M2.7(228B)
W580
2× RTX 6000 Ada 48G + A30 24G · 120GB · bf16/fp8 訓練+獨立推論
RTX 5090
Blackwell GB202 · 32GB · 原生 fp4 推論
邊緣推論節點 · EDGE INFERENCE
Jetson Thor
研華 Advantech 邊緣 AI · 123GB
Transformer 架構組裝BUILDING
7B 參數 · 32 層 · 從零預訓練
LM Head→ vocab 32,000
Final LayerNormRMSNorm
Transformer Block 25–32attn + MLP
Transformer Block 17–24attn + MLP
Transformer Block 09–16attn + MLP
Transformer Block 01–08d_model 4096 · heads 32
Token + Positional Embeddingtokens → vectors
預訓練進度
分散式訓練 · ZeRO-3 · 自有 GPU 叢集
7.0B
Parameters · 參數量
0.00T
Tokens · 訓練語料
3,200
Perplexity · 困惑度
1.00M
tok/s · 吞吐量
語料消化進度
AI 設備・NVIDIA DGX

同樣的設備,也可以搬進你的機房

我們自己用它訓練 xVITA,也替客戶規劃、採購與建置。以下規格取自 NVIDIA 官方,實際組態與交期依供貨狀況確認。

DGX Spark 與 DGX Station 外觀與體積示意:Spark 是桌邊放得下的扁盒,旁有馬克杯作為體積參考;Station 是直立式機箱,明顯大上一個量級 能處理的模型參數規模,一層包一層:Spark 微調 700 億、推論 2000 億、四台串接 7000 億;最外層是 Station 單機 1 兆
NVIDIA DGX Spark
桌邊級・研究室與單一部門

體積像一台迷你主機,放辦公桌邊就能跑。適合系所、研究室或單一部門自己做模型微調與開發。

晶片GB10 Grace Blackwell
算力1 PFLOP FP4
官方僅公布 FP4 數值
記憶體128 GB LPDDR5x
273 GB/s
處理器20 核 Arm
10× Cortex-X925 + 10× A725
儲存4 TB NVMe 自加密
網路ConnectX-7 200 Gb/s
另有 10 GbE
耗電240 W
體積150 × 150 × 50.5 mm
1.2 kg
適合誰想自己微調模型、但不想為此動機房的單位。四台串接就能往上接到千億參數。
預約訂貨・索取報價
NVIDIA DGX Station
企業級・取代整櫃機房

單機就能訓練與服務兆級參數模型。不必為了跑大模型去租機櫃、拉專線、養機房團隊。

晶片GB300 Grace Blackwell Ultra
算力20 PFLOPS FP4
10 FP8/FP6・5 FP16/BF16
記憶體748 GB 一致性記憶體
252 GB HBM3e @ 7.1 TB/s
處理器72 核 Grace
Neoverse V2
儲存依組態配置
網路ConnectX-8 SuperNIC
800 Gb/s
耗電1,600 W
體積桌邊立式機箱
尺寸依最終組態
適合誰原本要租機櫃或採購整櫃 GPU 才做得到的規模,現在一台桌邊機箱就完成。
預約訂貨・索取報價
我們自己就有兩台 DGX Spark 它們是 xVITA 的訓練主力,雙機串接跑千億參數模型的蒸餾。上方的算力叢集面板可以看到它們此刻的即時狀態,不是型錄上的數字。 看即時算力 官網 AI 設備產品頁:DGX Spark、DGX Station、研華 MIC-743-AT、ASRock AI BOX-A395
VIRTUALIZATION · 虛擬化納管

核心技術 · 虛擬化環境

跨平台 GPU 虛擬化與資源納管能力——從微軟混合雲、企業級 vSphere 到私有雲作業系統,彈性切分與調度算力。

Az
Azure Local
Microsoft 混合雲 · 前 Azure Stack HCI
虛擬化Hyper-V + Azure Arc 統一納管
GPU 管理GPU 分割(GPU-P)/ 直接指派(DDA 直通)
vS
VMware vSphere
企業級虛擬化平台
虛擬化ESXi + vCenter 集中管理(vMotion/HA/DRS)
GPU 管理NVIDIA vGPU / DirectPath I/O 直通
C
CubeCOS
私有雲作業系統
虛擬化私有雲 OS · 雲端資源池統一管理
GPU 管理GPU 直通 / vGPU 切分
核心技術生態系統
橫跨 9 套產品的完整技術棧,確保系統整合與長期維護能力
前端框架
React 18Next.js 14Vue 3TypeScript 5ViteTailwind CSS
後端框架
FastAPINestJSExpress.jsSpring Boot 3Go gRPC
資料庫
PostgreSQL 16MySQL 8Redis 7pgvectorMilvus
AI / ML
Azure OpenAIGPT-4.1Claude 3.5Gemini 1.5LangGraphGraphRAGvLLMllama.cppOllama
雲端 / 部署
AzureDockerKubernetesHelmOn-Premise
虛擬化 / GPU 調度
Azure LocalVMware vSphereHyper-VCubeCOSNVIDIA vGPUGPU-PDDA 直通
安全 / 合規
HashiCorp VaultOAuth 2.0JWTAzure ADLDAP
政府機關深度信任
14 年 222 件政府採購實績,深度理解公部門法規與流程需求。從台中市政府到各級機關,都有我們落地的解決方案。
AI 原生產品設計
每套產品以 AI 為核心架構,非事後加入功能。GraphRAG、多模型路由、工作流自動化——所有 AI 能力深度整合於業務流程中。
資料主權在您手中
全產品支援地端(On-Premise)部署,以 vLLM 為主、llama.cpp/Ollama 為輔的地端模型推理,敏感資料完全不離境,符合政府資安要求與個資法規範。
準備好讓 AI 為您的業務加速了嗎?

歡迎預約 30 分鐘產品展示,我們將根據您的業務需求,量身推薦最適合的解決方案。

台北 中山區中山北路二段 170 號 12 樓
台中 北屯區大連路二段 221 號 2 樓
新竹 竹北市中山路 220 號 3 樓(同心樓)
統編:53998783
負責人:李偉業
成立:2012 年 10 月