成立 2012 · 持續創新

企業 AI 解決方案
驅動您的數位轉型

云碩科技 14 年深耕資訊服務,累計 222 件政府採購實績。提供從 AI 對話、知識管理、ESG 合規到流程自動化的完整產品線,助您在 AI 時代搶先佈局。

14
年資訊服務經驗
222+
件政府採購實績(持續增加)
5.97億+
累計得標金額(持續增加)
9
套 AI 產品解決方案
Azure
Microsoft AI Cloud Partner
自主 AI
模型訓練・自研技術專家
主力產品

九套主打服務,自己開發、自己維運

每一套都是云碩自己開發、自己維運的產品,多數為全地端部署,資料不離開你的機房。從行政知識庫、校務分析、會議記錄、廠區巡檢,到模型治理、應用部署、設備管理與模型微調。九套服務底下管多個 AI 代理人的,都是云碩開源的 xHarness,MIT 授權可自由商用。

xIR
校務行動戰情室:數字問一句就有,儀表板現成

同一套兩種用法:臨時的數字用自然語言問,回答附資料來源與計算口徑;例行的看教育部 118 張表冊整理成的 11 個報表頁與全國 170 所大專校院跨校對標。既有 Qlik、Power BI 照舊使用。

資料不出校,學生資料留在校內機房
數字由指標層算出,模型不決定數值
已於國立臺灣藝術大學上線,現成報表線上可試看
大專校院 校務研究辦公室 教務處
xMeetAI
開完會 5 分鐘拿到完整摘要與行動清單

AI 智慧會議記錄平台,自動辨識多位發言人、即時生成重點摘要與行動項目。台語、客語全支援。雲端版採 Azure 原生架構並整合 Teams 與 Outlook,地端版整套裝在你自己的機房,會議內容完全不出單位。

節省 80% 會議整理時間
說話者自動分離,誰說了什麼一目了然
雲端版與地端版兩種部署,自己選
企業集團 政府機關 顧問公司 金融
x360
哪台設備出狀況、處理到哪,一個畫面就知道

數位孿生維運平台。機房與廠區 3D 模型、全景巡檢、感測器數值即時疊層,告警與缺失當場開工單、追到結案。

支援 Modbus TCP、OPC UA、MQTT 五種來源
全地端運行,執行期不需外網;明新科技大學已用於校內環境監控
二十七項安全驗收全數通過
製造業 廠務 工安 設備維護
staffKMv5.43.0
行政問題一問即答,新人上手速度快 3 倍

專為政府機關及大型企業行政設計的 AI 知識管理平台,內建公文、人事、採購、經費、SOP、新進訓練六大場景,GraphRAG 確保查詢精準有依據。

六大行政場景開箱即用,快速導入
GraphRAG 混合搜尋,recall@5 高達 0.88
視覺化工作流程,無需程式碼即可設計
政府機關 學術機構 大型企業 公共事業
xESG
盤查、碳費、CBAM 到報告,一條龍完成

碳能管理平台。溫室氣體盤查、台灣碳費申報、歐盟 CBAM、供應商協作、碳權管理與 ESG 報告產製一站完成,內建能源戰情室大屏。

依 ISO 14064-1:2018 與 GRI 準則實作
Scope 2 位置基準與市場基準並陳
已交付明新科技大學作為校內 ESG 系統
上市公司 製造業 供應鏈 金融機構
xStudio
公司用了幾顆模型、花多少錢,一頁看完

AI 模型管理與計費平台。外購 API 與自家 GPU 上的模型收進同一個 OpenAI 相容入口,開發者只改一行 base_url,管理者拿到逐筆用量與台幣成本。

額度用完當下硬切,不是寄警告信
自建算力與外購 API 同一套報表可比較
已用於管理云碩自有機群與採購 API
企業 IT 開發團隊 財務控管
xHangar
團隊自己把應用上線,不必再排隊等人開

地端的應用機庫。開發團隊在網頁上選好資源就把應用跑起來,配額由伺服器端擋住,網域與憑證自動配發,資源用量平台自己記。

團隊之間真的隔開,跨團隊攻擊測試過
每 15 分鐘記一次資源,分攤可匯出
第一次開機就是 https,六步完成初始設定
大專校院 政府機關 企業機房
xConsole
小型 AI 設備的模型管理,載不下就先擋住

統一記憶體 AI 小主機的模型主控台。載入前先算最壞還剩多少,不夠就擋並說明原因;加機器、換模型、綁卡、換憑證都在網頁上完成。

三種記憶體架構分開算,不用同一套公式誤判
換模型跨引擎同埠切換,失敗整組還原
已用於中原大學的兩張 RTX PRO 5000
邊緣 AI 設備單位 大專校院 製造與廠務
xft
自己的料,訓自己的模型

地端的模型微調平台。抓料、整理、訓練、評測到發布整條在網頁上走完,每一步獨立存檔可回溯,權重放在你自己的機器上。

沒蓋整理戳記的料不准進訓練
評測沒過的版本不出門
Hugging Face 上的 xVITA 模型由它訓練與發布
政府機關 大專校院 醫療機構
xHarness開源 MIT
九套服務底下的多 AI 代理人管理

開源 AI agent 框架,MIT 授權。純 Python、零執行期相依、547 項自動測試,接任何 OpenAI 相容端點。工具在沙箱裡跑,有副作用的動作一律先審批。

完全地端可用,除模型端點不外傳資料
多節點艦隊,一頁監看並可就地停止
已在云碩機群常駐運行
開發團隊 維運自動化 開源社群
一站式企業 AI 解決方案生態系

一張圖,看懂云碩如何驅動您的 AI 轉型

從使用者接入、9 套 AI 應用、AI 核心引擎到資料與基礎設施——點擊任一節點探索功能細節,或觀看請求如何在平台中層層流動。

AI MODEL TRAINING · 模型訓練能力

不只打造系統,更能訓練專屬模型

從資料工程、基底模型選型、LoRA/QLoRA 微調,到評估對齊與地端部署——云碩用您的資料,在自有 GPU 叢集訓練出只屬於您的 AI 模型。

STEP 01
資料工程
清洗、標註、去識別化,建立高品質訓練資料集
STEP 02
基底模型
選用 Llama/Mistral/Qwen 等開源模型為起點
STEP 03
微調訓練
LoRA/QLoRA 微調,自有 GPU 叢集加速
STEP 04
評估對齊
自動評測、RAG 校準與安全對齊驗證
STEP 05
部署上線
地端/雲端部署,API 與 RAG 即時服務
訓練損失曲線 (Training Loss)LIVE
LoRA 微調 · 即時收斂監控
2.400
Loss · 損失值
32.0%
Accuracy · 準確率
0
Step · 訓練步數
1/10
Epoch · 訓練輪次
GPU 叢集使用率
本地 GPU · Tesla P100 · MI50 · DGX Spark
本輪進度
FROM SCRATCH · 模型研發

從零打造,專屬大語言模型

不只微調——云碩具備從語料工程、Tokenizer、架構設計,到大規模預訓練與對齊的完整自研能力,為您打造真正自有的基礎模型。

STEP 01
語料工程
蒐集、清洗、去重 TB 級多語語料
STEP 02
Tokenizer
訓練專屬詞表(BPE),最佳化中文切詞
STEP 03
架構設計
Transformer 層數、維度、注意力頭設計
STEP 04
預訓練
大規模分散式預訓練(自有 GPU 叢集)
STEP 05
對齊發布
SFT/DPO 對齊,發布自有基礎模型
自有 GPU 算力叢集 不依賴外部算力 · 即時遙測每 1.5 秒 即時算力監控 →
2.25PFLOPS 總算力
23GPU 加速器
0GB 總記憶體
11台設備節點
CUDA + ROCm6 系統雙架構
資料中心算力 · DATACENTER
MI50-FARM
8× Radeon Instinct MI50 · 256GB
P100-FARM
4× NVIDIA Tesla P100 · 64GB
DGX Spark ×2
GB10 Grace Blackwell · 241GB · bf16 微調主力 · 雙機 FSDP 跑 gpt-oss-120b 蒸餾
Strix Halo ×2
Ryzen AI MAX 395 · 雙機 192GB · 協同跑 MiniMax-M2.7(228B)
W580
2× RTX 6000 Ada 48G + A30 24G · 120GB · bf16/fp8 訓練+獨立推論
RTX 5090
Blackwell GB202 · 32GB · 原生 fp4 推論
邊緣推論節點 · EDGE INFERENCE
Jetson Thor
研華 Advantech 邊緣 AI · 123GB
Transformer 架構組裝BUILDING
7B 參數 · 32 層 · 從零預訓練
LM Head→ vocab 32,000
Final LayerNormRMSNorm
Transformer Block 25–32attn + MLP
Transformer Block 17–24attn + MLP
Transformer Block 09–16attn + MLP
Transformer Block 01–08d_model 4096 · heads 32
Token + Positional Embeddingtokens → vectors
預訓練進度
分散式訓練 · ZeRO-3 · 自有 GPU 叢集
7.0B
Parameters · 參數量
0.00T
Tokens · 訓練語料
3,200
Perplexity · 困惑度
1.00M
tok/s · 吞吐量
語料消化進度
AI 設備・NVIDIA DGX

同樣的設備,也可以搬進你的機房

我們自己用它訓練 xVITA,也替客戶規劃、採購與建置。以下規格取自 NVIDIA 官方,實際組態與交期依供貨狀況確認。

DGX Spark 與 DGX Station 外觀與體積示意:Spark 是桌邊放得下的扁盒,旁有馬克杯作為體積參考;Station 是直立式機箱,明顯大上一個量級 能處理的模型參數規模,一層包一層:Spark 微調 700 億、推論 2000 億、四台串接 7000 億;最外層是 Station 單機 1 兆
NVIDIA DGX Spark
桌邊級・研究室與單一部門

體積像一台迷你主機,放辦公桌邊就能跑。適合系所、研究室或單一部門自己做模型微調與開發。

晶片GB10 Grace Blackwell
算力1 PFLOP FP4
官方僅公布 FP4 數值
記憶體128 GB LPDDR5x
273 GB/s
處理器20 核 Arm
10× Cortex-X925 + 10× A725
儲存4 TB NVMe 自加密
網路ConnectX-7 200 Gb/s
另有 10 GbE
耗電240 W
體積150 × 150 × 50.5 mm
1.2 kg
適合誰想自己微調模型、但不想為此動機房的單位。四台串接就能往上接到千億參數。
預約訂貨・索取報價
NVIDIA DGX Station
企業級・取代整櫃機房

單機就能訓練與服務兆級參數模型。不必為了跑大模型去租機櫃、拉專線、養機房團隊。

晶片GB300 Grace Blackwell Ultra
算力20 PFLOPS FP4
10 FP8/FP6・5 FP16/BF16
記憶體748 GB 一致性記憶體
252 GB HBM3e @ 7.1 TB/s
處理器72 核 Grace
Neoverse V2
儲存依組態配置
網路ConnectX-8 SuperNIC
800 Gb/s
耗電1,600 W
體積桌邊立式機箱
尺寸依最終組態
適合誰原本要租機櫃或採購整櫃 GPU 才做得到的規模,現在一台桌邊機箱就完成。
預約訂貨・索取報價
我們自己就有兩台 DGX Spark 它們是 xVITA 的訓練主力,雙機串接跑千億參數模型的蒸餾。上方的算力叢集面板可以看到它們此刻的即時狀態,不是型錄上的數字。 看即時算力 官網 AI 設備產品頁:DGX Spark、DGX Station、研華 MIC-743-AT、ASRock AI BOX-A395
VIRTUALIZATION · 虛擬化納管

核心技術 · 虛擬化環境

跨平台 GPU 虛擬化與資源納管能力——從微軟混合雲、企業級 vSphere 到私有雲作業系統,彈性切分與調度算力。

Az
Azure Local
Microsoft 混合雲 · 前 Azure Stack HCI
虛擬化Hyper-V + Azure Arc 統一納管
GPU 管理GPU 分割(GPU-P)/ 直接指派(DDA 直通)
vS
VMware vSphere
企業級虛擬化平台
虛擬化ESXi + vCenter 集中管理(vMotion/HA/DRS)
GPU 管理NVIDIA vGPU / DirectPath I/O 直通
C
CubeCOS
私有雲作業系統
虛擬化私有雲 OS · 雲端資源池統一管理
GPU 管理GPU 直通 / vGPU 切分
核心技術生態系統
橫跨 9 套產品的完整技術棧,確保系統整合與長期維護能力
前端框架
React 18Next.js 14Vue 3TypeScript 5ViteTailwind CSS
後端框架
FastAPINestJSExpress.jsSpring Boot 3Go gRPC
資料庫
PostgreSQL 16MySQL 8Redis 7pgvectorMilvus
AI / ML
Azure OpenAIGPT-4.1Claude 3.5Gemini 1.5LangGraphGraphRAGxVITA 自研模型GGUF 量化
雲端 / 部署
AzureDockerKubernetesHelmOn-Premise
虛擬化 / GPU 調度
Azure LocalVMware vSphereHyper-VCubeCOSNVIDIA vGPUGPU-PDDA 直通
安全 / 合規
HashiCorp VaultOAuth 2.0JWTAzure ADLDAP
政府機關深度信任
14 年 222 件政府採購實績,深度理解公部門法規與流程需求。從台中市政府到各級機關,都有我們落地的解決方案。
AI 原生產品設計
每套產品以 AI 為核心架構,非事後加入功能。GraphRAG、多模型路由、工作流自動化——所有 AI 能力深度整合於業務流程中。
資料主權在您手中
全產品支援地端(On-Premise)部署,模型推理跑在自家機房的 GPU 上,敏感資料完全不離境,符合政府資安要求與個資法規範。
準備好讓 AI 為您的業務加速了嗎?

歡迎預約 30 分鐘產品展示,我們將根據您的業務需求,量身推薦最適合的解決方案。

台北 中山區中山北路二段 170 號 12 樓
台中 北屯區大連路二段 221 號 2 樓
新竹 竹北市中山路 220 號 3 樓(同心樓)
統編:53998783
負責人:李偉業
成立:2012 年 10 月