AI 知識庫 · 私有 AI 資料中心
適用於法律與會計事務所的私有 AI
客戶保密不是您在別人的雲端裡就能開啟的設定。本指南適用於希望享有 AI 生產力，同時讓特權資料與財務資料保持在自身掌控之下的律師事務所與會計師事務所：可在自家場所、私有資料中心，或是鎖定得如此嚴密、運作起來就像私有環境的雲端中。
- 律師事務所
- 會計師事務所
- 地端
- 私有資料中心
- 全面安全的雲
為何雲端可能不是選項
專業事務所掌握客戶最信任交付的資料。在任何資料送進 AI 模型之前，事務所必須能回答：它在哪裡處理、誰能看到、保存多久，以及我們能否證明這一切？
專業職責
依據 SRA 行為守則，事務律師必須對客戶事務保密，且不得危及法律專業特權。保密是 ICAEW 與 ACCA 會計師道德守則的基本原則。
資料保護法規
UK GDPR 要求對任何傳輸至英國境外的資料具備適當的安全性、合法依據與保障措施。對客戶資料進行 AI 處理，通常需要進行資料保護影響評估（DPIA）。
客戶與保險公司的要求
外部律師指引、供應商問卷、稽核客戶與網路保險業者，愈來愈常詢問文件究竟在哪裡處理，以及是否用於訓練任何模型。
財務與反洗錢（AML）記錄
會計師掌握稅務、薪資與反洗錢紀錄，這些資料各自有保存與保密義務。
一個受青睞的目標
律師事務所與會計師事務所持有有價值的資料且需趕期限，因此成為勒索軟體與詐欺集團的目標。NCSC 已針對法律產業發布專屬的威脅指引。
資訊隔離牆
案件與客戶之間的道德隔離牆，在 AI 內部也必須維持：若事務所層級的索引忽略這些隔離牆，可能造成利益衝突。
部署選項，從隔離程度最高到最低
從沒有網路連線的機器到公有 AI 服務之間，存在一道光譜。多數事務所最終採用兩層架構：用於客戶資料的私有平台，以及用於其他一切的嚴格管控雲端。
| 選項 | 資料存放位置 | 網際網路 | 最適合 | 取捨 |
|---|---|---|---|---|
| 實體隔離的本機部署 | 在您的建築內，使用您自有的硬體 | 無；透過簽署的離線套件更新 | 最高敏感度的案件、訴訟、證據開示 | 手動更新流程；容量受硬體限制 |
| 離線優先的地端部署 | 您的建築物 | 封鎖對外連線；受控的更新時段 | 多數事務所的私有 AI 平台 | 需要修補程式更新作業與在地支援 |
| 私有資料中心或託管機房 | 您在英國資料中心擁有的專用機櫃 | 僅限私有連結 | 多辦公室事務所、全事務所 AI、共享服務 | 合約、跨機房連線與遠端代手服務 |
| 主權雲或專用雲 | 位於英國區域的專用租戶，金鑰由您掌控 | 僅限私有端點 | 突發算力，適合沒有機房的事務所 | 供應商信任與退場規劃 |
| 託管式雲端 AI，全面確保安全 | 供應商位於英國或歐盟的區域 | 私有端點，不保留資料 | 非特權工作、行銷、內部知識 | 供應商會處理資料，即使時間很短 |
律師事務所的使用情境
證據揭露與文件審閱
對大量證據揭露資料集進行分類、摘要與排定優先順序，每個答案都連結回來源文件。
合約分析
擷取條款、與事務所的標準立場比較，並在數百份合約中標示出不尋常的條款。
盡職調查
快速處理資料室文件，建立附有引註的議題清單與警示報告。
專業知識與研究
針對事務所自己的判例、意見書與實務筆記提問，並遵守案件層級的權限。
初稿
依據事務所的範本起草信函、會談記錄與標準文件，供律師審閱。
聽寫與轉錄
本地語音轉文字，用於聽寫、訪談與聽證，音訊不會離開建築物。
案件摘要
由案件檔案產生的時間軸、案件摘要與交接備忘。
工時敘述
依活動紀錄建議工時登記敘述，由計費人員在提交前審閱。
會計師事務所的使用情境
文件擷取
將發票、收據、銀行對帳單與薪資單（OCR 加 AI 擷取）直接讀入帳務工作流程。
分類與對帳
建議會計科目代碼並比對交易，學習各客戶的模式，並由會計師核准。
稽核分析
測試完整母體而非抽樣，標示異常、重複與不尋常的分錄以供審查。
稅務研究與申報準備
回答來自事務所稅務資料庫的問題並準備供審閱的工作底稿，絕不自行申報。
客戶查詢
根據客戶本身的紀錄起草對例行客戶問題的回覆，且資料保存在事務所內部。
帳目與附註
根據試算表與前一年度檔案，起草管理階層評論與揭露附註。
AML 與 KYC 檢查
讀取並檢查身分與資金來源文件，每項決定皆留有記錄。
預測
以客戶自身資料建立的現金流與情境模型，於私有環境中運行。
專業級私有 AI 平台包含什麼
這些是我們為律師事務所與會計師事務所的私有 AI 所內建的功能。每一項都是因為合夥人、客戶、監管機構或保險業者曾提出要求而存在。
01
安全與隱私
- 無對外網際網路連線：預設拒絕外送流量，並於交付前以 24 小時封包記錄測試加以證明
- 以 TPM 封存的全磁碟加密（LUKS2），支援無人值守重啟與密封的復原金鑰
- 具簽署驅動程式的 UEFI 安全開機；韌體密碼與鎖定的開機順序
- 在支援的 GPU 與 CPU 上使用機密運算（NVIDIA 機密運算、AMD SEV-SNP、Intel TDX），適用於連管理員都必須被保護的資料
- 服務之間採用雙向 TLS；金鑰存放於 HSM 或保險庫
- 獨立網路區段：員工只能連到一個 HTTPS 連接埠，沒有任何連線可反向進入
- 不可變更、僅可附加的稽核日誌，記錄每個提示詞、文件與答覆，可匯出至您的 SIEM
- 在任何內容被記錄或建立索引之前，先遮蔽個人識別資訊與機密
02
存取與資訊屏障
- 透過您的身分提供者以 MFA 進行單一登入
- 依角色與屬性的存取權限，從文件管理系統同步
- 在查詢時強制執行案件層級與客戶層級的權限，使資訊隔離牆在 AI 內部依然有效
- 為合夥人與合規部門提供依使用者與案件區分的用量報表
03
AI 能力
- 透過 API 對您的文件管理、事務所與會計系統進行檢索，每個答案都附有來源引用
- 多個模型並行，依任務分流：小型快速者負責分類，大型者負責撰稿與推理
- 以事務所自身的先例與風格進行微調（LoRA），並保留在您的硬體上
- 本機語音轉文字、掃描文件包的 OCR 與翻譯
- 代理程式工作流程，在任何內容離開草稿狀態前須經人工核准
- 以事實依據查核與「我不知道」的行為，取代捏造的答案
04
治理
- 與您共同擬定的 AI 使用政策與 DPIA
- 模型登記冊：使用了哪些模型、版本與授權，以及用於何處
- 以事務所自身工作建立的評估集，每次更換模型前重新執行
- 保存期限與案件保存及法律保全一致
- 可供客戶稽核、審查小組與保險公司使用的報告
05
營運
- 針對作業系統、容器與模型，提供經簽署且已驗證的離線更新套件
- 監控 GPU 健康狀態、延遲與使用情形，並向您的 IT 團隊或我們發出警示
- 加密的離線備份 (3-2-1-1-0) 與經測試的裸機復原
- 72 小時燒機測試，以及附有所有測試結果的交付資料包
- 依事務所規模量身訂定的支援與修補協議
當可接受使用雲端時：主要供應商提供的完整安全選項
對某些工作而言，經妥善鎖定的雲端服務是可以接受的，並能隨需增加算力。以下是我們依供應商堅持的管控措施。您的 DPIA 與客戶條款決定哪些內容可放在何處。
Microsoft Azure（Azure OpenAI、AI Foundry）
- 客戶資料不會用於訓練模型
- 私有端點與網路隔離
- 客戶自管金鑰
- 英國南部與英國西部區域；歐盟辦公室適用歐盟資料邊界
- 為符合資格的客戶提供修改版濫用監控，使提示詞不會被保留以供審查
- 搭配條件式存取的 Entra ID
Amazon Web Services（Amazon Bedrock）
- 提示詞與輸出不會用於訓練基礎模型，也不會與模型供應商共享
- PrivateLink VPC 端點，無網際網路路徑
- KMS 客戶自管金鑰
- 倫敦區域
- 用於個人識別資訊遮蔽與內容控管的護欄
- 記錄每次呼叫的 CloudTrail 日誌
Google Cloud（Vertex AI）
- 客戶資料不會用於訓練模型
- 支援之模型的零資料保留設定
- VPC Service Controls 邊界與 CMEK
- 倫敦區域與資料落地控管
- 供應商存取採用存取透明度與存取核准機制
- 以 Model Armor 篩查提示與回應
Oracle Cloud（OCI Generative AI）
- 用於隔離式模型託管的專屬 AI 叢集
- 客戶自管金鑰，存放於 OCI Vault
- 倫敦與 Newport（威爾斯）區域
- 私有服務存取
我們將任何雲端使用搭配私有閘道，由其落實事務所的權限、遮蔽識別資訊，並在每個請求離開您的網路之前記錄下來。
地端與私有資料中心 AI 平台
我們保持廠商中立，並依各事務所適用的平台建置，從單一工作站到私有 AI 資料中心皆可。
系統
- 用於桌邊與小型團隊 AI 的 NVIDIA DGX Spark 與 DGX Station
- 搭載 NVIDIA RTX PRO 6000 Blackwell（每張 GPU 96 GB）的 Workstation 直立式主機與 4U 伺服器
- NVIDIA HGX B200 與 B300 8-GPU 伺服器，適用於全事務所平台
- 來自 Dell（PowerEdge XE）、HPE、Lenovo（ThinkSystem）與 Supermicro 的 OEM AI 伺服器
私有 AI 平台
- NVIDIA AI Enterprise 與 NIM 微服務，授權用於地端環境
- Dell AI Factory with NVIDIA 與 HPE Private Cloud AI 作為交鑰匙堆疊
- Kubernetes 上的 Red Hat OpenShift AI 與 SUSE AI
- 適用於 VMware 環境的 VMware Private AI Foundation with NVIDIA
- 適用於超融合環境的 Nutanix Enterprise AI
- 開源技術堆疊：vLLM、Open WebUI、pgvector 與 Qdrant，運行於 Ubuntu 或 RHEL
部署位置
- 具備適當電力與冷卻的機房或通訊機櫃
- 位於英國託管資料中心的專屬機櫃
- 為事務所集團與聯盟打造的私有 AI 資料中心
依事務所規模評估
僅為參考的起始點。每份提案都會依您自己的文件、模型與使用者人數確認。
| 事務所 | 同時使用者 | 典型平台 | 模型 |
|---|---|---|---|
| 獨立執業者或小型事務所 | 最多約 10 | 搭載 24–32 GB RTX PRO GPU 的工作站 | 8–14B 模型 |
| 中小型事務所 | ~25 | 配備 48 GB GPU 的工作站或伺服器 | 最高約 32B 模型 |
| 中型事務所、繁忙部門 | 25–50 | 配備 96 GB RTX PRO 6000 的伺服器 | 4 位元的 70B 模型 |
| 多辦公室的大型事務所 | 數百 | 8 GPU 伺服器機櫃加全 NVMe 儲存 | 同時執行多個大型模型 |
| 事務所網路與群組 | 數千 | 搭載 HGX B200/B300 的私有 AI 資料中心 | 前沿規模與經過微調的模型 |
合規對應
科技無法讓事務所自動合規，但應該讓合規容易被證明。以下說明此平台如何支援事務所常被問及的各項框架。
UK GDPR 與 Data Protection Act 2018
資料留在英國，處理過程均有文件記錄，存取皆有日誌，我們也協助準備 DPIA。
SRA 標準與規範
以軟體強制執行保密與資訊隔離，並提供供監督與稽核使用的證據。
ICAEW 與 ACCA 職業道德準則
客戶資訊的機密性，並記錄誰存取了什麼以及原因。
ISO/IEC 27001
存取、密碼學、營運、記錄與供應商管理的控制措施，直接對應至平台。
Cyber Essentials Plus
內建防火牆、安全設定、修補、存取控制與惡意軟體防護。
歐盟 AI 法案
針對歐盟辦公室：透明度、人為監督與紀錄保存皆於設計階段即予支援。
如何開始
- 1證據開示
在保密協議下，就您的工作、資料與風險承受度進行機密對談。
- 2試行專案
一套桌邊系統或小型伺服器，在您的大樓內執行您自己的文件。
- 3證明給您看
在真實案件或客戶檔案上的量測結果，加上安全測試與 DPIA。
- 4規模
全事務所平台、私有資料中心或混合式架構，並提供支援與訓練。
Microsoft Azure、Amazon Web Services、Google Cloud 與 Oracle Cloud 的名稱與標誌為其各自所有者的商標，僅用於識別其產品。