常見問題

AI 代理是自主的軟體系統，能感知環境、做出決策並採取行動以達成特定目標，無需持續的人為介入。有別於遵循預設腳本回應的傳統聊天機器人，AI 代理運用大型語言模型（LLM）進行推理、規劃多步驟任務、使用工具（API、資料庫、檔案系統），並適應新情境。它們可以瀏覽網頁、撰寫並執行程式碼、管理檔案，以及協調複雜的工作流程。LangChain、CrewAI 與 OpenAI Agents SDK 等現代 AI 代理框架，讓企業能將代理部署於客戶支援、文件處理、資料分析與營運自動化。

多代理程式 AI 系統使用多個各有專長的 AI 代理程式協作解決複雜問題，就像一個人類團隊。每個代理程式都有明確的角色（例如研究員、撰稿者、審查者、程式設計師），彼此溝通、委派任務，並在彼此的產出上繼續發展。CrewAI、AutoGen 與 LangGraph 等框架負責編排這些代理程式團隊。例如，內容製作管線可能包含負責蒐集資訊的研究代理程式、負責撰寫草稿的寫作代理程式，以及負責審查品質的編輯代理程式。多代理程式架構特別適合需要多元專業、平行處理或反覆精進的任務，例如軟體開發、財務分析與供應鏈最佳化。

AI 代理程式可自動化各式各樣的業務流程，包括：客戶服務（處理詢問、處理退款、安排預約）、文件處理（從發票、合約與表單中擷取資料）、銷售營運（潛在客戶資格評估、CRM 更新、提案產生）、人資工作流程（履歷篩選、到職檢查清單、政策問答）、財務營運（費用分類、合規檢查、報告產生），以及 IT 營運（事件分流、日誌分析、基礎設施監控）。相較於傳統 RPA，主要優勢在於 AI 代理程式能處理非結構化資料、做出情境式決策，並適應各種變化，而無需僵化的規則程式設計。

RAG 是一種 AI 架構模式，結合大型語言模型的生成能力，以及從貴組織自有資料來源（例如文件、資料庫、wiki 與知識庫）擷取相關資訊的檢索系統。RAG 不只依賴 LLM 的訓練資料（可能過時或過於籠統），而是以您實際的業務資料作為 AI 回應的依據。這能大幅減少幻覺、確保準確性，並讓回應保持最新。RAG 是企業 AI 助理、內部知識機器人、客戶支援系統，以及對事實準確度要求嚴格的合規工具的基礎。

Claude Code 是 Anthropic 官方的代理式編碼工具，直接在您的終端機中運作。它能理解您的整個程式碼庫、編輯檔案、執行指令、搜尋程式碼、管理 git 工作流程，並自主執行多步驟的軟體工程任務。與單純的程式碼補全工具不同，Claude Code 是完整的 AI 結對程式設計夥伴——它能規劃實作、跨多個檔案撰寫與重構程式碼、執行測試、修復失敗的建置、建立 pull request，並除錯複雜問題。它支援掛鉤、MCP 伺服器與 IDE 整合（VS Code、JetBrains），可無縫融入工作流程。

Claude Code Dispatch（也稱為無介面模式的 Claude Code）讓您能以子程序方式透過程式執行 Claude Code，而不需要互動式終端機。您透過 SDK 或 CLI 搭配 --print 旗標送出任務提示，Claude Code 便會自主執行：讀取檔案、進行編輯、執行測試並回傳結構化結果。這可實現強大的自動化工作流程，例如：自動化 PR 審查機器人、用於程式碼修復的 CI/CD 管線整合、跨儲存庫的批次程式碼遷移、自動產生文件，以及排程的程式碼庫維護。Claude Agent SDK 讓您能輕鬆在 Claude Code Dispatch 之上建置自訂工具與編排層。

Claude Code Remote 讓您能在遠端機器、雲端執行個體或容器上執行 Claude Code，同時從本機終端機或 IDE 加以控制。這對於需要強大硬體的大型程式碼庫、存取類正式環境以進行除錯，或在雲端 GPU 執行個體上開發 AI/ML 工作負載至關重要。您可以透過 SSH 通道連線、在 Docker 容器內使用，或部署在雲端 VM 上。搭配 VS Code Remote 或 JetBrains Gateway，可提供順暢的遠端 AI 輔助開發體驗，並能完整存取程式碼庫與在遠端主機上執行工具。

Claude Agent SDK 讓開發人員能打造由 Claude 驅動的客製化 AI 代理。它提供程式化介面，可使用 Claude 的各項能力，包括工具使用、多輪對話、檔案操作與程式碼執行。您可以定義 Claude 可呼叫的自訂工具、建立含人工介入檢查點的代理迴圈、實作護欄與安全控管，並編排多代理工作流程。SDK 同時支援 Python 與 TypeScript，可與 MCP（Model Context Protocol）伺服器整合以擴充功能，並可部署為微服務、無伺服器函式，或嵌入現有應用程式。

MCP（Model Context Protocol）是由 Anthropic 創建的開放標準，為 AI 模型連接外部資料來源、工具與服務提供通用方式。可將它視為 AI 的 USB-C 連接埠——一個單一的標準化介面，讓任何 AI 模型都能存取任何相容的工具。MCP 伺服器公開資源（資料）、工具（動作）與提示（範本），供 Claude Code 等 AI 用戶端探索並使用。這表示您可以透過單一協定，將 Claude 連接到您的 Slack 工作區、GitHub 儲存庫、資料庫、內部 API 或任何自訂系統。MCP 免除了為每個工具開發客製整合的需求，並實現可攜且可組合的 AI 工作流程。

OpenClaw 是一個開源 AI 機器人平台，專為打造結合電腦視覺、自然語言理解與實體操作的智慧機器人系統而設計。它提供一個框架，用於建立能理解口語指令、透過攝影機與感測器感知環境、規劃動作，並使用機械手臂與夾爪執行實體任務的機器人。OpenClaw 整合現代 AI 模型（包括視覺語言模型），讓機器人能分類物件、組裝零件、進行品質檢驗並處理倉儲物流。它可在 NVIDIA Jetson 邊緣裝置與 Apple Silicon Mac 上執行以供開發。

可以，Apple Silicon Mac 是 OpenClaw 絕佳的開發與推論平台。Mac Mini M4 Pro（24GB 統一記憶體）與 Mac Studio M4 Ultra（最高 192GB 統一記憶體）透過 Apple 的 MLX 框架與 Metal GPU 加速，提供快速的裝置端 AI 推論。您可以在本機訓練較小的模型、執行即時電腦視覺管線，並在部署至邊緣硬體之前測試機器人控制演算法。統一記憶體架構對需要同時處理影像與文字的視覺語言模型特別有利。正式部署時，在 Mac 上訓練的模型通常會匯出至 NVIDIA Jetson 或其他邊緣裝置。

典型的 OpenClaw 設置需要：運算平台（邊緣部署使用 NVIDIA Jetson Orin Nano/AGX，開發則使用 Mac Mini M4 Pro/Mac Studio）、機械手臂（相容 ROS2，熱門選項包括 Franka Emika、Universal Robots UR3e/UR5e，或 xArm 等平價選項）、攝影機（Intel RealSense D435 深度攝影機或立體攝影機組，用於 3D 感知），以及選配的夾爪系統。進行 AI 模型訓練時，您會需要搭載 NVIDIA RTX 4090/5090 的工作站，或雲端 GPU 存取。軟體堆疊包括 ROS2、PyTorch、OpenCV 與 OpenClaw 框架本身。

AI 訓練方面：NVIDIA H100（80GB HBM3）仍是大型模型訓練的企業標準，而新的 B100 與 B200（Blackwell 架構）在 Transformer 工作負載上提供 2-4 倍的效能提升。桌上型電腦／工作站 AI 方面：RTX 5090（32GB GDDR7）是最頂級的消費級 GPU，RTX 6000 Ada（48GB）適合專業工作負載，而 A100（40/80GB）仍廣泛用於資料中心。推論方面：L40S 提供出色的每瓦效能，NVIDIA H200 則為大型模型服務提供最大處理量。邊緣 AI 方面：Jetson Orin 系列（8-64GB）為機器人與物聯網應用提供動力。

NVIDIA DGX 是一套一站式 AI 超級電腦平台——DGX H100 內含 8 顆 H100 GPU，透過 NVLink 互連，GPU 記憶體總計 640GB，並搭載最佳化網路（InfiniBand）與預先配置的 AI 軟體（DGX OS、Base Command）。較新的 DGX B200 採用 Blackwell GPU，效能更高。DGX 的優勢：經預先驗證、具企業級支援、最快投入正式環境，以及 NVIDIA 背書的 SLA。自建 GPU 叢集：每顆 GPU 成本較低、配置彈性較大，但需要在網路（InfiniBand/RoCE）、儲存（平行檔案系統）、冷卻與軟體堆疊管理上具備相當的專業能力。DGX 適合希望獲得有保證效能、卻不具備深厚基礎架構專業的組織；自建叢集則適合具備強大 HPC／基礎架構技能、希望最佳化成本的團隊。

Lenovo ThinkStation PGX 是搭載 NVIDIA GB10 Grace Blackwell Superchip 的桌上型 AI 工作站——將 ARM 架構的 Grace CPU 與 Blackwell GPU 結合在單一模組上，具備統一記憶體與高頻寬 NVLink-C2C 互連。它是為需要在本地開發、微調並運行 AI 模型的開發人員、研究人員與資料科學家所設計的個人 AI 超級電腦。它提供遠超傳統桌上型工作站的 AI 算力，同時保持精巧與節能。PGX 定位於消費級 RTX 工作站與機架式 DGX 系統之間，讓企業級 AI 開發以桌上型的外形變得唾手可得。

先定義您的工作負載：僅推論的叢集可使用消費級 GPU（RTX 4090/5090）並獲得良好成效，而訓練叢集則需要搭配 NVLink/InfiniBand 的專業級 GPU（A100、H100）以進行多 GPU 擴展。關鍵元件：GPU 伺服器（通常每節點 4-8 張 GPU）、高速網路（訓練用 InfiniBand，推論用 25/100GbE）、共用儲存（大型資料集可用 NFS、Lustre 或 BeeGFS）、編排（搭配 NVIDIA GPU Operator 的 Kubernetes，或 HPC 式排程的 Slurm），以及監控（DCGM、Prometheus、Grafana）。預算選項：二手 A100-40GB GPU 物超所值，消費級 RTX 5090 適合推論與微調，而雲端 Spot 執行個體（AWS、GCP、Lambda Labs）可為突發訓練工作補充地端容量。

DGX OS 是 NVIDIA 專為 DGX 系統上的 AI 工作負載最佳化所打造的 Linux 作業系統。以 Ubuntu 為基礎，內含預先設定的 NVIDIA 驅動程式、CUDA 工具組、cuDNN、NCCL（多 GPU 通訊）與容器執行環境（NVIDIA Container Toolkit）。它提供用於叢集編排的 Base Command Manager、可存取內含預先建置 AI 框架（PyTorch、TensorFlow、TensorRT）的 NGC（NVIDIA GPU Cloud）容器登錄庫，以及為達到最大 GPU 使用率而最佳化的系統設定。AI 工程師可受益於經過驗證與測試的軟體堆疊，免去驅動程式衝突、CUDA 版本不符與設定問題，讓他們專注於模型開發，而非基礎設施除錯。

可以，配備 24GB 統一記憶體的 Mac Mini M4 Pro 是一台能勝任許多工作負載的 AI 開發機器。它擅長：透過 llama.cpp、Ollama 或 MLX 執行最高約 13B 參數的模型推論（Llama、Mistral、Phi）；在本機開發與測試 AI 代理程式；使用 CoreML 與 Vision 框架執行電腦視覺管線；使用 Apple 的 MLX 框架微調較小的模型；以及作為具成本效益的本地 AI 開發環境。限制：24GB 統一記憶體會限制較大的模型，且不支援 CUDA（無原生 PyTorch CUDA）。若要訓練大型模型或執行 70B 以上參數的模型，您需要 NVIDIA GPU 基礎設施，或配備 192GB 的 Mac Studio M4 Ultra。

Apple Silicon 的統一記憶體架構讓 CPU、GPU 與 Neural Engine 共用單一的高頻寬記憶體池，消除了傳統系統中資料必須在 CPU RAM 與 GPU VRAM 之間複製所造成的 PCIe 瓶頸。這表示：AI 模型可以使用整個記憶體池（Mac Studio Ultra 最高 192GB），不受獨立 GPU VRAM 的限制；CPU 與 GPU 之間的資料傳輸近乎即時；可執行的模型比相同成本的專用 GPU VRAM 所能容納的更大；而像是搭配大型上下文視窗的 RAG 這類記憶體密集型任務，也能受惠於統一記憶體池。配備 192GB 統一記憶體的 Mac Studio M4 Ultra，能執行 70B 以上參數的模型，而在傳統硬體上這需要多張昂貴的 NVIDIA GPU。

MLX 是 Apple 專為 Apple Silicon 設計的開源機器學習框架。它提供類似 NumPy 的 API，具備自動微分、透過 Metal 的 GPU 加速，以及提升記憶體效率的延遲求值。與 Mac 上的 PyTorch 相比：MLX 在 Apple Silicon 上的推論速度快 2-5 倍，因為它針對 Metal GPU 與統一記憶體架構進行最佳化；PyTorch MPS（Metal Performance Shaders）後端雖可運作，但運算子涵蓋範圍有限；MLX 支援完整的訓練迴圈，而不僅是推論；此外 MLX 社群提供預先轉換的模型（透過 Hugging Face 上的 mlx-community）。在 Mac 上進行正式環境推論、微調以及針對 Apple Silicon 最佳化的開發時，請使用 MLX。當您需要 CUDA 生態系相容性，或計畫部署到 NVIDIA 硬體時，請使用 PyTorch。

從高影響、低風險的使用情境著手：內部知識助理（以 RAG 驅動的公司文件問答）、自動化文件處理（發票、合約、表單）、客服增強（由 AI 起草回覆供人員審閱），以及工程團隊的程式碼輔助。關鍵原則：先針對範圍明確的情境做概念驗證，擴大規模前先衡量投資報酬、確保資料隱私（可考慮地端或私有雲部署）、建立 AI 治理政策、訓練員工有效地與 AI 協作，並為關鍵決策設置人為監督。避免自行打造客製化 LLM——改用基礎模型（Claude、GPT-4、Llama）搭配 RAG 與微調，以加入您的領域知識。

地端 AI 指的是在您自己的資料中心或辦公室內運行 AI 模型與基礎設施，而非使用雲端 API 服務。在下列情況下選擇地端：您處理受法規（GDPR、HIPAA、金融合規）規範、禁止將資料傳送至外部 API 的敏感資料；您需要大規模下可預測的成本（雲端 API 成本隨使用量線性成長）；您需要低延遲推論（回應時間低於 10ms）；您希望完全掌控模型版本、更新與可用性；或您在實體隔離環境中運作。地端選項涵蓋範圍廣：從供小型團隊使用、執行 Ollama 的單台 NVIDIA RTX 工作站，到供部門規模部署、搭配 vLLM 或 TGI 的 GPU 伺服器，再到供全企業 AI 平台使用的完整 DGX 叢集。

成本會隨規模大幅變動。入門級（小型團隊，5-20 位使用者）：Mac Studio M4 Ultra（約 £4,000）或搭載 RTX 4090 的工作站（約 £2,500），執行 Ollama，總計 £3,000-£6,000。中階（部門，50-200 位使用者）：搭載 2-4 張 A100 或 L40S 的 GPU 伺服器、網路與儲存，總計 £50,000-£150,000。企業級（500+ 位使用者，具備訓練能力）：搭載 H100 的多節點 GPU 叢集、InfiniBand 與平行儲存，總計 £500,000-£2M+。DGX 系統：DGX H100 起價約 £300,000。雲端替代方案：AWS/GCP 的 GPU 執行個體每張 GPU 每小時 £2-£30，適合突發工作負載，但全年無休運作則成本高昂。許多組織採用混合做法：穩定的推論工作負載放在地端，訓練的突發需求則使用雲端。

AI 正在多個領域轉變金融服務：詐欺偵測（使用 ML 異常偵測進行即時交易監控）、風險評估（信用評分模型、投資組合風險分析）、法規遵循（自動化 KYC/AML 檢查、監管報告、文件分析）、客戶服務（處理帳戶查詢的 AI 助理、個人化財務建議）、交易（演算法交易策略、來自新聞與社群媒體的市場情緒分析）、文件處理（自動化房貸申請處理、保險理賠分析），以及反洗錢（跨交易網路的模式偵測）。主要考量：金融監管機關要求模型可解釋（不得有黑箱決策）、符合資料主權規範、所有 AI 決策皆有稽核軌跡，以及針對放貸與保險模型進行完善的偏見測試。

AI 正在推進醫療的關鍵領域：醫學影像（AI 輔助放射科，偵測腫瘤、骨折與視網膜疾病，準確度可媲美甚至超越專科醫師）、藥物探索（運用 AI 預測分子結構、找出候選藥物並加速臨床試驗設計，將時程從數年縮短至數月）、臨床文件（環境式 AI 抄寫員聆聽病患診間對話並產生結構化病歷）、病患分流（AI 系統評估症狀嚴重程度並將病患適當轉介）、基因體學（分析基因資料以制定個人化治療方案及預測疾病風險），以及營運效率（預測性排程、供應鏈最佳化、床位管理）。關鍵要求：所有醫療 AI 都必須符合 HIPAA/NHS 資料標準、經過臨床驗證，並在診斷決策上維持臨床醫師的人工監督。

主要的 AI 資安風險包括：提示詞注入（以惡意輸入操縱 AI 行為，繞過安全控制或洩漏系統提示詞）、資料投毒（受污染的訓練資料引入偏見或後門）、模型竊取（透過重複的 API 查詢擷取專有模型）、資料洩漏（AI 在回應中無意間暴露敏感的訓練資料或個人識別資訊）、供應鏈攻擊（遭入侵的模型權重、ML 管線中遭投毒的相依套件）、對抗式攻擊（旨在欺騙影像分類器或 NLP 模型的輸入），以及幻覺風險（AI 產生看似肯定卻不正確的資訊，進而導致有害決策）。緩解需採取分層做法：輸入驗證、輸出過濾、存取控制、監控、紅隊演練與人工監督。

縱深防禦策略：1) 輸入清理：在使用者輸入到達模型之前先驗證並過濾，移除已知的注入模式。2) 系統提示詞保護：切勿在系統提示詞中放入機密或敏感指示，並假設它們可能被提取。3) 輸出過濾：在回傳給使用者之前，掃描 AI 回應中的個人識別資訊、敏感資料或非預期內容。4) 最小權限：AI 代理應只擁有最低限度的權限；程式碼生成請使用沙箱執行環境。5) 速率限制：透過 API 速率限制防止濫用與模型提取。6) 監控：記錄所有 AI 互動、標記異常模式，並為異常行為設定警示。7) 紅隊演練：定期以對抗性提示詞測試您的 AI 系統。8) 護欄：使用 NVIDIA NeMo Guardrails 或 Anthropic 的 constitutional AI 方法來約束模型行為。

AI 治理是一套政策、流程與控管的框架，確保 AI 系統以負責任、符合倫理且遵循法規的方式開發與部署。企業需要 AI 治理以：遵循新興法規（歐盟 AI 法案、英國 AI 安全研究所指引，以及金融與醫療的特定產業規範）、管理聲譽風險（帶有偏見或有害的 AI 輸出）、確保課責性（明確界定 AI 決策的歸屬）、維護資料隱私（以個人資料訓練時遵循 GDPR）、提供透明度（針對信用評分等受規範的決策提供可解釋 AI），以及管理模型生命週期（版本控制、漂移監控、退場流程）。實用的 AI 治理框架包括：AI 倫理委員會、模型風險評估程序、偏見測試規範、事件應變計畫與定期稽核。

AI 資料隱私策略：1) 地端部署：在本機執行模型（使用 Ollama、vLLM 或 TGI），讓資料永不離開您的基礎架構。2) 私有雲：使用具備資料落地保證的專用雲端執行個體（AWS Private Link、Azure Private Endpoints）。3) 資料匿名化：在建立索引前，使用具名實體辨識（NER）從訓練資料與 RAG 文件中移除個資。4) 差分隱私：在模型訓練期間加入數學雜訊，以防止擷取個別資料點。5) 聯邦學習：在分散的資料集上訓練模型，而不必集中敏感資料。6) 存取控制：為 AI 系統實作以角色為基礎的存取，並搭配稽核日誌。7) API 資料處理：使用雲端 AI API（Claude、GPT-4）時，請檢視資料保留政策並選擇退出訓練資料用途。8) 加密：對靜態與傳輸中的資料加密，包括模型權重與向量資料庫嵌入。

歐盟 AI 法案是全球首部全面性的 AI 法規，依風險等級將 AI 系統分類：不可接受風險（禁止）——社會評分、公共場所即時生物辨識監控、操弄性 AI。高風險（嚴格要求）——用於招募、信用評分、醫療診斷、執法、關鍵基礎設施的 AI——需進行符合性評估、人為監督、透明度、偏誤測試與文件記錄。有限風險（透明度義務）——聊天機器人與 AI 生成內容必須揭露其為 AI。最低風險（無特定規定）——垃圾郵件過濾器、電玩遊戲中的 AI。若您的企業在歐盟部署 AI 或服務歐盟公民，您必須：依風險等級分類您的 AI 系統、為高風險系統實施必要的防護措施、維護技術文件與稽核日誌、指派 AI 合規官，並通報重大事件。違規罰款最高可達全球營業額的 7%。

DevOps 是結合軟體開發 (Dev) 與 IT 維運 (Ops) 的文化與技術運動，旨在縮短開發週期並持續交付高品質軟體。它強調協作、自動化、持續整合／持續部署 (CI/CD) 與監控。DevOps 實務協助組織更快部署功能、維持系統可靠性，並迅速回應客戶需求。主要實務包括基礎設施即程式碼 (Terraform、Ansible)、CI/CD 管線 (GitHub Actions、GitLab CI)、容器編排 (Kubernetes) 與可觀測性 (Prometheus、Grafana)。

Kubernetes 是一個容器編排平台，可自動化容器化應用程式的部署、擴縮與管理。針對 AI 工作負載，Kubernetes 提供：GPU 排程（NVIDIA GPU Operator 將 GPU 指派給 AI Pod）、自動擴縮（依請求負載擴縮推論 Pod）、多租戶（隔離不同團隊的 AI 工作負載）、模型服務（以 KServe、Triton Inference Server 或 vLLM 部署）、管線編排（以 Kubeflow 處理 ML 管線），以及高可用性（自我修復、滾動更新，實現零停機的模型部署）。K3s 是輕量級 Kubernetes 發行版，非常適合邊緣 AI 部署與較小型的叢集。

GitOps 以 Git 儲存庫作為宣告式基礎設施與應用程式的單一事實來源。整個系統狀態都在 Git 中進行版本管理，並由自動化程序確保實際運行環境與儲存庫中的定義一致。變更透過 pull request 進行，提供稽核軌跡並易於回滾。ArgoCD、Flux 與 Jenkins X 等工具可實現 GitOps 工作流程。優點包括更高的可靠性、更快的部署、更好的安全性，以及完整的稽核歷程。GitOps 對於管理 AI 基礎設施特別有價值，因為模型部署、設定與資料管線的可重現性與版本控制至關重要。