課程源起

自 2022 年大型語言模型（LLM）普及以來，AI 技術快速推進至 Agentic AI（代理式人工智慧）的新階段。許多企業已不再僅僅將 AI 作為對話工具，而是透過 AI Agents、AI Agent Frameworks、AI Orchestrations 建立可自動化決策、跨系統操作、讀寫檔案、瀏覽網頁、觸發 API 的高自治系統。

然而，隨著自主能力提升，安全風險呈倍數成長：

• LLM 攻擊手法出現跨模型傳播與持續複製能力
• AI Agents 具備「行動能力」後，攻擊面已從 Prompt 擴大至作業系統、雲端、網頁
• 各式 AI Agent Framework（LangChain、LangGraph、LlamaIndex、Semantic Kernel 等）導入大量外部工具、API、插件，形成新的供應鏈風險
• 國際組織（MITRE、NIST、OWASP、ISO、Gartner）陸續針對 Agentic AI 與 LLM Security 發布多項指南與控制措施

在此背景下，企業與技術人員急需一套可落實於現場的 AI Agent Security 實務知識，包含最新攻擊手法、弱點實例、通訊協定安全、行動型代理的風險模型、AI 管理系統（AIMS）與治理框架。

本課程即在此需求下誕生，旨在以 21 小時的深度課程，建立學員對Agentic AI × LLM × Security × Governance 的全局視角與實務能力。

課程目標

1. 理解 Agentic AI、AI Agents 與 AI Agent Frameworks 的核心概念與技術架構
   含自主迴圈、任務規劃、工具使用、協作流程、狀態管理、記憶模型等。
2. 掌握 10 大類型 AI Agents 的原理與安全風險模型
   包含工具驅動、RAG 型、瀏覽器代理、電腦操作代理、行動代理、API 代理等。
3. 建立 AI Agent Protocol Security 的知識基礎
   深入理解代理與工具、插件、瀏覽器、工作器（workers）之間的通訊與攻擊面。
4. 熟悉當前 AI 安全領域最重要的國際標準與框架
   • MITRE ATLAS
   • NIST AI 100-2 (AML)
   • OWASP LLM Top 10
   • OWASP ML Security Top 10
   • Gartner AI TRiSM
   • ISO 42001 AIMS
5. 具備分析與防範 Agentic AI 與 LLM 最新攻擊手法的能力
   例如：指令逃逸、越權操作、工具濫用、跨代理污染、資料外洩、記憶注入等。
6. 能以系統性方法設計 AI Agent Security 控制措施與治理架構
   運用 AISPM、風險矩陣、使用者信任層、存取控制、模型防護、行為監測等方法。
7. 能將本課程內容應用於企業 AI 專案、生成式應用、AI Agents 產品、PoC 評估等實務情境。

適合對象

• 資訊安全人員（CISO、資安主管、SOC/Blue Team 人員）
  需要掌握 AI 新攻擊面、威脅模型與安全控制方法。
• AI 產品開發、AI 平台工程師、AI 架構師
  需理解 Agentic AI 與 AI Agents 的設計模式與安全風險。
• 資料科學家、模型工程師、ML Ops/LLM Ops 工程師
  希望掌握模型安全、對抗性攻擊、Agent 安全架構。
• 企業 AI 專案負責人與治理人員（AIGC PM、AI Compliance、AI Governance）
• 政府單位、金融業、醫療、製造、科技業之資安或 AI 技術團隊
• 希望理解最新 AI 安全趨勢、國際框架與完整安全架構者

課程特色

1. 完整涵蓋 Agentic AI × LLM × Security 全議題（橫跨 22 大主題）

從 AI 基礎、Agent Frameworks、LLM 安全、Agent 安全、治理、風險模型到國際標準，建構「從技術到管理」的全方位視角。

2. 深入解析 10 大類型 AI Agents 的運作原理、風險與控制措施

包含瀏覽器代理、電腦操作代理、API 工具代理、工作流程代理等實務情境。

3. 專注於「可落實」的 AI Agent Security 實務

每個章節皆包含：

• 真實案例
• 攻擊流程解析
• 威脅模型
• 防禦工具範例
• 稽核證據／控制項示例

4. 全面對照國際最新 AI 安全標準

包含：

• MITRE ATLAS
• NIST AI 100-2e2023（Adversarial ML）
• OWASP LLM Top 10
• OWASP ML Security Top 10
• Gartner AI TRiSM
• ISO 42001 AIMS
  確保課程內容高度對齊全球最新趨勢。

5. 強調通訊協定與框架安全：AI Agent Protocol Security

聚焦 Agent 與工具／插件／瀏覽器／工作器通信時的：

• 權限模型
• 跨境操作
• 越權風險
• API 注入
• 行為監測

6. 探討 LLM 最新攻擊手法與防禦策略

包含：

• Prompt injection
• Jailbreak
• Memory poisoning
• Tool exploitation
• Cross-agent contamination
• Model stealing
• Data exfiltration via LLM

7. 結合 AISPM（AI Security Posture Management）與 AI Governance 實務

協助企業建立 AI 安全政策、存取控管、模型治理、風險矩陣與稽核流程。

8. 與產業實務接軌，重視企業落地情境

包含：金融業、政府機關、醫療、半導體、科技業的導入挑戰與控管實例。

課程大綱：

01.人工智慧概述與當前發展

02.何謂 Agentic AI、AI Agent、AI Agent Framework

03.AI Agents 架構與核心元件

04.10大類型 AI Agents 與運作原理流程詳述

05.AI Agent Protocol 安全

06.人工智慧安全態勢管理(AISPM)

07.生成式 LLM 的安全性 (Security of generative LLMs)

08.Agentic AI的威脅情勢與弱點

09.Agentic AI Security & Governance

10.AI Agent的安全挑戰與關鍵風險

11.Top 10 Vulnerabilities in AI Agents

12.AI Agent安全控制措施

13.AI瀏覽器代理程式(AI browser agents)的安全風險

14.Computer Use 代理程式(AI browser agents)的安全風險

15.大型語言模型(LLM)最新攻擊手法與緩解

16.Top AI Security and Safety Risks

17.NIST AI 100-2e2023 Adversarial Machine Learning

18.OWASP Top 10 for LLM Applications

19.OWASP Machine Learning Security Top 10

20.Gartner AI TRiSM 框架

21.MITRE ATLAS Framework Securing AI Systems

22.ISO 42001 AIMS 人工智慧管理系統

23.整合應用各式安全框架與標準強化 AI 應用環境安全