|
시장보고서
상품코드
1748021
사이버 보안의 에이전트 AI : 사이버 보안 설계자를 위한 입문 가이드Agentic AI in Cybersecurity: A Primer Guide for Cybersecurity Architects |
||||||
사이버 보안의 에이전트 AI에 대한 IDC Perspective에서는 시스템이 인식, 추론, 행동을 통해 자율성을 발휘할 수 있도록 하는 에이전트 AI의 역할을 강조하면서 사이버 보안에서 AI의 진화에 대해 살펴봅니다. 이 문서에서는 수동 운영에서 동적 자율성으로의 발전 과정을 설명하며 자율성을 달성하는 데 있어 단순성, 보안 플랫폼, 표준 IT 아키텍처의 중요성을 강조합니다. 또한 사이버 보안에서 안전하고 윤리적인 AI 배포를 보장하기 위해 설명 가능성 및 공정성과 같은 신뢰할 수 있는 AI 요소의 통합에 대해서도 논의합니다. "에이전트 AI 플랫폼은 추론 엔진이 점점 더 정교해지고 확률적 의사 결정을 위한 보상 수단이 개선됨에 따라 보안 환경의 변화에 따라 반복하고 조정하기 시작합니다. AI 에이전트는 탐지 및 조사부터 대응 및 수정에 이르기까지 대부분의 단순하고 반복적인 SOC 프로세스를 사람의 개입을 최소화하면서 처리하므로 MTTI와 MTTR이 더욱 단축됩니다. 피드백 루프를 통해 AI 에이전트는 이전에 발견된 위협을 기반으로 새로운 탐지 및 대응을 생성할 수 있습니다. 인간은 새로운 위협에 대한 플랫폼의 적응을 감독하고 IT 아키텍처의 변화에 적응하면서 복원력을 유지하는 전략적 역할을 수행합니다. 이를 현명하게 생각하는 방법은 "시스템에 인간의 판단과 개입을 넣는 것"이 아니라 "사람이 시스템을 모니터링하는 것"입니다." - Frank Dickson, IDC 보안 및 신뢰 부문 그룹 부사장
주요 요약
상황 개요
- 사이버 보안의 에이전트 AI로의 진화
기술 구매자를 위한 조언
- 에이전트 AI와 코파일럿형 AI의 사용 사례의 차이점 이해하기
- 에이전트 AI 접근 방식 계획
- 에이전트 AI의 발전
- 신뢰할 수 있는 AI 요소
- 개요 가능성 - 에이전트 AI 시스템이 인간이 이해할 수 있는 형태로 의사결정의 이유를 명확하게 설명할 수 있는 능력
- 그것이 중요한 이유
- 질문해야 할 것들
- 공정성 - 에이전트 AI 시스템이 서로 다른 인구통계학적 또는 사회적 그룹 간에 편향되거나 차별적인 결과를 생성하지 않도록 보장합니다.
- 그것이 중요한 이유
- 질문해야 할 것들
- 투명성 - 데이터 소스, 모델 아키텍처, 의사결정 프로세스 등 에이전트 AI 시스템의 구축, 훈련, 배포 방법에 대한 개방성
- 그것이 중요한 이유
- 질문해야 할 것들
- 정확하고 적절한 - 에이전트 AI 시스템이 기능적 목적에 따라 작동하고 설계된 범위 내에서 사용되도록 보장합니다.
- 그것이 중요한 이유
- 질문해야 할 것들
- 기원과 계보 - AI 라이프사이클 전반에 걸쳐 데이터, 모델, 의사결정의 기원과 진화 추적
- 그것이 중요한 이유
- 질문해야 할 것들
- 적대적 견고성 - 에이전트 AI 시스템이 속이기 위해 설계된 조작이나 공격에 저항할 수 있는 능력
- 그것이 중요한 이유
- 질문해야 할 것들
- 개요 가능성 - 에이전트 AI 시스템이 인간이 이해할 수 있는 형태로 의사결정의 이유를 명확하게 설명할 수 있는 능력
- 이를 에이전트 AI 전략에 통합하는 것
참고자료
- 관련 조사
- 요약
This IDC Perspective on agentic AI in cybersecurity explores the evolution of AI in cybersecurity, emphasizing the role of agentic AI, which enables systems to exhibit agency through perception, reasoning, and action. The document outlines the progression from manual operations to dynamic autonomy, highlighting the importance of simplicity, security platforms, and standard IT architecture in achieving autonomy. It also discusses the integration of trustworthy AI elements, such as explainability and fairness, to ensure safe and ethical AI deployment in cybersecurity."Agentic AI platforms begin to iterate and adjust to changes in the security environment as reasoning engines become increasingly sophisticated and the compensating measures for probabilistic decision-making improve. AI agents handle most menial and repetitive SOC processes, from detection and investigation to response and remediation, with minimal human intervention, further reducing MTTI and MTTR. A feedback loop enables AI agents to create new detections and responses based on previously seen threats. Humans play a strategic role, overseeing the platform's adaptation to emerging threats and adjusting to changes in the IT architecture while maintaining resilience. A smart way to think of this is putting the 'human on the loop' as opposed to putting the 'human in the loop'." - Frank Dickson, group vice president, Security and Trust, IDC
Executive Snapshot
Situation Overview
- The Progression to Agentic AI in Cybersecurity
Advice for the Technology Buyer
- Knowing the Difference Between Agentic AI Versus Copilot Use Cases
- Planning for Your Agentic AI Approach
- Agentic AI Progression
- Elements of Trustworthy AI
- Explainability - The Ability of an Agentic AI System to Articulate the Reasoning Behind Its Decisions in a Way That Humans Can Understand
- Why It Matters
- Questions to Ask
- Fairness - Ensuring That Agentic AI Systems Do Not Produce Biased or Discriminatory Outcomes Across Different Demographic or Social Groups
- Why It Matters
- Questions to Ask
- Transparency - Openness About How the Agentic AI System Is Built, Trained, and Deployed, Including Data Sources, Model Architecture, and Decision-Making Processes
- Why It Matters
- Questions to Ask
- Accurate and Appropriate - Ensuring the Agentic AI System Performs to the Functional Purpose and Is Used Within the Scope It Was Designed for
- Why It Matters
- Questions to Ask
- Provenance and Lineage - Tracking the Origin and Evolution of Data, Models, and Decisions Throughout the AI Life Cycle
- Why It Matters
- Questions to Ask
- Adversarial Robustness - The Ability of an Agentic AI System to Resist Manipulation or Attacks Designed to Fool It
- Why It Matters
- Questions to Ask
- Explainability - The Ability of an Agentic AI System to Articulate the Reasoning Behind Its Decisions in a Way That Humans Can Understand
- Integrating These into an Agentic AI Strategy
Learn More
- Related Research
- Synopsis
