피해자 사진 아님·보도 인용(별도 허가 취득 아님)회사 일을 돕는 AI가 위험한 행동을 보였을 때, 직원의 업무까지 전부 멈추는 대신 에이전트의 권한만 좁히는 방법이다. 마이크로소프트는19일 보안 블로그에서 Project Perception을 회사 내부 AI 에이전트의 통제로 확장한다고 밝혔다. 직원과 AI를 같은 계정의 권한 묶음으로 취급하지 않고, 에이전트의 신원·업무·허용 범위를 따로 관리한다는 구상이다.
찾아내는 것과 허용하는 것은 다르다
회사는 직원 기기에 들어온 로컬 에이전트 탐지 유형을35종 추가해 총60종으로 늘린다고 설명했다. Claude Code, OpenAI Codex, GitHub Copilot 등이 예로 제시됐다. 이 숫자는 발견할 수 있는 로컬 에이전트 유형의 범위이지, 회사가 쓸 수 있는 AI의 수나 보안 차단율이 아니다. 발견한 에이전트는 통합 등록부에서 소유자·활동·위험을 파악하도록 한다.
발견 다음에는 별도 신원이 필요하다. Microsoft Entra Agent ID를 로컬 또는 기존에 알려지지 않았던 에이전트 패턴으로 넓혀 정책 적용의 대상으로 삼는다는 설명이다. 사람이 한 행동인지, 사람을 대신해 AI가 한 행동인지 구분할 수 있어야 책임과 권한을 추적할 수 있다는 취지다.
한 번 맡겼다고 직원 권한 전부를 주지 않는다
새로 발표한 Dynamic Permissions는 조직 정책을 바깥 경계로 두고, 승인된 업무에 필요한 권한을 필요한 기간에만 주는 방식이다. 에이전트가 원래 사용자의 권한을 넘어서는 권한을 얻지 못하도록 하며, 더 큰 영향을 주는 행동에는 검증된 사람의 승인을 요구할 수 있다. 업무가 바뀌거나 끝나면 권한을 줄이거나 회수하는 구조다.
Dynamic Agent Risk와 Dynamic Conditional Access는 그 권한을 상황에 맞게 바꾸는 부분이다. 예컨대 경비 처리 AI가 외부 문서에서 원래 업무와 다른 지시를 만나 위험이 커졌다면, 읽기는 유지하되 쓰기를 막거나 접근할 자료와 네트워크 경로를 좁히는 대응을 할 수 있다고 회사는 설명했다. 위험이 더 크면 실행 환경을 격리하거나 중지하는 단계도 있다. 이는 회사가 든 설계 예시이며 실제 사고가 발생했다는 보고는 아니다.
Playbooks와 Guardian Agents는 사람이 정한 정책·승인·위임 경계 안에서 이런 지속 감시와 대응을 수행하도록 소개됐다. AI가 무엇을 할 수 있는지를 정하는 통제는 AI 모델 자체의 바깥에 있어야 하며, 모델이 자신을 감시하는 장치를 꺼버릴 수 없어야 한다는 것이 발표의 공통 원칙이다. 사람의 판단과 책임까지 AI에 넘기겠다는 설명은 아니다.
7월 발표의 확장…모든 이용자에게 켜졌다는 뜻은 아니다
Project Perception 자체의 최초 발표는7월이었다.19일 새 내용은 회사 안에서 업무를 수행하는 에이전트로 통제를 확장하고, 탐지 범위와 동적 권한·위험 대응 기능을 설명한 것이다. 이번 확인은 공식 발표와 구조 설명에 한정되며, 한국의 모든 계정에서 지금 일반제공되는지, 필요한 구독과 가격이 무엇인지, 실제 방어 효과가 어느 정도인지를 검증한 것은 아니다.
출처로 확인한 내용
5건
Microsoft는19일 Perception을 내부 에이전트 통제로 확장하며 로컬 에이전트 탐지를35종 추가·총60종으로 넓힌다고 발표했다.
Dynamic Permissions는 사람과 에이전트의 신원·권한을 구분하고 업무/시간 범위에 맞춰 권한을 부여·축소하는 구조다.
Dynamic Agent Risk/Conditional Access는 위험 변화에 따라 읽기 유지·쓰기 차단·접근 축소·격리/중지 등 단계적 대응을 설명한다.
Playbooks와 Guardian Agents는 사람이 정한 정책·승인·위임 경계 내 지속 감시와 대응으로 소개됐다.
Perception 최초 발표는7월로19일의 확장과 구분해야 하며 이번 확인은 모든 계정 일반제공·가격·효과 실측의 증거가 아니다.
