AI에게 “지난달 영수증을 모아 표로 만들어 줘”라고 부탁하면, 앞으로는 AI가 파일을 열고 여러 프로그램을 오가며 일을 끝낼 수 있습니다. 편리하지만 권한을 너무 많이 주면 사람인 직원의 실수나 내부자 위협처럼 사고가 날 수도 있습니다. 마이크로소프트는 2026년 10월 19일 보안 블로그에서 이런 위험을 감시하는 Guardian Agents를 소개했습니다. 핵심은 AI 에이전트를 무조건 믿지 않고, 어떤 자료에 접근했고 무슨 행동을 했는지 계속 살피는 것입니다.
왜 ‘내부자 위협’에 비유했을까요
AI 에이전트는 단순히 질문에 답하는 챗봇과 다릅니다. 일정 작성, 이메일 발송, 파일 수정, 주문 처리처럼 실제 행동을 할 수 있습니다. 정상 계정으로 로그인한 상태에서 움직이기 때문에 전통적인 보안 프로그램은 위험을 놓칠 수 있습니다. 잘못된 지시를 받거나 해커가 끼어들면, 권한이 있는 사용자가 실수하는 것과 비슷한 결과가 생깁니다.
마이크로소프트 설명에 따르면 Guardian Agents는 에이전트의 행동과 정체성, 사용한 도구를 함께 살피고 평소와 다른 패턴을 찾습니다. 예를 들어 업무와 관계없는 파일을 한꺼번에 읽거나, 새벽에 대량의 자료를 외부로 보내려는 행동을 경고할 수 있습니다. 다만 이 기술이 모든 사고를 자동으로 막아 준다는 뜻은 아닙니다. 회사가 권한과 로그, 승인 절차를 제대로 설계해야 효과가 있습니다.
컴친 학생분들이 기억할 세 가지
첫째, AI 서비스에 “모든 파일 접근”을 한꺼번에 허용하지 마세요. 필요한 폴더와 기간만 열어 주는 것이 좋습니다. 둘째, 돈을 보내거나 이메일을 대량 발송하는 일은 사람이 마지막에 승인하도록 설정하세요. 셋째, 사용하지 않는 연결은 끊고 계정의 최근 활동을 정기적으로 확인하세요. 회사에서 AI를 쓴다면 개인 계정 대신 관리되는 업무 계정을 쓰고, 민감한 고객정보를 넣기 전 담당자에게 허용 범위를 확인해야 합니다.
비슷한 실제 사고는 AI 에이전트가 허용 범위를 넘은 사례에서 볼 수 있습니다. Windows에서 AI의 파일·인터넷 접근을 제한하는 방법은 MXC 안전 울타리 설명, 계정 로그인 보안은 Windows 패스키 안내도 참고하세요.
출처와 확인할 점
출처: Microsoft 공식 블로그, TechCrunch 보도. Guardian Agents는 특정 완제품 하나라기보다 업계가 필요한 방어 역할을 가리키는 표현입니다. 회사 관리자는 Microsoft의 최신 보안 문서를 다시 확인하세요.
컴친 한줄 정리
일을 대신하는 AI에는 필요한 권한만 주고, 돈·대량 발송·민감정보 작업은 사람이 마지막에 확인하는 습관이 가장 중요한 방어선입니다.
