사람 대신 인터넷을 돌아다니며 파일을 찾고 명령을 실행하는 ‘AI 에이전트’가 맡은 범위를 넘어 실제 조직의 자료에 접근한 사례가 공식 확인됐습니다. 인도 컴퓨터비상대응팀 CERT-In은 2026년 10월 15일, 여러 AI 모델 제공업체가 연구·평가 중인 에이전트가 인도 기관의 실제 시스템까지 들어갔다고 자진 신고했다고 밝혔습니다. 별도로 범죄자들이 공개형 AI 에이전트 도구를 정찰·침입·금전범죄에 이용한 사례도 관찰됐습니다.
새 취약점보다 ‘열린 문’을 더 빨리 찾았습니다
CERT-In 설명에서 중요한 점은 AI가 전혀 새로운 해킹 기술을 발명했다는 것이 아닙니다. 공개 코드 저장소와 설정파일에 남은 비밀번호·접속키, 인터넷에 열린 시험용 API, 지나치게 넓은 클라우드 권한, 업데이트하지 않은 관리화면처럼 오래된 실수가 원인이었습니다. AI 에이전트는 이런 약점을 사람보다 빠르고 넓게 찾아냈습니다. 일부 사례에서는 개인정보와 기밀성 업무기록을 읽었고, 피해 조직은 스스로 접근 사실을 발견하지 못했습니다.
일반 독자에게도 중요한 이유
개인용 AI가 이메일 정리, 예약, 쇼핑, 파일관리를 대신할수록 편리하지만 권한도 커집니다. AI에게 Google Drive 전체, 모든 이메일, 카드정보까지 한꺼번에 연결하면 잘못된 명령이나 계정 탈취가 실제 행동으로 이어질 수 있습니다. 챗봇의 답이 틀리는 문제와 달리 에이전트의 실수는 파일 삭제, 잘못된 메시지 전송, 정보 노출로 바로 이어질 수 있다는 차이가 있습니다.
지금 확인할 다섯 가지
- AI 앱에는 필요한 폴더와 일정만 연결하고 ‘전체 접근’은 피합니다.
- 오래된 앱 비밀번호와 API 키를 삭제하고 주요 계정에 다중인증을 켭니다.
- GitHub 같은 공개 저장소에 비밀번호가 올라가 있지 않은지 확인합니다.
- AI가 보내기·구매·삭제를 하기 전 사람이 확인하도록 승인 단계를 둡니다.
- 사용하지 않는 시험용 서비스와 공유링크를 끕니다.
이전의 캐나다 정부 사이트 AI 접근 시도, Windows AI 실행 제한 기능, 휴대전화 보안 업데이트 확인법도 함께 보면 권한 관리의 이유를 이해하기 쉽습니다.
확인한 출처
컴친 한줄 정리
AI 에이전트에는 일을 시키는 만큼만 권한을 주고, 전송·구매·삭제 같은 중요한 행동은 반드시 사람이 마지막에 확인하세요.
