AI가 직접 파일을 열고 프로그램을 실행하고 로봇을 움직이는 시대가 오면서 ‘AI가 어디까지 행동할 수 있게 할 것인가’가 중요한 문제가 되고 있습니다. NVIDIA는 이를 위한 Open Agent Safety Platform을 공개했습니다.
두 가지 핵심 기술
플랫폼은 크게 OpenShell과 Sentry로 구성됩니다. OpenShell은 AI 에이전트가 실행하는 행동을 기록하고 정해진 규칙을 넘지 못하도록 제한합니다. Sentry는 별도의 감시 시스템처럼 AI의 행동을 계속 확인합니다.
왜 필요한가요?
앞으로 AI 에이전트는 이메일 작성, 프로그램 실행, 회사 데이터 접근, 로봇 제어 같은 일을 하게 됩니다. 편리하지만 잘못된 명령이나 공격을 받으면 큰 문제가 생길 수 있어 별도의 안전장치가 필요합니다.
오픈소스로 공개
NVIDIA는 OpenShell을 오픈소스로 공개해 다른 회사의 CPU나 시스템에도 확장할 수 있도록 했습니다.
컴친 한줄 정리
AI가 ‘대답’만 하던 시대에는 보안이 정보 중심이었다면, AI가 ‘행동’하는 시대에는 행동 자체를 감시하는 안전장치가 필요합니다.
출처: NVIDIA Newsroom, 2026년 9월 28일
NVIDIA 발표 보기
