기업들이 앞다퉈 ChatGPT, Claude, Gemini 같은 생성형 AI를 업무에 도입하고 있습니다. 그런데 마이크로소프트 CEO 사티아 나델라는 이러한 흐름에 뜻밖의 경고를 던졌습니다.
특정 AI 기업의 모델과 도구에 모든 업무를 맡기는 회사는 장기적으로 독립성을 잃고 생존까지 위협받을 수 있다는 주장입니다. 단순히 “어떤 AI가 더 똑똑한가”를 고민할 것이 아니라, 기업의 데이터와 업무 지식이 누구의 시스템에 축적되고 있는가를 살펴봐야 한다는 이야기입니다.
나델라가 말한 ‘생각의 외주화’란 무엇인가
나델라는 CNN의 ‘Fareed Zakaria GPS’ 인터뷰에서 기업이 AI 모델을 사용할 때 발생하는 프롬프트, 수정 기록, 업무 맥락, 메타데이터 등을 직접 보유해야 한다고 강조했습니다.
기업이 고객 응대 방법, 가격 결정 기준, 내부 개발 방식, 문제 해결 노하우를 AI에 계속 입력하면 해당 기록에는 단순한 문서 이상의 가치가 생깁니다. 직원들이 AI의 잘못된 답을 수정하는 과정까지 쌓이면, 그것이 곧 회사만의 실무 지식이 되기 때문입니다.
나델라의 표현을 빌리면 이러한 통제권을 잃는 것은 기업의 ‘생각을 외주화하는 것’과 비슷합니다. 회사의 두뇌는 내부에 있는데 기억과 학습 과정은 외부 AI 플랫폼에만 남아 있는 기묘한 상황이 만들어질 수 있다는 뜻입니다.
그렇다고 기업 데이터가 곧바로 AI 훈련에 사용되는 것은 아닙니다
여기서 한 가지는 분명히 구분해야 합니다. 기사를 읽다 보면 기업이 입력한 프롬프트가 AI 회사의 모델 훈련에 자동으로 흡수되는 것처럼 느껴질 수 있지만, 주요 기업용 서비스의 공식 정책은 이보다 훨씬 제한적입니다.
OpenAI는 ChatGPT Business·Enterprise와 API의 입력 및 출력을 기본적으로 모델 훈련에 사용하지 않는다고 밝히고 있습니다. Anthropic 역시 Claude 기업용 제품과 API 데이터를 고객이 별도로 동의하지 않는 한 훈련에 사용하지 않는다고 설명합니다. Microsoft의 Azure 기반 AI 서비스도 고객 데이터를 허가 없이 기반 모델 훈련에 사용하지 않는다는 정책을 운영하고 있습니다.
따라서 이번 경고의 핵심은 “AI 회사가 몰래 모든 데이터를 학습한다”는 단순한 공포가 아닙니다. 더 현실적인 문제는 특정 업체의 API, 코딩 도구, 에이전트 기억 장치, 데이터 형식에 회사 업무가 깊이 묶이면서 다른 서비스로 옮기기 어려워지는 AI 벤더 종속입니다.
모델과 기억장치를 분리해야 하는 이유
나델라는 AI 모델과 이를 둘러싼 실행 도구를 분리하라고 주문합니다. 쉽게 비유하면 AI 모델은 자동차의 엔진이고, 기업의 데이터와 업무 절차는 운전자의 목적지와 운전 기록입니다.
엔진을 교체했다고 목적지와 운전 기록까지 사라져서는 안 됩니다. 마찬가지로 OpenAI 모델을 사용하다가 Anthropic, Google 또는 자체 모델로 변경하더라도 기업의 프롬프트, 업무 맥락, 에이전트 메모리와 평가 기록은 그대로 유지되어야 합니다.
이를 위해 필요한 것이 AI 게이트웨이와 오케스트레이션 계층입니다. AI 게이트웨이는 직원이나 프로그램이 특정 모델에 직접 연결되는 대신, 중간에서 요청을 관리하고 상황에 따라 적절한 모델로 전달합니다. Microsoft Foundry의 공통 추론 API 역시 여러 모델을 비슷한 방식으로 호출할 수 있도록 설계되어 있으며, AI Gateway는 사용량 제한과 할당량, 접근 정책, 모델 운영 관리를 지원합니다.
마이크로소프트도 이 경고로 이익을 얻습니다
나델라의 주장은 타당한 부분이 있지만 마이크로소프트의 사업적 이해관계도 빼놓을 수 없습니다.
마이크로소프트는 OpenAI에 대한 대규모 투자 지분을 보유하고 있으며, 2025년 11월에는 Anthropic에도 최대 50억 달러를 투자하기로 약속했습니다. 동시에 Azure와 Microsoft Foundry를 통해 여러 회사의 AI 모델을 한곳에서 선택하고 관리할 수 있는 인프라를 판매하고 있습니다.
즉 “하나의 AI에 의존하지 말라”는 조언은 기업 고객에게 유용하지만, 여러 모델을 관리해 주는 마이크로소프트 클라우드 사업에도 유리한 메시지입니다. 이를 고려한다고 해서 주장이 틀리는 것은 아니지만, 순수한 공익적 경고로만 받아들일 필요도 없습니다.
또한 “특정 AI를 사용하는 기업은 살아남지 못한다”는 표현은 검증된 통계적 결론이라기보다 나델라의 강한 전략적 전망에 가깝습니다. 실제 생존 여부는 산업 특성, 데이터 민감도, 계약 조건, 내부 기술력과 AI 의존 수준에 따라 달라질 수 있습니다.
오픈웨이트 모델이 모든 문제를 해결할까
기업들은 종속 위험을 줄이기 위해 오픈웨이트 모델에도 관심을 보이고 있습니다. 다만 오픈웨이트와 완전한 오픈소스는 같은 의미가 아닙니다.
오픈웨이트 모델은 학습된 매개변수를 공개해 기업이 자체 서버에서 실행하거나 추가 조정할 수 있도록 한 모델입니다. 하지만 학습 데이터, 전체 소스 코드, 훈련 방식과 상업적 이용 권한까지 모두 공개된다는 의미는 아닙니다.
따라서 “오픈웨이트이니 무조건 안전하고 자유롭다”고 판단해서는 안 됩니다. 라이선스, 보안 업데이트, 서버 비용, 모델 성능, 규제 준수 여부를 함께 검토해야 합니다.
기업이 지금 준비해야 할 네 가지
첫째, 프롬프트와 업무 데이터, 에이전트 메모리를 특정 AI 서비스 안에만 저장하지 않아야 합니다. 가능한 한 기업이 직접 관리하는 데이터베이스와 로그 시스템에 보관하는 것이 좋습니다.
둘째, 중요한 업무는 최소 두 개 이상의 모델에서 실행할 수 있도록 설계해야 합니다. 한 업체의 장애나 가격 인상, 정책 변경이 발생해도 업무를 계속할 수 있는 대체 경로가 필요합니다.
셋째, AI 모델보다 기업 자체의 평가 기준을 먼저 만들어야 합니다. 정확도, 비용, 응답 속도, 보안성 등을 같은 질문으로 비교할 수 있어야 광고 문구가 아니라 실제 성능을 기준으로 모델을 선택할 수 있습니다.
넷째, 무료 개인용 AI와 기업용 AI를 구분해야 합니다. 민감한 고객 정보나 계약 자료, 내부 소스 코드를 개인용 계정에 무분별하게 입력해서는 안 됩니다. 기업용 서비스라도 데이터 보관 기간과 관리자 권한, 학습 사용 여부를 계약서에서 확인해야 합니다.
AI 시대의 경쟁력은 ‘최고의 모델’보다 통제권에 있습니다
이번 발언은 ChatGPT나 Claude를 사용하지 말라는 이야기가 아닙니다. 오히려 좋은 모델을 적극적으로 활용하되, 기업의 지식과 업무 구조까지 한 업체에 넘겨서는 안 된다는 경고입니다.
앞으로 AI 모델의 성능 순위는 계속 바뀔 것입니다. 오늘 가장 뛰어난 모델이 내년에도 1등이라는 보장은 없습니다. 하지만 기업이 자체 데이터와 업무 맥락, 평가 기록을 온전히 보유하고 있다면 필요할 때 더 좋은 모델로 갈아탈 수 있습니다.
결국 AI 시대에 살아남는 기업은 하나의 AI를 가장 충성스럽게 사용하는 회사가 아니라, 여러 AI를 자유롭게 선택하면서도 자신의 지식과 판단력을 잃지 않는 회사일 가능성이 높습니다.
