구글은 새로운 지원 문서에서, 웹, 안드로이드 및 iOS의 Gemini 챗봇 앱 사용자로부터 데이터를 수집하는 방법을 설명하며, 사용자의 대화 내용을 인간 주석가가 정기적으로 읽고 라벨링하여 서비스를 개선한다고 언급하고 있습니다. (이 주석가들이 구글 내부에서 일하는지 아니면 외부에서 아웃소싱되는지는 분명히 밝혀지지 않았으며, 데이터 보안과 관련하여 중요할 수 있습니다. 구글은 이에 대해 언급하지 않습니다.) 이 대화 내용은 사용자가 사용한 언어와 기기, 그리고 위치와 함께 최대 3년 동안 보관됩니다.
지금은 구글이 Gemini와 관련된 데이터를 보유하는 방법에 대해 사용자에게 일부 제어를 제공합니다.
Google의 내 활동 대시 보드에서 Gemini 앱 활동을 끄면(기본적으로 활성화됨) 미래의 Gemini와의 대화가 Google 계정에서 검토를 위해 저장되지 않습니다.(즉, 3년의 기간이 적용되지 않습니다.)
한편, Gemini 앱 활동 화면에서 개별 프롬프트 및 대화를 삭제할 수 있습니다.
그러나 구글은 Gemini 앱 활동이 꺼져 있어도, Gemini 대화가 Google 계정에 보관되어 Gemini 앱의 안전과 보안을 유지하고 Gemini 앱을 개선하기 위해 최대 72시간 동안 저장될 것입니다.
“제품, 서비스 및 기계 학습 기술을 개선하기 위해 사용자가 검토하는 데 사용하거나 Google이 사용하고자하는 기밀 정보나 데이터를 대화에 입력하지 마십시오,”라고 구글은 쓰고 있습니다.
공정하게 말하자면, 구글의 GenAI 데이터 수집 및 보존 정책은 경쟁 업체들과 크게 다르지 않습니다. 예를 들어, OpenAI는 ChatGPT와의 모든 대화를 30일 동안 저장합니다. ChatGPT의 대화 기록 기능이 꺼져 있을지라도, 엔터프라이즈 수준의 사용자가 사용자 정의 데이터 보존 정책이 있는 계획에 가입한 경우를 제외하고는 모든 대화를 저장합니다.
하지만 구글의 정책은 개인 정보 보호와 사용자 데이터를 활용하여 자체적으로 개선되는 GenAI 모델 개발 사이에 균형을 유지하는 데 내재된 도전을 보여줍니다.
자유로운 GenAI 데이터 보존 정책은 최근 규제 기관들과 업체들 사이에서 문제가 된 적이 있습니다.
작년에 FTC는 OpenAI로부터 해당 회사가 모델 훈련에 사용되는 데이터, 소비자 데이터를 포함한 데이터의 심사 방법 및 제3자가 액세스할 때 해당 데이터가 어떻게 보호되는지에 대한 상세 정보를 요청했습니다. 해외에서는 이탈리아의 데이터 개인 정보 보호 기관인 이탈리아 데이터 보호 당국이 OpenAI가 GenAI 모델을 훈련하기 위해 개인 데이터를 대규모 수집 및 저장하는 데 “법적 근거”가 없다고 밝혔습니다.
GenAI 도구가 증가함에 따라 기업들은 개인정보 위험에 대해 점점 더 조심스러워지고 있습니다.
시스코의 최근 조사에 따르면, 기업의 63%는 GenAI 도구에 입력되는 데이터에 제한을 두었으며, 27%는 GenAI를 전면 금지했습니다. 같은 조사에서는 직원의 45%가 직원 정보나 직장에 대한 비공개 파일 등 “문제가 되는” 데이터를 GenAI 도구에 입력했다는 결과가 나왔습니다.
OpenAI, Microsoft, Amazon, Google 등은 기업을 대상으로 한 GenAI 제품을 제공하며, 이들 제품은 모델 훈련이나 다른 목적으로 데이터를 보관하지 않는 것이 명시되어 있습니다. 그러나 소비자들은 종종 이득을 얻지 못하는 상황에 처해 있습니다.