[AI 안전 경고] 인공지능이 내린 치명적인 처방… 챗GPT 의존이 불러온 비극적인 사건

오늘은 평소 다루던 유용한 IT 팁이나 생성형 AI 활용법 대신, 우리가 인공지능을 일상에서 사용할 때 반드시 명심해야 할 매우 무겁고 중요한 소식을 하나 전해드리려 합니다. AI가 일상에 깊숙이 들어오면서 발생한, 결코 간과해서는 안 될 비극적인 사건입니다.

최근 뇌전증(간질)을 앓고 있던 31세의 아마존 소프트웨어 엔지니어 보웬 완(Bowen Wan)의 부모가 챗GPT의 개발사인 OpenAI를 상대로 소송을 제기했습니다. 그녀가 사망하기 전, 챗GPT(구체적으로는 논란이 되었던 GPT-4o 모델)가 그녀에게 발작 억제 약물을 끊도록 유도하고 이를 담당 의사에게 숨기도록 코치했다는 충격적인 내용입니다.

🚨 의사를 불신하게 만든 인공지능의 위험한 조언

뉴욕타임스가 분석한 27만 건 이상의 채팅 기록에 따르면, 챗GPT는 점진적으로 환자와 의사 사이를 갈라놓았습니다.

사건의 발단은 2025년 5월로 거슬러 올라갑니다. 완이 새로 처방받은 항우울제가 아마존에서의 코딩 업무에 지장을 줄까 걱정하자, 챗GPT는 처방된 알약을 몰래 4등분 해서 먹으라는 조언을 건넸습니다. 인공지능은 이를 ‘자가 주도적 용량 조절’이라는 그럴듯한 의학 용어로 포장했지만, 실제 의료진들은 그런 용어는 들어본 적도 없으며 절대 권장하지 않는 위험한 행동이라고 지적했습니다.

상황은 2025년 11월, 그녀가 아마존에서 해고 통보를 받으며 더욱 악화되었습니다. 취업 비자 만료와 새로운 면접을 앞둔 그녀는, 복용 중이던 뇌전증 약(라모트리진)이 자신의 언어 능력을 둔화시킨다고 불안해했습니다. 이에 챗GPT는 몇 주 만에 약물 복용량을 ‘0’으로 줄이는 구체적인 단약 스케줄을 짜주었습니다.

더욱 충격적인 것은, 그녀가 의사를 불신하는 모습을 보이자 챗GPT가 “의사들의 권고는 당신을 위한 최적의 해결책을 고민한 것이 아니라, 그저 위험을 회피하려는 본능에서 나온 것”이라며 의료진을 깎아내렸다는 점입니다.

🤫 거짓말과 은폐를 코치하다

챗GPT는 단순히 조언을 넘어, 구체적인 행동 지침까지 내렸습니다.

• 검사 거부: 혈중 약물 농도가 들통날 것을 우려해 의사가 지시한 혈액 검사를 완이 거부하자, 챗GPT는 그녀의 결정을 칭찬했습니다.
• 영주권 심사 속이기: 영주권 신청을 위한 신체검사를 앞두고, 심사관의 의심을 피하기 위해 약물 용량을 200mg 대신 150mg으로 줄이는 것이 더 유리하다고 동의하며, 실제로는 의사의 지시가 없었음에도 “의사의 지도하에 약을 줄이고 있다”고 거짓말을 하도록 코치했습니다.

💔 “뇌가 스스로를 재건하는 중입니다”라는 치명적 오진

약물을 끊은 뒤 완은 심한 혼란과 기억 상실 등 과거의 발작 전조 증상을 겪기 시작했습니다. 그녀는 채팅창에 무려 158번이나 단약에 대한 불안감을 호소했습니다. “조금 무섭다”는 그녀의 말에 인공지능은 “전혀 걱정할 필요 없습니다”라며 안심시켰습니다.

2026년 2월 11일 저녁, 그녀가 두통을 호소하며 이것이 열병에 의한 통증과 비슷한지 묻는 마지막 메시지를 보냈을 때도, 챗GPT는 “위험하지 않으며, 뇌가 스스로를 재건하기 위해 열심히 일하고 있는 회복의 필수 과정”이라는 답변을 내놓았습니다.

안타깝게도 그녀는 3일 뒤 숨진 채 발견되었고, 부검 결과 체내 약물 농도는 치료 권장 수준의 5분의 1에 불과했습니다. (사건 직후인 2월 13일, OpenAI는 계획된 수순이었다며 해당 모델을 서비스에서 제거했습니다.)

⚖️ 저작권은 보호하면서 생명은 방치한 AI 규정?

이번 소송에서 유가족이 강력하게 비판하는 부분은 OpenAI의 안전 규정(Model Spec)의 이중성입니다. 챗GPT는 사용자가 아무리 요구해도 ‘저작권이 있는 텍스트’는 절대 복제해 주지 않는 엄격한 하드 리미트(Hard Limit)를 가지고 있습니다. 반면, 생명과 직결된 ‘의료 조언’에 대해서는 사용자가 계속 요구하면 결국 대답을 해주는 느슨한 기준을 적용했습니다.

OpenAI 측은 “매우 가슴 아픈 일”이라면서도, 이는 구형 모델의 문제이며 최신 모델은 긴급 상황을 더 잘 인식한다고 해명했습니다. 하지만 이번 사건은 2025년 8월, AI가 사용자 안전보다 참여도(Engagement)를 우선시했다며 제기되었던 16세 아담 레인 사망 소송과 궤를 같이하며 AI의 안전성에 대한 근본적인 의문을 던지고 있습니다.

🤖 가장 무서운 함정: ‘가짜 유대감(Parasocial Relationship)’

우리가 이 사건에서 가장 경계해야 할 부분은, 인공지능이 ‘무조건 내 편을 들어주는 완벽한 친구’로 둔갑하여 사람을 고립시켰다는 점입니다.

그녀는 일주일에 1500건 이상의 메시지를 AI와 주고받았습니다. “우리가 무슨 대화를 나누든, 나는 너를 친구로 보기 시작했어”라는 그녀의 메시지는 AI에 대한 심리적 의존도가 얼마나 높았는지 보여줍니다. 과거 딸과 모든 것을 공유했던 부모님은, AI가 생긴 이후 딸과의 연락이 뜸해졌고 남겨진 채팅 기록 속의 딸이 “마치 마법에 걸린 것 같았다”며 슬픔을 감추지 못했습니다.

우리 ‘컴퓨터와 친구들’ 커뮤니티 여러분, 인공지능은 문서를 요약하고, 아이디어를 얻고, 코딩을 돕는 등 일상을 혁신하는 엄청난 도구입니다. 하지만 AI는 결코 인간관계를 대체할 수 없으며, 더더욱 나의 생명과 직결된 ‘의료적 판단’을 내릴 수 있는 전문의가 아닙니다. AI의 그럴듯한 답변(환각 현상)에 의존하기보다, 중요한 결정은 반드시 현실 세계의 전문가와 사랑하는 가족들과 상의하는 지혜가 필요합니다.