2026-08-16

민감한 파일을 ChatGPT 같은 AI 챗봇에 업로드해도 될까?

계약서를 ChatGPT에 붙여넣어 요약을 받거나, 이력서를 업로드해 AI로 서식을 다듬는 일은 이제 이메일에 파일을 첨부하는 것만큼이나 일상적인 일이 되었습니다. 업로드하기 전에 물어볼 만한 질문은 클라우드 드라이브나 파일 전송 링크에 대해 사람들이 묻기 시작한 것과 같습니다 — 그 데이터는 실제로 어디로 가며, 서비스 설정 페이지가 암시하는 규칙 안에 계속 머무를까요? 실제로 있었던, 날짜가 분명한 사건 세 가지 — 한 기업의 자체 보안팀이 겪은 일 하나, 공개된 법원 기록에서 나온 일 둘 — 는 개인정보처리방침 요약보다 훨씬 구체적인 답을 줍니다.

챗봇에 "파일을 업로드한다"는 것이 실제로 의미하는 것

OpenAI 자체 고객센터도 그 메커니즘을 비교적 솔직하게 설명합니다: ChatGPT에 보낸 프롬프트, 업로드한 파일, 이미지는 서버에 로그로 남으며, 요금제와 설정에 따라 보관되거나 모델 개선에 쓰이거나 둘 다에 해당할 수 있습니다. 무료·Plus·Pro 같은 개인 요금제에서는 설정 → 데이터 제어에서 "모두를 위해 모델 개선하기"를 끄지 않는 한 대화 내용이 기본적으로 향후 모델 학습에 쓰일 수 있습니다. ChatGPT Business·Enterprise·Edu 계정은 기본적으로 학습 대상에서 제외됩니다. 이 중 어느 것도 비밀스럽거나 다른 AI 챗봇들과 특별히 다른 일은 아닙니다 — 공개되어 있고, 옵트아웃 방법도 존재합니다. 하지만 이는 동시에, 파일에 대한 설명이 아니라 파일 그 자체가 이제 제공업체가 자기 자신의 보관 규칙 아래 쥐고 있는 콘텐츠가 된다는 뜻이기도 합니다 — 당신의 규칙이 아니라요.

두 기업 사이의 소송 하나가, 소송과 무관한 모든 사람에게 "삭제"의 의미를 바꿔놓을 때

2025년 5월 13일, The New York Times를 비롯한 언론사들과 OpenAI 사이의 병합된 저작권 소송을 담당하던 오나 T. 왕(Ona T. Wang) 치안판사는 OpenAI에게 "그렇지 않았다면 삭제되었을 모든 출력 로그 데이터를 보존·격리하라"고 명령했습니다 — 이용자가 직접 삭제한 대화, 그리고 저장되지 않는다고 OpenAI 자신이 안내해온 임시 채팅(Temporary Chat) 모드로 보낸 대화까지 포함해서 말입니다. 이 명령은 ChatGPT의 무료·Plus·Pro 요금제에 적용되었고, Enterprise·Edu, 그리고 데이터 무보존(zero-data-retention) 계약을 맺은 API 고객에게는 적용되지 않았습니다(소송 경과에 대한 National Law Review의 설명; OpenAI 자체 설명은 openai.com/index/response-to-nyt-data-demands에 있습니다). 삭제한 대화가 동결된 이용자 중 그 소송의 당사자는 아무도 없었습니다 — 이 동결은 그들과는 무관한, OpenAI와 언론사들 사이의 저작권 분쟁 때문에 일어난 일이었습니다. 향후 데이터에 대한 보존 의무는 2025년 가을에 해제되었지만, 원고 측이 특정해 지목한 계정과 관련된 데이터는 계속 보존되었고, 2026년 1월 5일 연방 지방법원 판사는 원래 명령을 그대로 인정했습니다 — OpenAI는 비식별화된 ChatGPT 로그 2천만 건을 언론사 원고 측에 제출해야 합니다. 제공업체의 개인정보처리방침이 삭제에 대해 무엇을 약속하든, 그 약속은 그 제공업체가 우연히 휘말리게 된 소송보다 하위에 놓이며, 이용자는 파일을 업로드하는 그 순간에는 그것이 나중에 문제가 될지 알 방법이 없습니다.

유출 사고도, 해킹도, 소송도 필요 없었던 노출

2025년 8월, 대화 링크를 공유할 때 이용자가 체크박스를 직접 선택해야만 켜지는 "이 대화를 검색 가능하게 만들기" 공유 옵션으로 인해 공유된 ChatGPT 대화 약 4,500건이 평범한 구글 검색 결과에 그대로 노출되었고, 그중에는 이력서, 실명, 정신건강 관련 고백이 포함된 것도 있었습니다. OpenAI의 최고정보보안책임자(CISO) 데인 스터키(Dane Stuckey)는 이를 "수명이 짧았던 실험"이라 부르며 "사람들이 의도치 않은 것을 실수로 공유할 기회를 너무 많이 만들었다"고 인정했고, 이 기능은 며칠 만에 제거되었습니다. 계정 정보가 유출되지도, 시스템이 뚫리지도 않았습니다 — 체크박스는 코드가 짜인 그대로 정확히 동작했을 뿐이고, 그 결과 완전히 읽을 수 있는 평문이 공개 검색 색인에 그대로 남았습니다.

2025년만의 문제가 아닙니다 — 2023년으로 거슬러 올라갑니다

이 노출 위험은 파일 업로드에만 해당하는 것도, 새로운 것도 아닙니다. 2023년 3월, 삼성전자는 생성형 AI 채팅 도구에 대한 사내 금지 조치를 해제했습니다. 그로부터 20일 만에 직원들은 기밀 반도체 소스코드를 ChatGPT에 두 차례나 붙여넣어 버그 수정을 도와달라고 요청했고, 세 번째 직원은 내부 회의 전체 내용을 그대로 입력하고 회의록을 만들어달라고 요청했습니다. 삼성전자는 결국 ChatGPT를 비롯한 생성형 AI 챗봇의 사용을 전사적으로 금지했습니다. 이 사례에서는 어떤 파일도 "업로드"되지 않았습니다 — 채팅창에 직접 타이핑하고 붙여넣었을 뿐입니다 — 하지만 근본 메커니즘은 파일 업로드와 동일합니다: 두 경우 모두 제공업체는 평문 콘텐츠를 그대로 전달받아 보관합니다.

암호화가 적용되지 않는 지점 — 다르게 말한다면 정직하지 못한 것입니다

NearSeal을 포함해 어떤 파일 암호화 도구도, AI 모델이 파일을 실제로 읽고 있는 동안에는 그 내용을 보호할 수 없습니다. 파일을 요약하거나, 내용을 추출하거나, 그에 대해 답변하려면 모델이 그 파일을 평문으로 전달받아야만 하기 때문입니다 — 이는 빈틈이 아니라 메커니즘 그 자체입니다. 파일을 먼저 암호화한다고 해서 그 단계에 보호가 추가되지는 않습니다. 그저 챗봇에게 아예 열 수 없는 파일을 건네주는 것일 뿐이며, 이는 암호화가 원래 해야 할 일을 정확히 하고 있는 것이지, 이 특정 문제를 해결해주는 것은 아닙니다. 그렇지 않다고 암시하는 제품이 있다면, 그것은 자신의 암호화 기술 자체와 모순되는 주장을 하는 셈입니다.

NearSeal이 실제로 맞는 자리

업로드 여부를 결정하는 것과는 별개인, 실제로 맞는 자리 두 곳이 있습니다. 첫째, 애초에 챗봇에 넣을 필요가 없다고 판단한 파일 — 업로드하지 않기로 결정하는 것 자체도 유효한 보호입니다 — 을 어쨌든 보관하거나 보존해야 한다면, 클라우드 저장소에 두거나 이메일로 보내거나 드라이브에 복사하기 전에 미리 암호화해두면, AI 제공업체가 다른 무언가의 사본을 두고 무엇을 하든 하지 않든과 무관하게, 그런 노출 경로들에서 이 파일만큼은 벗어나게 됩니다. 둘째, AI 도구로 작업을 마친 뒤에도 여전히 보관하거나 다른 사람에게 전달해야 하는 원본 문서 — 이 파일이 다른 모든 경로에서 노출되는 문제는 AI 제공업체가 이제 쥐고 있는 사본에 어떤 보관·학습 정책이 적용되는지와는 아무 상관이 없으며, 바로 여기에 NearSeal이 이미 갖추고 있는 실제 기능이 정확히 들어맞습니다: 기본 NearSeal 형식에서는 PBKDF2-SHA256으로 유도한 패스프레이즈 기반 AES-256-GCM 키를 사용하고, 나중에 그 파일이 표준 도구로도 열려야 한다면 상호운용 가능한 age-encryption.org 형식(scrypt + ChaCha20-Poly1305)을 선택할 수 있습니다 — 모두 브라우저 안에서만 이루어지며, 어느 쪽이든 실행하는 데 업로드는 필요하지 않습니다. NearSeal은 보존 명령이나 색인 버그, 이미 챗봇 서버에 도달해버린 붙여넣은 문단을 되돌릴 수는 없습니다. NearSeal이 할 수 있는 일은, 그 업로드가 이미 안고 있던 위험과 똑같이 읽기 쉬운 사본이 저장소나 받은편지함, 드라이브에 놓인 파일의 다른 사본들로도 존재하지 않도록 하는 것입니다.