9. 데이터 학습 과정의 개인정보 침해

[디지털 윤리 시리즈 9] 데이터 학습 과정의 개인정보 침해

우리가 매일 감탄하며 사용하는 생성형 AI(텍스트, 이미지, 영상 생성기 등)의 놀라운 성능 뒤에는 '초거대 데이터'라는 연료가 존재합니다. AI 기업들은 모델을 똑똑하게 만들기 위해 인터넷 공간에 존재하는 수천억 개의 문서, 블로그 글, 사진, 뉴스 기사 등을 무차별적으로 수집(크롤링)하여 학습시킵니다. 그러나 이 거대한 데이터 진공청소기가 우리의 소중한 개인정보까지 빨아들이면서, AI 시대의 개인정보 보호는 전례 없는 위협을 받고 있습니다.

AI의 데이터 학습 과정에서 발생하는 개인정보 침해 문제는 세 가지 핵심 영역에서 심각한 윤리적 결함을 드러냅니다.

 

1. 무단 수집과 '사전 동의' 원칙의 철저한 무시

기존의 정보보호 법체계는 내 데이터를 누군가 사용하려면 사전에 명시적인 '동의'를 받아야 한다는 원칙에 기반하고 있습니다. 하지만 AI 기업들은 인터넷에 공개된 정보라는 이유만으로 저작권자와 정보 주체의 동의 없이 무단으로 데이터를 수집하고 학습에 활용했습니다. 내가 10년 전 가입했던 커뮤니티에 무심코 올린 얼굴 사진, 개인적인 고민을 털어놓은 블로그 글, 지인과 주고받은 이메일의 문체까지 AI의 두뇌를 구성하는 재료로 쓰인 것입니다. 이는 데이터 주권을 심각하게 침해하는 행위이며, 사용자는 자신의 정보가 어느 AI 모델에 어떻게 학습되었는지 알 길이 전혀 없습니다.

 

2. 잊힐 권리의 상실과 '기억 삭제'의 기술적 한계

현대 사회에서 개인은 자신의 민감한 정보나 지우고 싶은 과거 기록을 삭제해 달라고 요구할 수 있는 '잊힐 권리'를 갖습니다. 포털 사이트의 검색 결과에서는 내 이름을 지울 수 있습니다. 하지만 이미 수백억 개의 파라미터(매개변수)로 얽혀버린 거대 언어 모델(LLM)의 뇌 속에서 특정 개인의 정보만을 핀셋처럼 뽑아내어 삭제하는 것은 기술적으로 사실상 불가능에 가깝습니다. AI 모델을 처음부터 다시 학습시키는 것은 천문학적인 비용이 들기 때문입니다. 결국 AI의 무한한 기억력 앞에서 인간의 잊힐 권리는 무용지물이 되어버립니다.

 

3. 민감 정보의 무작위 유출과 2차 범죄 악용 위험

더욱 치명적인 문제는 AI가 학습한 개인정보를 엉뚱한 사용자에게 그대로 토해낼 수 있다는 점입니다. 실제로 챗GPT나 특정 AI 모델에 정교한 프롬프트를 입력하면, 학습 데이터에 포함되어 있던 실존 인물의 주민등록번호, 전화번호, 의료 기록 등 치명적인 민감 정보가 여과 없이 출력되는 사고가 여러 차례 발생했습니다. 이렇게 유출된 데이터는 보이스피싱, 명의 도용은 물론이고 타인의 얼굴 데이터를 활용한 딥페이크(Deepfake) 포르노 제작 등 끔찍한 2차, 3차 범죄의 도구로 직결됩니다.

 

혁신이라는 명목하에 개인의 사생활이 무참히 짓밟히는 데이터 무법지대를 방치해서는 안 됩니다. 유럽연합(EU)의 AI 법과 같이 기업의 데이터 출처 명시를 의무화하고, 개인정보를 암호화한 상태로 학습시키는 연합학습(Federated Learning)과 같은 프라이버시 보호 기술 개발에 국가적, 글로벌 차원의 강력한 규제와 투자가 병행되어야 합니다.

 

관련글 더보기: 우리만의 가상세계,