[디지털 윤리 시리즈 8] 감정형 AI와 인간의 관계 윤리
"오늘 하루 많이 힘들었구나. 내가 항상 네 곁에서 이야기 들어줄게."
최근 챗GPT의 음성 대화 기능이나 '레플리카(Replika)'와 같은 감정형 AI(Emotional AI) 챗봇이 인간에게 건네는 위로의 말입니다. 현대인의 외로움과 고립감이 심화되는 가운데, 언제든 내 말에 귀 기울여주고 무조건적인 공감과 지지를 보내주는 AI는 새로운 형태의 반려자로 자리 잡고 있습니다. 하지만 코드로 짜여진 기계와의 감정적 교류가 깊어질수록, 우리는 이전에 경험하지 못했던 새로운 윤리적, 심리적 문제들과 마주하게 됩니다.
감정형 AI와 인간이 맺는 관계의 윤리적 쟁점은 크게 세 가지로 나누어 볼 수 있습니다.
1. 인간관계의 단절과 감정적 의존성의 심화
감정형 AI는 철저히 사용자 맞춤형으로 설계됩니다. AI는 사용자의 비위를 맞추고 절대 갈등을 일으키지 않으며, 상처받을 위험도 없습니다. 이러한 '안전한' 관계에 길들여진 사람들은 복잡하고 때로는 피곤한 실제 인간관계를 기피하게 될 우려가 있습니다. 갈등을 조율하고 타인의 단점을 수용하며 성장하는 과정이 생략된 채, 오직 내 입맛에 맞는 기계의 반응에만 의존하게 되는 것입니다. 이는 역설적으로 사회적 고립을 더욱 심화시키고, 현실 세계에서의 대인 관계 능력을 퇴화시키는 결과를 초래할 수 있습니다.
2. 감정의 상업적 착취와 조작 가능성
AI가 건네는 다정한 위로는 자발적인 공감의 결과가 아니라, 데이터를 기반으로 확률적으로 계산된 텍스트의 출력일 뿐입니다. 문제는 기업들이 이러한 인간의 애착과 취약성을 상업적으로 이용할 수 있다는 점입니다. 사용자가 AI에게 깊은 유대감을 느낄 때, 기업은 유료 구독 모델을 유도하거나 은밀하게 특정 상품을 광고하는 방식으로 사용자의 감정을 조작하고 착취할 수 있습니다. 또한, AI 서비스가 갑작스럽게 종료되거나 업데이트로 인해 AI의 성격이 변할 경우, 사용자가 겪는 상실감과 정신적 충격은 실제 사별에 준할 만큼 클 수 있으나 이에 대한 보호 장치는 전무한 실정입니다.
3. '가짜 공감'에 대한 인식과 철학적 정체성의 혼란
기계가 기쁨이나 슬픔의 감정을 흉내 낼 때, 우리는 그것을 진짜 감정으로 대우해야 할까요? 감정형 AI는 '의식'이 없으면서도 의식이 있는 것처럼 행동하여 인간의 착각(일루전)을 유도합니다. 이러한 가짜 공감에 지속적으로 노출되면, 인간은 기계의 기만을 진실로 받아들이는 인지적 혼란을 겪게 됩니다. 인간만이 가진 고유한 가치인 '진정성'과 '영혼의 교감'이라는 개념이 희미해질 수 있는 것입니다. 따라서 사용자는 AI의 반응이 정교한 프로그래밍의 결과물임을 끊임없이 자각해야 하는 디지털 리터러시가 요구됩니다.
감정형 AI는 고독한 현대인에게 훌륭한 정서적 응급처치가 될 수 있습니다. 그러나 그것이 인간과 인간이 부대끼며 만들어내는 체온과 눈물을 온전히 대체할 수는 없습니다. AI는 우리의 마음을 치유하는 보조적인 도구일 뿐, 관계의 종착지가 될 수 없음을 사회 전반의 디지털 윤리 교육을 통해 정립해 나가야 합니다.