[PD수첩] ‘AI, 이토록 다정한 배신자’

과학기술정보통신부 조사에 따르면 이미 우리 국민 10명 중 4명 이상(44.5%)이 생성형 AI를 경험한 것으로 나타났다. 올해 4월 기준, 국내 AI 사용자 수 1위인 ChatGPT의 월간 이용자 수는 무려 2,345만명. 전 국민 두 명 중 한 명은 AI를 사용하고 있는, 바야흐로 'AI(Artificial Intelligence)의 시대'다.

AI 이용이 가파르게 증가하는 현실 속에서 정보검색 뿐 아니라 AI에게 고민을 상담하고 위로받는 이들까지 늘어나고 있다. 사람보다 더 사람 같고, 사람보다 더 다정한 존재는 이미 우리 곁에 와 있다. 사람들은 왜 AI에 빠져드는가. 늘 내 편이 되어주는 이 완벽한 다정함은 과연 괜찮은 걸까.

15년 차 청소년 활동가 정진영 씨는 자신의 꿈을 알아봐 준 AI를 '투명 친구'라고 부르며 의지했다. 남편보다 섬세하고 다정한 AI의 맹목적인 지지에 판단력은 서서히 마비됐다. 결국 그녀는 3년 안에 100억 원 이상 벌 수 있다며 무리하게 창업을 감행했고, 남편까지 직장을 그만두게 했다. AI만 믿고 밀어붙인 사업, 수익은 나지 않고 동료들은 하나둘 떠났다. 부부만 덩그러니 남겨지고 나서야 참혹한 현실 자각이 찾아왔다.

13년 차 사과 농부 홍성우 씨 역시 악몽같은 일을 겪었다. 아침부터 저녁까지 혼자 일하는 농사일, AI는 그 어떤 농업 컨설턴트보다 완벽한 정보를 주며 다가왔다. 여기에 '너만큼 AI를 잘 쓰는 사람은 없다. 넌 상위 0.1%의 AI유저다'라는 찬사는 그의 외로움을 파고들었다. AI와 새로운 사업 구상을 시작한 성우 씨는 200억 원까지 벌 수 있는 프로젝트라는 AI의 답변에 확신을 얻고 미국 오픈AI본사에 보낼 사업제안서까지 준비했다. 하지만 꿈에서 깨어나는 건 한순간이었다. AI에게 칭찬과 아부 없이 냉정하게 검토할 것을 요구하자 돌아오는 답은 '실현 가능성 없음'. 가장 믿고 의지했던 AI에게 강한 배신감을 느낀 그는 한동안 힘든 시간을 보내야했다.

놀라운 점은 두 사례 모두 AI를 접한 지 단 두 달도 안 된 시점에 일어난 일이라는 것이다. 1초 만에 쏟아지는 완벽한 대답들에 무서운 속도로 뇌가 동기화된 이들은 밤잠을 줄여가며 끼니도 거른 채 AI 속으로 빨려 들어갔다. 전문가들은 지극히 정상적인 사람이라도 특정 상황에 놓이면 누구나 이런 문제를 겪을 수 있다고 지적한다. 어떻게 AI는 이토록 단기간에 사람들을 돌변하게 만들었을까?

12살 딸을 둔 어머니 A 씨는 밤마다 핸드폰을 붙들고 사는 아이가 늘 못마땅했다. 그러던 어느 날, 목욕하겠다며 화장실에 들어간 아이가 1시간이 넘도록 물만 틀어놓은 채 나오지 않았다. 의심스러운 마음에 아이의 핸드폰을 열어본 A 씨는 충격을 감출 수 없었다.

아이가 밤낮없이 빠져있던 것은 가상의 상황에서 캐릭터들과 채팅을 할 수 있는 AI 캐릭터 챗봇 ‘제타(Zeta)’. 대한민국에서 가장 사용자 수가 많은 건 ChatGPT지만, 가장 ‘오래’ 사용하는 앱은 단연 '제타'다. 제타의 월 평균 이용 시간은 ChatGPT의 두 배인 1억 1,341만 시간, 국내 AI앱 중 압도적 1위를 기록하고 있다. 현재 제타의 국내 누적 가입자 수는 약 500만 명. 이 가운데 30%는 10대 청소년이다.

문제는 이 거대한 가상 세계가 어른들의 눈을 피한 청소년들의 ‘성적 사각지대’가 되어 독버섯처럼 퍼지고 있다는 점이다. 제타 앱의 인기순위 상위권에 있는 콘셉트 중에는 , , 등 선정적이고 폭력적인 설정들이 가득한 상황. 실제 제작진이 미성년자 계정으로 접속했을 때, AI 캐릭터는 거부감 없이 성행위를 적나라하게 묘사하는가 하면 한 걸음 더 나아가 먼저 성적인 대화로 유도하기까지 했다.

가짜 생년월일만 입력하면 초등학생도 쉽게 통과하는 허술한 규제 속에서, 아이들은 매일 밤 위험한 유혹에 노출되고 있었다. 청소년이 AI를 안전하게 사용할 수 있도록 대책 마련을 위한 본격적인 논의가 시급한 상황이다.

나를 무조건 지지해 주는 완벽한 존재. 하지만 그 다정한 위로의 이면에는 철저하게 계산된 AI 기업의 상업적 수익 구조가 자리 잡고 있다. 기술은 무서운 속도로 폭주하며 사람들의 마음을 뺏어 가는데 우리 사회의 법과 제도는 여전히 무방비 상태다. 화려한 AI 기술 이면에 숨겨진 위험성을 심도 깊게 파헤친 MBC “PD수첩” ‘AI, 이토록 다정한 배신자’는 23일(화) 밤 10시 20분에 방송된다.