AI로 돌아가는 ‘음란물 공장’ 실체

19금 제작자에 현금 보상?

[일요시사 취재1팀] 안예리 기자 = 가상의 캐릭터와 대화를 할 수 있는 ‘AI 캐릭터챗’이 유행이다. 캐릭터들과 재밌는 상황극을 할 수 있는 것은 물론, 성인 인증을 하면 은밀한 대화까지 나눌 수 있어 인기다. 하지만 이 기능이 음란물 제작 도구로 악용되면서, 성인물을 무분별하게 찍어내고 있어 문제가 커지고 있다.

‘AI 캐릭터챗’은 제작자가 직접 만든 인공지능 캐릭터와 대화를 나누는 서비스다. 제작자는 캐릭터의 이름과 말투, 성격, 외모를 자유롭게 설정할 수 있고, AI는 그 정보를 바탕으로 대화를 이어간다.

캐릭터챗

AI 캐릭터챗은 가상의 인물과 상황극을 하며 감정을 주고받도록 한다. 이용자는 실제 인물과 관계를 맺듯 대화에 몰입한다. AI는 이전 대화를 기억해 다음 대화에 반영하고, 이용자 반응에 따라 말투를 바꾸기도 한다.

사용자는 자신이 만든 캐릭터를 AI 플랫폼에 등록하거나, 다른 사람이 만든 캐릭터를 선택해 대화를 시작한다. 캐릭터를 만든 사람은 플랫폼 안에서 ‘크리에이터’로 불린다. 캐릭터의 성격이나 말투, 세계관을 설정해 공개하면 다른 이용자들이 그 캐릭터와 대화할 수 있다.

AI 캐릭터챗은 기본적으로 프롬프트(prompt)와 이미지로 구성된다. 프롬프트는 캐릭터의 세계관, 말투, 성격, 그리고 AI의 응답 방식에 직접적인 영향을 준다. 제작자는 여기에 원하는 설정을 입력해 캐릭터의 행동 패턴을 세밀하게 조정할 수 있다.


예를 들어 캐릭터가 특정 상황에서 어떤 말투를 사용하거나, 어떻게 감정을 표현하는지를 지정할 수 있는 식이다.

이미지는 캐릭터의 외형을 나타내는 요소다. 제작자가 등록한 이미지가 대화 상황에 맞게 변형돼 자동으로 불러와진다. 일상적인 대화에서는 평범한 이미지가 나오지만, 프롬프트 설정에 따라 특정 상황(예를 들어 성적인 맥락)이 전개될 경우 성적 이미지를 출력하도록 구성할 수도 있다.

이 기능은 이용자가 설정만 바꾸면 언제든 다른 이미지를 불러올 수 있게 한다.

또 각 플랫폼마다 ‘유저 노트’라는 기능을 공식적으로 지원하는데 이 기능은 AI가 대화를 기억하도록 돕는다. 여기에 작성된 내용도 프롬프트로 인식된다. 이 때문에 이용자가 유저노트에 이미지 출력 링크나 캐릭터 설정값을 입력하면, AI는 이를 대화 설정으로 인식해 그대로 출력한다.

결국 이용자는 유저노트를 통해 캐릭터의 대화 방향이나 이미지 출력 방식을 임의로 바꿀 수 있다.

클릭 한번에 너도 나도 공장장
교복 입은 ‘학생 캐릭터’ 생성

제작자와 이용자 사이의 구분도 명확하지 않다. 버튼 하나만 누르면 누구나 캐릭터를 직접 만들 수 있고, 설정을 입력한 순간부터 이용자 역시 제작자가 되는 시스템이다. 이 때문에 다른 제작자가 만든 캐릭터 외에도 비공개로 자신만의 캐릭터챗을 만들어 플레이 하는 유저도 다수 존재한다. 제작자와 이용자 사이의 경계가 명확하지 않은 구조인 셈이다.


이런 방식은 이용자의 자율성을 높였지만, 동시에 무분별한 음란물을 생성하는 결과를 낳았다. 플랫폼 내부의 자동 검열이 없어, 이용자는 프롬프트 조작만으로 언제든 AI가 성적인 대사나 이미지를 출력하도록 만들 수 있다. 구글 드라이브나 클라우드플레어 같은 외부 저장소에 이미지를 올려두고, 그 링크를 캐릭터 설정에 삽입해 사용하는 식이다.

문제는 이런 구조가 실제로 음란물 제작의 수단으로 악용되고 있다는 점이다. 대부분의 플랫폼에서는 성인 인증 뒤 노골적인 이미지의 캐릭터와 대화가 가능하다. AI는 이용자의 입력에 따라 성적인 상황을 묘사하거나 대사를 자동으로 만들어낸다.

제작자가 평범한 사진을 업로드 했더라도 성적인 상황이 입력돼있다면 그에 따라 성적 이미지가 출력된다. 사실상 이 기능을 악용해 2차적인 음란물 생산이 가능해지는 셈이다.

심지어 실존 인물로 캐릭터를 생성하는 플랫폼도 있다. <일요시사>에서 확인한 A 플랫폼에는 ‘실사 카테고리’가 따로 있었다. 해당 카테고리에는 실제 인물의 신체를 촬영한 뒤 AI 필터를 씌워 캐릭터처럼 만든 이미지나 영상이 가득했다.

일부 플랫폼에서는 교복을 입은 캐릭터나 미성년자를 떠올리게 하는 설정도 있었다.

B 플랫폼에서는 ‘학생’ ‘교복’ ‘여고생’ 같은 단어가 캐릭터 설명에 붙고, 이런 미성년자 설정의 캐릭터와 대화를 이어갈 수 있었다. 이는 ‘아동·청소년의 성보호에 관한 법률(이하 아청법)’을 위반할 소지가 있다.

프롬프트 한 줄로 음란 이미지 출력
실제 사진도 ‘AI 필터’ 씌워 제작

아청법은 ‘아동·청소년으로 인식될 수 있는 사람이나 표현물이 등장해 성적 행위를 묘사한 경우’를 아청물로 본다. 실제 인물이 아니더라도 일반인이 미성년자 이미지로 인식할 수 있다면 법 적용 대상이 될 수 있다는 의미다.

성인 인증 절차가 허술해 플랫폼에 청소년이 접근하기 어렵지 않은 점도 문제다. 일부 플랫폼은 성인 인증 절차가 없거나 매우 간단했다. 생년월일을 임의로 바꿔도 가입되거나, 만 14세 미만의 계정이라도 부모님의 휴대폰 문자 인증으로 가입이 가능하기도 했다.

이 같은 상황에도 AI 콘텐츠 생산에 대한 규제는 이뤄지지 않고 있다. 현행법은 실존 인물이 등장하는 음란물에 대해서는 처벌하고 있지만, AI가 만든 이미지나 합성물에 관해서는 규정이 모호하다.

정보통신망법에서도 음란한 문언이나 영상을 유포하면 처벌할 수 있도록 하고 있지만, AI의 자동 생성물은 ‘행위 주체’를 특정하기 어렵기 때문이다. 플랫폼은 단순히 “서비스를 제공했을 뿐”이라 주장하고, 이용자는 “AI가 만든 결과물일 뿐”이라며 책임을 피하고 있다. 제작자와 이용자, 운영자 모두 책임 범위가 불분명한 상태다.

심지어 이런 무분별한 생산에도 일부 플랫폼에서는 이용자가 만든 캐릭터의 조회수나 이용량에 따라 포인트나 현금을 지급하기도 했다. 이용률이 높을수록 보상이 커지다 보니 자극적인 캐릭터일수록 인기를 끌기 쉽다. 결과적으로 불법 콘텐츠 생산과 유통을 조장하는 모양새다.


문제는 AI 캐릭터챗이 일종의 음란물 산업 구조로 굳어지고 있다는 점이다. AI가 자동으로 생성한 성인 콘텐츠에서 수익이 나면서 사실상 음란물 생산이 경제적 활동으로 이어지고 있다.

플랫폼 자체에서 검열을 하지 않는 한 AI 생성 성인물 단속이 쉽지 않다. 또 일부 캐릭터챗 플랫폼은 해외에 서버를 두거나 해외 법인으로 운영되고 있어 국내 규제도 어렵다.

규제 불가?

현재 AI 생성물에 대한 명확한 기준이 없어, 법안을 마련해야 한다는 목소리가 커지고 있다. 가상의 이미지라도 사회적으로 미성년자로 인식될 수 있다면 규제 대상이 될 수 있고, 운영자에게 일정한 검열 책임을 부여해야 한다는 지적이다. 일각에서는 “AI가 만들어내는 음란물이 어떠한 규제도 없이 무분별하게 생산되는 것도 문제지만, 실사를 사용해 이미지를 생성하는 것은 범죄로 이어질 가능성이 있다”고 꼬집었다.

<imsharp@ilyosisa.co.kr>

 



배너






설문조사

진행중인 설문 항목이 없습니다.



‘경주 APEC’ 강대강 매치 막전막후

‘경주 APEC’ 강대강 매치 막전막후

[일요시사 정치팀] 박희영 기자 = 오는 31일부터 다음 달 1일까지 APEC 정상회의(아시아·태평양 경제협력체·Asia-Pacific Economic Cooperation, 이하 정상회의)가 경북 경주에서 열린다. 우리나라를 제외한 20개 나라 정상이 초청 대상으로, ‘외교 슈퍼 위크’가 시작된 셈이다. 우연의 일치일까? 각국의 강경파들이 경주로 모이면서 서로 어떤 합을 보일지 관심이 쏠린다. 2025 APEC 정상회의를 앞두고 한미 관세 문제가 급물살을 탔다. 지난 7월 협상 시한 하루를 앞두고 한미 간 무역 협상이 극적으로 타결된 지 약 세 달 만이다. 정상회의를 계기로 관세 협상이 매끄럽게 마무리될 것이란 기대감이 나온다. 노브레이크 미국 관세 쟁점은 한국이 상호 관세를 15%로 낮추는 조건으로 미국에 투자하기로 한 3500억달러(약 500조원)에 대한 지불 방식이다. 한국은 직접 투자 비중을 줄이고 투자 기간을 늘리겠다는 방침이지만, 미국은 도널드 트럼프 대통령 임기 내 최대한 현금 투자를 확대하겠다는 입장이다. 이번 정상회의에서 현금 선불 투자를 고집하는 트럼프 대통령을 설득할 수 있는지가 협상 타결의 관건이란 관측이 나온다. 정상회의가 며칠 남지 않은 시점까지도 협상은 난항을 겪었다. 큰 틀에서는 합의가 이뤄졌지만, 세밀한 부분이나 주요 쟁점이 해결되지 않는 등 의견이 모이지 않은 탓이다. 김용범 대통령실 정책실장은 지난 22일(현지시각) 하워드 러트닉 미국 상무장관과 회담한 뒤 “진전이 있었다”면서도 추가 논의가 필요하다고 밝혔다. 이날 김 실장은 ‘마지막 쟁점이 조율됐느냐’는 특파원들 질문에 “쟁점이 하나만 있는 것은 아니다. 한두 개라고 했고, 아주 많지는 않다”며 “오늘 남아있는 쟁점에 대해 많은 이야기를 했고 진전이 있었다. 만나면 조금 더 상호 입장을 이해하게 된다”고 답했다. 양국의 대면 협의가 사실상 이날 종료되면서 이재명 대통령과 트럼프 대통령 두 사람의 결단만 남았다. 미중 간의 관세 협상 결과와 이번에 이뤄질 두 정상의 만남이 한국에 영향을 끼치지 않겠냐는 분석이 나온다. 앞서 중국과 미국은 지난 4월부터 보복 형식으로 서로를 향해 관세 허들을 높여갔다. 그러던 중 중국이 희토류 수출 통제 카드를 꺼내면서 질주하는 미국에 제동을 걸었고, 트럼프 대통령이 “중국산 제품에 100% 관세를 추가 부과하겠다”고 으름장을 놓으며 관세 전쟁은 절정으로 치달았다. 추가 관세가 현실화하면 중국이 미국에 내야 할 관세는 157%에 달하는 만큼 미중 간의 팽팽한 대립이 이어졌다. 좁히지 못한 ‘디테일’ 막판 협상 난항 이 “우리는 동맹…상식과 합리성 공유” 중국이 밸브를 잠그자 트럼프 미국 대통령은 앤서니 앨버니지 호주 총리와 정상회담을 갖고 희토류와 핵심 광물 공급 협력에 관한 협정에 서명했다. 이는 정상회의에서 시진핑 중국 국가주석을 만나기 전 협상력을 높이기 위한 전략으로 해석된다. 일본도 일부 프로젝트에 참여하면서 희토류 삼각 동맹이 이뤄진 셈이다. 트럼프 대통령은 지난 21일 백악관 로즈가든 클럽에서 주재한 오찬 행사에서 “시진핑 중국 국가주석과 한국에서 만나 많은 것을 이야기할 것”이라며 대화의 여지를 열어뒀다. 이어 “우리가 협상에서 잘할 것으로 생각한다”며 “나는 시 주석과 좋은 합의를 하고 싶고, 시 주석이 중국을 위해 좋은 합의를 하길 바란다. 하지만 그 합의는 공정해야 한다”고 강조했다. 미중 간 무역 갈등이 장기화되면 한국 경제 성장률을 비롯해 수출입에까지 영향을 미칠 것이란 우려가 나온다. 이 대통령은 <CNN>과의 인터뷰에서 한미 관세 협상 타결 전망과 관련해 “조정·교정하는 데 상당히 많은 시간과 노력이 필요한 것 같다”고 말했다. 3500억달러 규모의 대미투자펀드를 둘러싼 이견에 대해서는 “결국 이성적으로 충분히 납득할 수 있는 합리적인 결과에 이르게 될 것이라고 믿는다”며 “왜냐하면 우리는 동맹이며 서로 상식과 합리성을 공유하고 있기 때문”이라고 설명했다. 미중 갈등이 현재 진행형인 상황에서 다음 차례를 기다리는 한국이 어떤 입장을 취할지 귀추가 주목된다. 11년 만에 이뤄진 시 주석의 방한도 눈여겨볼 만하다. 아직 한중 관계에 큰 잡음은 없지만 훈풍이 불지 않는 만큼 개선의 여지가 있는지를 확인해야 한다. 따라서 이번 정상회담에서 이 대통령은 한중 관계의 안정적 관리에 대해 초점을 맞출 것으로 전망된다. 이재명정부의 첫 주중대사인 노재헌 신임 대사는 “(시 주석의) 국빈 방문이 계획됐기 때문에 한중 관계가 새로운 도약을 맞이할 수 있는 좋은 계기라고 생각한다”며 “양국 지도자 간에 우호와 신뢰 관계를 다시 굳건히 하고 그 초석 위에서 한중 관계를 발전시키는 중요한 계기가 될 것으로 확신하고 있다”고 밝혔다. “아직 친하지?” 서먹해진 중국 이정부는 출범 직후부터 미·중 사이에서 균형을 잡아야 하는 시험대에 놓였다. 이 대통령은 지난 9월 베이징 천안문 광장에서 열리는 ‘항일전쟁 및 반파시스트 전쟁 승리 80주년(전승절)’에 초청받았지만 의전 서열 2위인 우원식 국회의장이 대신 자리했다. 이 대통령의 전승절 참여 여부를 놓고 국민의힘이 친중 프레임을 굳히자 불필요한 갈등을 최소화하기 위한 선택으로 풀이된다. 앞서 백악관은 이 대통령이 취임한 직후 축사를 하던 중 뜬금없이 “중국의 간섭과 영향력 우려”라며 중국을 향해 견제구를 날렸다. 한국이 중국과 우호적인 관계임을 강조할 경우 미국이 제동을 걸 가능성을 배제할 수 없다는 해석이다. 이처럼 한중 관계 개선의 가장 큰 변수는 미국인 만큼 한국은 어느 한쪽으로 치우치지 않는 공정한 외교 전략을 펼쳐야 한다. 김지수 한반도 미래경제 포럼 대표는 <일요시사>와의 전화 통화에서 “‘안미경중(안보는 미국 경제는 중국)’이라는 단어가 나오던 때랑 상황이 많이 달라졌다. 안보와 경제가 같이 움직이기 시작했고 그런 점에서 미국이 더 중요해졌다”고 봤다. 이 대통령 역시 안미경중 노선에 대해 “과거처럼 그런 태도를 취할 수는 없는 상황이 됐다”고 밝힌 바 있다. 그는 “미국이 중국에 대한 강력한 견제, 나아가 봉쇄 정책을 본격 시작하기 전까지 한국은 ‘안보는 미국, 경제는 중국’이라는 입장을 유지해 왔던 게 사실”이라면서도 “몇 년 사이 자유 진영과 중국을 중심으로 한 진영 간 공급망 재편이 본격적으로 벌어졌고 미국의 정책이 노골적으로 중국을 견제하는 방향으로 갔다”고 설명했다. 그러면서 “이제는 한국도 미국의 기본적인 정책에서 어긋나게 행동하거나 판단할 수 없는 상태”라며 “중국은 지리적으로 매우 가까운 데서 생겨나는 불가피한 관계를 잘 관리하는 수준으로 유지하는 상황”이라 고 부연했다. ‘여자 아베’ 경주 데뷔 김 대표는 “미국의 최대 경쟁국은 중국”이라고 강조했다. 이어 “미국은 중국을 제어하기 위해 한국을 향해 손짓하고 있다. 미중 패권 전쟁에서 유리한 전략을 모두 취하고 있는 것”이라며 “중요한 것은 중국을 어떻게 관리하느냐다. 미국과 가까이 지내기 위해 중국을 적대시할 수 없다”고 강조했다. 중국인 무비자 입국으로 한국 전역에 퍼진 반중 혐오 시위도 고려 대상이다. 최근 국민의힘 등 보수 세력을 중심으로 반중 정서가 확대되면서 외교 갈등이 촉발될 수 있다는 우려가 제기된다. 이와 관련해 노 대사는 중국 주상하이 총영사관에서 주중대사관을 상대로 열린 국회 외교통일위원회 국정감사에서 한국 내 반중·혐중 시위를 묻는 말에 “당연히 우려되고 바람직하지 않은 일이고 양국 국민의 우호 정서 함양·증진이 무엇보다도 중요하다”며 “근거 없고 음모론에 기반한 행위에 대해서는 조치를 해야 할 필요가 있다”고 말했다. 한시적 비자 면제 정책에 대한 자국민의 우려에 대해서도 “불법 체류 현황은 줄어들고 있는 것으로 알고 있고, 범죄 같은 부분은 입국자 등을 잘 지켜보면서 필요하면 단속하려는 노력이 필요하다”고 언급했다. 지난 21일 선출된 다카이치 사나에 일본 신임 총리는 이번 정상회의를 시작으로 본격 대외 행보에 나설 것으로 전망된다. 보수 성향이 짙은 탓에 한일 관계가 틀어지지 않을까 우려하는 목소리가 나오지만 정권 초기인 만큼 우호적 태도를 유지할 것이란 관측이 지배적이다. 다카이치 총리는 중의원 10선 의원으로 경제안보담당상, 총무상, 자민당 정무조사회장 등을 지낸 인물이다. 일본 정계에서 찾아보기 어려운 비세습 여성 정치인으로 강경 보수 성향이라는 평가와 함께 입지를 다져왔다. 다카이치 총리는 지난 4일 치러진 자민당 총재 선거에서 승리하며 당권 티켓을 거머쥐었지만 1999년부터 자민당과 협력해 온 중도 보수 성향인 공명당이 연정에서 이탈해 표가 분산될 위기에 처했다. 하지만 강경 보수 성향이자 제2야당인 일본유신회를 새롭게 끌어들이면서 극적으로 총리직에 당선됐다. 서로 싫다는 미·중, 사이에 낀 한국 일본까지 강경파 ‘폭풍 속 한반도’ 이 대통령은 신임 일본 총리가 선출된 것에 대해 “정상회의가 개최되는 경주에서 총리를 직접 뵙고, 건설적인 대화를 나눌 수 있길 고대한다”고 말했다. 이 대통령은 자신의 SNS를 통해 이같이 밝히며 “우리는 새로운 한일 관계의 60년을 열어가야 하는 중대한 전환점에 서 있다. 그 어느 때보다 불확실성이 높아진 국제 정세 속에서 한일 관계의 중요성 역시 어느 때보다 커지고 있다”고 강조했다. 그러면서 “이 중대한 시기에 총리와 함께 양국 간, 그리고 양 국민 간 미래지향적 상생 협력을 한층 강화해 나가길 기대한다. 아울러 셔틀 외교를 토대로 양국 정상이 자주 만나 소통할 수 있길 바란다”고 당부했다. 훈훈한 축하 인사와 달리 한일 관계는 다시 시험대에 놓였다. 온건하다고 평가받았던 이시바 시게루 내각 체제만큼 협력 기조가 이어질지 확실치 않기 때문이다. 다카이치 총리는 2021년 총재 선거 당시 고 아베 전 총리의 전폭적인 지지를 받으며 신임 보수 전사로 떠올랐다. 이번 총리 선거에서 역시 아베 전 총리의 파벌로 형성된 아베파의 지지가 두터웠던 것으로 전해진다. 일본 현지 신문은 자민당의 연정 상대가 공명당에서 유신회로 바뀌면서 다카이치 내각의 보수색이 선명해졌다고 해석했다. 다카이치 총리는 과거부터 야스쿠니 신사를 꾸준히 참배해온 만큼 한국 과거사와 독도 영토 문제 등 민감한 사안을 놓고 이정부와 충돌할 우려도 제기된다. 일각에서는 다카이치 총리가 이번에 보여준 강경 보수 행보는 우익 세력을 끌어들이기 위한 방법으로 한일 외교에 있어서는 이시바 내각과 마찬가지로 온건한 노선을 택할 것이란 분석이 나온다. 다카이치 총리는 취임 기자회견에서 한일 관계에 우호적인 뜻을 내비쳤으며 가을 예대제 기간에 야스쿠니 신사를 참배하지 않을 것으로도 전해진다. 한일 관계 전망이 불투명한 가운데 다카이치 총리의 온건 행보가 일시적일 것이란 해석도 나온다. 역대 총리들이 그랬듯 지지율이 떨어지면 야스쿠니 신사에 참배하고 반한 감정을 부추겨 보수 지지층 결집을 유도할 것이란 점에서다. 이번 정상회담을 계기로 이 대통령이 국가 간의 가교 역할을 할 수 있을지 주목된다. 한미, 한중, 미중 정상회담이 연쇄적으로 열릴 가능성이 크고 비핵화와 관련해 이 대통령이 남·북·미 간의 대화 물꼬를 튼다면 경주를 무대로 ‘평화 한반도’ 기조를 형성하는 일등 공신 역할을 노릴 수 있다. 눌리거나 손잡거나 국회 외교통일위원회 관계자는 “이 대통령에게 가장 큰 변수는 아무래도 미국이다. 각 국가 정상마다 성향도 다르고 원하는 바도 다른 만큼 미국부터 삐끗하면 차후 일정도 줄줄이 꼬인다”면서 “조급하게 나서면 될 일도 안 되는 게 외교 문제다. 한국은 한국만의 강점이 있다. 우리 쪽에서도 몇 가지 카드가 있을 테니 지금으로서는 정부를 믿는 것이 최선”이라고 설명했다. <hypak28@ilyosisa.co.kr> <기사 속 기사> 하필 지금? 미사일 쏜 북한 속내 지난 22일 북한이 이재명정부 출범 이후 처음으로 단거리탄도미사일을 발사했다. 한미·한중 정상회담 등에서 북한 문제가 다뤄질 것으로 예상되는 상황에서 존재감을 과시하고 미국을 향한 시그널을 보낸 것이라는 분석이 나온다. 주한미군과 우리 군의 반응이 엇갈린 점 역시 주목된다. 주한미군은 미국의 한미 동맹에 대한 공약이 굳건하다는 점을 강조하며 “불법적이고 불안정을 초래하는 행위를 강력하게 비판한다. 북한에 유엔안보리 결의 위반 행위를 중단할 것을 촉구한다”고 밝혔다. 반면 우리 군은 통상 해오던 미사일 발사 규탄 성명을 내지 않았다. 정상회의를 앞두고 이정부가 남북 평화 분위기를 조성하고 있는 만큼 이를 의식해 톤 조절에 나선 게 아니냐는 해석이 나오는 이유다. <박>