지난 23일 네이버웹툰에서 연재를 시작한 ‘신과함께 돌아온 기사왕님’이 인공지능(AI) 기술로 제작돼 논란이 불거졌다. 일각에선 AI를 통한 작업은 창작물을 도둑질하는 행위라며 생성형 AI 에 대한 경계심을 키워야 한다고 목소리를 높였다. 이미지뿐만 아니라 존재하지 않는 음원을 만들어내는 등 생성형 AI의 기술은 여러 분야에서 새로운 창작자로 떠오르고 있다. 이에 △생성형 AI의 정의와 활용 목적△생성형 AI를 둘러싼 논쟁△나아가야 할 방향에 대해 알아보자. 

◆생성형 AI의 정의와 활용 목적 

생성형 AI란 △오디오△이미지△텍스트 등 기존의 콘텐츠를 활용해 이와 유사한 창작물을 새로 만들어내는 AI 기술로 ‘제너레이티브(generative) AI’ 로도 불린다. 기존의 AI가 데이터와 패턴을 학습해 대상을 이해하는 것에 그 쳤다면 생성형 AI는 기존 데이터와의 비교 학습을 통해 새로운 창작물을 탄생시킨다. 텍스트 분야에선 주어진 소재로 시를 짓거나 소설을 창작할 수 있으며 이미지 분야에선 특정 작가의 화풍을 모사해 새로운 이미지를 생성한다. 특히 최근엔 생성형 AI를 통해 글을 이미지나 비디오로 변환시키는 기술 도 주목받고 있다. 구글(Google)은 텍스트를 동영상화해 영상 콘텐츠를 생성 하는 AI 비디오 생성기 ‘이메진 비디오(Imagine Vedio)’를 새롭게 선보였다. 음성 분야에서도 여러 장르의 음악을 작곡하거나 특정 노래를 원하는 가수 의 음색으로 재생성하는 등 다양한 활용 사례가 등장하고 있다. 

생성형 AI 활용의 주목적은 효율성이다. 생성형 AI를 활용하면 사람에 비해 훨씬 단기간에 작업물을 완성할 수 있기 때문이다. 프리랜서 그림 작가와 고객을 연결해주는 플랫폼인 ‘크몽(Kmong)’에 따르면 그림 작가들의 외주 작업은 10만 원에서 40만 원대에 가격이 형성되며 작업 기간은 10일에서 길게는 한 달 이상 소요된다. 그러나 동일 플랫폼에서 AI로 만든 작업물은 가격대가 1만 원에서 5만 원 선이며 작업 기간도 5일 이내로 매우 짧은 편이다. 업계측은 저작권 문제가 없다면 AI를 활용했다는 사실만으로 무조건 비판하기보다 AI 사용 여부를 투명하게 공개하는 등 적절한 활용 방법을 찾아야 한다는 입장이다. 실제로 해당 플랫폼에선 AI 디자인 카테고리를 따로 만들기도 했다. 다만 AI 활용에 대한 비판이 멈추지 않아 업계 측은 AI가 생성하는 작품과 사람이 만드는 것에 큰 차이가 없기에 오히려 AI를 활용함으로 써 작가들의 편의와 효율성을 올릴 수 있다고 주장했다. 해당 업계 관계자는 “AI를 이용하면 창작 환경이 개선되고 효율성도 높아질 수 있는데 무조건 배척하는 건 문제다”며 “AI를 창작자가 아닌 도구로 봐야한다”고 전했다. 실제로 완성형 작품을 만들어내는 수준까지는 아니더라도 그림을 그리거나 작곡을 하는 과정에서 기본 틀을 구상하는 데 많은 창작자가 생성형 AI를 활용하고 있다. 

◆생성형 AI를 둘러싼 논쟁 

생성형 AI의 가장 큰 문제점은 저작권에 있다. 일반적으로 AI가 생성한 작업물에 대해선 사용자나 AI 운영업체에게 저작권이 부여되지 않는다. 저작권 법에 의하면 저작권은 인간의 창작물에만 해당하기 때문이다. 그러나 생성 형 AI가 발전하면서 AI가 만들어내는 작업물의 저작권에 대한 논쟁이 이어지고 있다. 생성형 AI는 기존의 창작물을 학습해 이를 기반으로 새로운 창작물을 만들어내기에 그 과정에서 기존의 창작물 활용은 불가피하다. 따라서 생성형 AI가 만들어낸 창작물에 대해 AI 운영업체 측에 저작권이 부여된 다면 생성형 AI가 학습한 원 창작물에 대한 보호는 이뤄지기 어려울 수 있다. 아직 우리나라엔 생성형 AI와 관련된 저작권법이 부재해 생성형 AI의 학습에 자신의 창작물이 활용되더라도 창작자는 그 권리를 보호받지 못한다. 일부 국가들에선 생성형 AI에 대한 규제가 본격적으로 진행되며 ‘Text and Data Mining(이하 TDM) 면책규정’을 입법화했다. TDM 면책규정은 챗GPT 가 발달함에 따라 함께 논의돼 온 규정으로 정보분석을 위해 창작물을 사용 할 시 원 저작자의 동의 없이 AI 학습용 데이터로 창작물을 사용할 수 있는 근거가 된다. 우리나라에선 이와 유사하게 ‘공정한 이용’을 저작권 유보 조건으로 삼고 있다. 저작권법 제 35조 5에 따르면 창작물의 통상적인 이용 방법과 충돌하지 않고 저작자의 정당한 이익을 부당하게 해치지 않는 선에서 창작물을 이용할 수 있다. 그러나 생성형 AI가 만들어낸 창작물이 상업화 된다면 원 저작자의 이익이 침해될 가능성이 있어 명확한 규제가 필요한 상황이 다. 

또다른 문제는 생성형 AI로 만들어지는 창작물 자체에 대한 사람들의 반감이 크다는 것이다. 지난 23일에 연재를 시작한 네이버웹툰 ‘신과함께 돌아온 기사왕님’이 AI로 제작된 웹툰이란 논란이 불거지며 독자들로부터 비난을 받자 제작사인 ‘블루라인 스튜디오’는 해명에 나섰다. 블루라인 스튜디오 측은 “작업 과정에서 AI를 활용한 것은 맞으나 마무리 보정 단계의 효율적인 작업을 위해서였다”며 “창작의 영역에 있어선 스튜디오에서 직접 작업한 것이다”고 밝혔다. 이후 현재까지 공개된 원고 6화 분량을 전면 교체한 뒤 AI 활용 작업 중단을 선언했다. 그러나 웹툰에 AI를 활용하는 것은 양산형 작품에 불과하다며 제작사의 낮은 저작권 의식 수준에 대해 비판하는 목소리는 계속되고 있다. 동종업계 창작자들 또한 네이버웹툰의 이러한 행보는 창작자들의 일자리를 직접적으로 위협하는 행위라고 지적했다. 

생성형 AI가 범죄에 이용될 수 있다는 우려도 존재한다. 미국에서 트위치 (Twitch) 방송을 하고 있는 BJ A 씨는 생성형 AI가 만들어낸 자신의 딥 페이크(Deepfake) 이미지가 성범죄에 이용됐다고 밝혔다. A 씨는 “내 의지와 상관 없이 내 사진이 인터넷에 퍼지는 것이 수치스럽다”며 딥 페이크 사이트 에 대한 고소 의사를 밝혔다. 딥 페이크 기술은 성범죄뿐만 아니라 정치인의 발언을 조작해 비방하는 등 가짜뉴스의 용도로도 자주 활용된다. 이는 실제 이미지와 딥 페이크를 통해 만들어낸 이미지를 구별하기 어려울 정도로 생성형 AI가 발전돼 그 문제가 더욱 심각해지고 있다. 

◆나아가야 할 방향 

지난달 11일 미국 정부에선 생성형 AI가 불러일으킬 수 있는 문제에 대한 본격적인 해결 방안을 도입했다. 앨런 데이비드슨(Alan Davidson) 국가통신정 보국 국장은 “AI의 책임감 있는 사용을 위해 안전 장치가 필요하다”며 “식품과 자동차가 적절한 검증 과정을 거친 후 시장에 출시되는 것처럼 AI도 절차가 필요하다”고 전했다. 같은 날 중국도 ‘생성형 AI 서비스 관리법’ 초안을 공개했다. 해당 규제안에 따르면 새로운 생성형 AI 서비스는 출시 전에 당국의 안전 평가를 받게 된다. 평가 항목으로는 △개인정보보호△제공 정보의 객관성과 진실성 보장△지식재산권 보호 등의 조건이 포함됐다. 또한 해당 규정을 준수하지 않을 경우 서비스 공급업자들은 벌금을 부과받거나 형사 조사에 처할 수 있다. 기업체 차원에서 규제에 나선 구글은 생성 이미지 기능을 출시함과 동시에 AI 생성 이미지의 모든 원본 파일에 ‘구글이 생성한 AI 이미지’라는 표시를 첨부할 것이라고 밝혔다. 

우리나라에서도 AI 저작권과 관련된 활발한 논의가 이뤄지고 있다. 지난달 10일 우리나라 그림작가들은 ‘AI 이미지 생성기의 무분별한 사용과 악용을 막기 위한 법적 규제에 관한 청원’을 통해 AI 이미지 생성기에 대한 규제를 요구했고 한 달 만에 약 5만 명 가량의 동의를 얻었다. 해당 청원은 ‘AI 학습 데이터 세트의 투명성을 강제하는 법률’을 제정하거나 개정할 것을 요구하고 있다. 또한 이들은 AI로 만든 이미지에 대해 AI 모델이나 원작자 등 출처를 표시하고 AI로 만든 이미지임을 검증할 수 있도록 워터마크(watermark) 첨부를 의무화해야 한다고 주장했다. 한국만화가협회 등 창작자 단체에선 AI를 주제로 포럼을 열며 AI 생산과 관련된 전체적인 가이드라인에 대한 논의를 지속적으로 이어가고 있다. 문화체육관광부와 한국저작권위원회에서 도 AI 창작물 관련 가이드라인을 준비 중이다. 국회에선 이미지나 음악 등의 콘텐츠가 AI 기술로 만들어진 것이라는 사실을 인식할 수 있도록 조치를 취하고 있다. 실제로 이상헌 더불어민주당 의원은 AI를 활용해 제작물을 만든 경우 콘텐츠 제작자가 이를 표시하자는 내용을 담은 콘텐츠산업진흥법 일부 개정안을 발의했다. 

생성형 AI 관련 범죄에 대한 법률적 측면의 제재 논의도 꾸준히 제기되고 있다. 지난 2020년 6월 정부는 딥 페이크 기술을 악용한 음란물 피해가 지속적으로 발생하자 ‘딥 페이크 처벌법’을 마련했다. 딥 페이크 처벌법은 N번방과 같은 심각한 디지털 성범죄가 증가하며 새로 제정된 성폭력 범죄 처벌 등에 관한 특례법이다. 해당 법률에 의거해 딥 페이크를 활용한 불법 합성물의 제작과 유포가 적발될 경우 5년 이하의 징역 또는 5천만 원 이하의 벌금 형에 처해진다. 또한 이로 인한 금전적 이익 발생 시 7년 이하의 징역으로 가중처벌이 가능하다. 한편 합성 영상의 제작 기술이 급격하게 발전하고 있어 딥 페이크를 이용한 범죄가 발생할 가능성은 여전히 큰 상황이다. 따라서 범죄 발생률을 낮출 수 있는 실질적인 논의들이 제기돼야한다는 목소리가 따른다. 소대섭 한국과학기술정보 연구원은 “우리나라는 규제적인 측면이나 법적인 측면에서 서유럽에 비해 뒤처지고 있다”며 “윤리적 순위를 우선시해 정책에 반영해야 한다”고 전했다. 생성형 AI는 창작의 영역에서 일부분 도움이 될 수 있으나 오히려 창작자의 저작권을 침해하고 범죄로 남용되는 등의 문제를 발생시키고 있어 사용에 각별한 주의를 요한다. 무분별한 AI 남용을 저지하고 올바른 생성형 AI 체계를 구축해나갈 수 있을지 귀추가 주목된다. 

임채린 기자 06chaelin@hufs.ac.kr