최근 인공지능(AI)으로 독립운동가의 모습을 생성한 콘텐츠가 영상 플랫폼에서 늘고 있다. 이런 영상 중에는 AI 제작을 명시하고 업적을 기리는 경우도 있지만, 일부는 역사 왜곡 우려가 있어 정부 차원의 관리가 필요한 시점이다.
14일 진종오의원실 자료에 따르면 우리나라는 AI 생성 콘텐츠 표기 규정을 가이드라인 수준으로만 규정하고 있다. 한국콘텐츠진흥원(콘진원)은 방송통신위원회(방통위)가 AI 생성 콘텐츠 표기 여부를 자율로 규정한다고 밝혔다.
또 ‘역사적 사실과 다른 창작물’에 대한 대응책을 묻자 방통위와 각 방송사가 이용자보호 가이드라인을 만들었다고 답했다. 방송미디어통신심의위원회(방심위)가 방송·통신 심의를 담당하지만, 온라인 영상 플랫폼 내 AI 생성 콘텐츠에 대한 조치는 언급되지 않았다.
콘진원은 AI 생성 콘텐츠 관련 준비가 미흡한 것으로 드러났다. 이들은 AI 역사 콘텐츠가 시청자에게 주는 영향력에 대한 연구나 교육·홍보 목적 영상 분류 기준을 마련하지 못했다고 전했다. 콘진원은 AI 생성 콘텐츠에 ‘실제 인물과 다를 수 있음’ 표시 기준도 준비하지 않아 뒤늦게 개선 방향을 마련하겠다는 입장을 표했다.
해외에서는 AI로 가짜 홀로코스트 피해자를 만들어 유포한 사례가 있다. 유포 당시 홀로코스트 피해자 단체는 AI 생성 콘텐츠의 역사 왜곡을 강하게 비판한 바 있다. AI가 출력하는 역사와 관련된 글과 사진, 영상 등은 기존 내용과 다른 경우가 많다. 이는 내용을 모르면 ‘할루시네이션(환각)’ 정보를 출력하는 AI의 특징 때문이다.
국회 문화체육관광위원회 소속 진종오 국민의힘 의원은 이날 쿠키뉴스와 통화에서 “AI 기술 발전으로 독립운동가 등을 재현한 영상이 늘고 있지만, AI 생성 여부를 알리는 제도적 장치는 없다”며 “AI 생성 콘텐츠 표시는 가이드라인 수준에 멈춰있다”고 지적했다.
그러면서 “AI 생성 콘텐츠에 담긴 내용이 실제 기록과 달라도 아무런 제재나 안내가 없다”며 “결과적으로 역사 왜곡과 인식 혼란을 초래할 우려가 크다”고 비판했다.
아울러 “교육·홍보 목적이라도 AI 생성 콘텐츠 안내 문구는 반드시 포함돼야 한다”며 “문화체육관광부와 방통위, 콘진원 등 기관 협의로 역사 왜곡 방지 체계를 갖춰 나가야 한다”고 강조했다.
