유튜브의 ai영상 가짜영상 규제방침

 

유튜브가 드디어 AI를 활용해 만든 동영상의 경우 그 사실을 공개하도록 하는 것을 의무화 할 방침이라고 합니다. 생성형 AI 프로그램을 사용해 만든 영상이 아니라고 하더라도, 사실로 보이기 위해 조작되거나 합성된 영상이라면 마찬가지로 이러한 규제를 적용받게 될 거라고 하네요. 이러한 조치로 인해 가짜뉴스 채널들이 직접적인 타격을 받지는 않겠지만(기존에 있던 사진이나 영상을 활용했지만 내용만 가짜라서) 정말 나쁜 의도를 가지고 교묘하게 만든 영상들의 유포에는 제동을 걸 수 있지 않을까 싶습니다.

 

실제로 일어나지 않은 사건을 사진이나 영상으로 사실적으로 묘사하거나, 사람들이 실제로 하지 않은 말이나 하지 않은 행동을 가짜로 보여주는 동영상은 단순 텍스트로만 이뤄진 가짜뉴스에 비해 그 파급력이 훨씬 크거든요. 지금 발표된 내용으로 봐서는 기술적으로 그러한 AI영상이나 합성영상을 걸러내는 것은 아니고, 콘텐츠 제작자 스스로가 조작여부를 밝히라는 것 같은데요. 구글은 책임을 조금 회피하고, 유튜버에게 확실히 책임을 지우려는 것 같습니다. 지금 영상에 광고포함 여부를 유튜버 스스로 체크하도록 한 것 처럼 말이죠.

 

 

 

유튜브의 제품 관리 담당 부사장은 "콘텐츠가 선거, 진행 중인 분쟁, 공중 보건 위기 등 민감한 주제를 다루는 경우 특히 중요하다"고 밝혔는데요. 이 정책이 시행되는게 내년인 2024년부터로 예상된다고 해요. 세계 여러나라의 내년 선거를 앞두고 적절한 조치라고 생각됩니다. 우리나라에도 내년에 총선을 앞두고 가짜뉴스가 범람하지 않을까 예상되는데요. 유튜브와 같은 SNS의 영향력이 해가 다르게 커지고 있어 지난 선거와도 또 다른 양상이 되지 않을까 싶습니다.

 

요즘 AI기술의 발전으로 이런 가짜영상의 제작이 너무나 쉬워졌습니다. SNOW 같은 앱을 이용해서 얼굴을 바꾸는 것도 놀이처럼 쉽게 가능해졌고요. 최근 일본에서 기시다 총리의 가짜영상이 유포되었는데 그걸 만든 사람을 잡고 보니 불과 한시간 만에 영상을 제작했다고 했죠. 생성형 AI기술이 발전할 수록 진짜처럼 그럴 듯한 가짜 이미지가 넘쳐나게 될 것 같습니다. 잘 활용하면 정말 편리한 도구지만 나쁜 마음을 먹고 사용하면 정말 큰 사회혼란을 초래할 수도 있겠습니다.

 

 

 

지금 유튜브에서 선정적인 영상이나 약물/폭력적인 영상 등을 걸러내는 것 처럼, 언젠가는 AI를 활용한 가짜영상도 어느정도 걸러낼 수 있는 장치가 마련되지 않을까 싶은데요. 문제는 AI가 생성한 영상이라고 해서 무조건 악의적인 영상이 아니라는데에 있겠네요. 그런 부분을 어떻게 필터링 해 낼지가 관건이 될 것 같습니다.

 

이렇게 가짜영상이 판을 치는 세상일 수록 기존의 방송사가 운영하는 채널들이 반사효과를 누릴 수도 있을 것 같습니다. 적어도 방송사에서 제작해서 내보내는 뉴스영상에는 가짜가 없을테니까요. 검증된 인원과 시스템, 제도하에서 생산되고 유통되는 보도영상의 가치는 더욱 빛을 발할 수 있겠습니다.

 

AI가 만든 영상기자의 이미지

 

참고자료 : 머니네버슬립(https://stibee.com/)

AI시대에 사라지지 않을 직업, 영상기자

구글AI Bard로 본 영상기자 직업전망