▲ 스레드 등에 유포되고 있는 AI 허위 영상./SNS 갈무리


AI를 활용한 허위 영상을 통해 SNS 이용자들이 잘못된 정보를 사실이라고 믿는 사례가 발생하고 있지만 개인 콘텐츠 제작자는 처벌하기 어려운 상황이다. 콘텐츠에 AI로 제작했다는 표시를 의무화하는 AI 기본법을 일반 제작자에게까지 확대해야 한다는 지적이 나온다. <인천일보 2월19일자 6면 '쏟아지는 AI 음란물 … 가로막힌 법적 처벌'>
19일 인천일보 취재를 종합하면 지난 1월22일부터 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 시행됐다 바다이야기꽁머니 . 해당 법안은 국가 인공지능 경쟁력 제고, 신뢰 가능한 AI 활용 기반 조성을 위해 발의됐다.
법안에 따라 고영향 AI·생성형 AI를 활용하는 제품 또는 서비스를 제공하는 사업자는 AI를 활용했다는 사실을 사전에 이용자에게 고지해야 하고, 그 결과물, 사회적 부작용이 우려되는 딥페이크 결과물에 대해서는 이용자가 명확하게 인식될 수 있는 손오공릴게임예시 방법으로 표시해야 한다. 이를 위반할 시 최대 3000만원 이하 과태료가 부과된다.
다만 이는 AI를 활용한 서비스를 제공하는 기업을 주된 대상으로 하기 때문에 개인 콘텐츠 제작자에게는 해당하지 않는다.
최근 스레드를 비롯한 SNS에는 군인 지휘 하에 로봇들이 총격하는 영상이 업로드되고 있다. 한 게시자는 해당 영상에 " 뽀빠이릴게임 중국은 아이작 아시모프의 로봇 3원칙도 무시할 생각인가?"라는 글을 덧붙였다. 해당 영상에 대해 일부 이용자들은 댓글로 AI 영상이라고 지적하고 있지만 상당수는 실제 상황이라고 믿고 있다. 해당 영상에는 AI로 제작했다는 표시가 보이지 않는다.
이외에도 특정 집단에 대한 비방을 유도하는 AI 콘텐츠들이 누구나 쉽게 접할 수 있는 SNS에 릴게임사이트 수시로 업로드되고 있다.
이러한 선동 목적의 허위 콘텐츠를 개인이 제작해 SNS 등에 업로드하더라도 AI 기본법으로는 이를 막을 수 없다. 전기통신기본법에 따라 자기 또는 타인에게 이익을 주거나 타인에게 손해를 가할 목적으로 전기통신설비에 의하여 허위 통신을 한 자는 3년 이하 징역 또는 3000만원 이하 벌금으로 처벌할 수 있지만 SNS 손오공게임 등에 수시로 업로드되는 허위 콘텐츠들은 사회 혼란을 유도할 뿐 특정 인물과 집단을 명확히 지정하지 않기 때문에 규정 적용이 애매한 상황이다.
전문가들은 지금의 조항으로 이들을 처벌하기에는 부족하다고 지적했다. 염흥열 순천향대 정보보호학과 교수는 "선거철을 앞두고 있는 만큼 사회 혼란을 유발하고 특정 인물에게 안 좋은 이미지를 심어줄 수 있는 AI 활용 콘텐츠들은 제재할 필요성이 충분하다"고 말했다.
/추정현 기자 chu3636@incheonilbo.com

쏟아지는 AI 음란물…가로막힌 법적 처벌https://v.daum.net