한국정보통신기술협회(이하 TTA)가 ‘인공지능(AI) 합성 콘텐츠’의 투명성 확보를 위한 요구사항 표준화를 추진한다고 8일 밝혔다. AI 합성 콘텐츠는 기존 이미지·영상·음성 등의 데이터를 AI가 조합한 생성물을 말한다. TTA 측은 이번 표준화 추진 배경에 대해 “AI 생성물의 오남용으로 인한 디지털 범죄 등 사회적 혼란을 막기 위한 것”이라고 했다.
◇'딥페이크 성범죄’ 급증에 AI 기본법 시행
경찰청에 따르면 AI 기술을 악용한 허위 영상물(딥페이크) 제작 및 유포 등의 디지털 성범죄는 2024년 9월 기준 812건으로 집계됐다. 2023년 168건과 비교해 약 5배 증가했다. AI 기술이 발전하면서 누구나 쉽게 콘텐츠를 제작할 수 있게 되면서 관련 범죄가 많아진 것으로 분석된다.
정부는 이에 따라 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI기본법)을 내년 1월 시행한다. AI가 만든 생성물에 ‘인공지능이 생성한 결과물’이라는 점이 표기된다.
TTA는 이에 맞춰 AI 기반 합성 콘텐츠 표준화를 추진하기로 했다. 디지털 콘텐츠의 출처와 기록에 대한 정보를 문서화해 AI 생성물 투명성을 높이겠단 취지다. 이와 함께 워터마크 방식 등 투명성 정보 표시 기술, 생성·제공·활용 등 ‘인공지능 생성물 생명주기’ 정의, 각 생명 주기별 이해관계자 및 요구사항 등이 제공될 예정이다.
표준화 작업은 TTA AI신뢰성센터의 제안으로 시작됐다. 한국조폐공사·성균관대학교가 표준화 작업에 참여 중이다. TTA 인공지능 기반 기술 프로젝트그룹(PG1005)에서 연내 제정이 이뤄지는 게 목표다. 프로젝트그룹에는 한국전자통신연구원, 한림대학교, 한국마이크로소프트 등 16개의 산·학·연 기관이 참여하고 있다.
손승현 TTA 회장은 “사회 전체의 안전한 정보 유통에 있어 AI 생성물에 대한 투명성은 보다 중요해지고 있다”며 “이번 표준화를 통해 AI 생성물 활용성 확대와 신뢰할 수 있는 정보 유통 환경 조성에 기여할 수 있을 것”이라고 했다.