구글과 메타에 이어 오픈AI도 인공지능으로 만든 이미지에 특정 표시인 워터마크를 넣기로 했다고 현지시간 2024년 2월 7일 밝혔다. 딥페이규 규제를 위한 디지털 워터마크는 육안으로 확인할 수는 없어도 특정 기술을 통해 부착 여부를 확인할 수 있다.
딥페이크 영상 문제와 워터마크
미국에서 최근 생성형 AI 기능을 악용한 딥페이크 문제가 발생하고 있다. AI로 생성한 이미지에 규제가 필요한 시점이다. 이에 빅테크가 디지털 워터마크를 부착하겠다고 발표한 건 시의적절하다.
미국 팝스타 테일러 스위프트의 음란 딥페이크 이미지가 소셜미디어에 확산하고 2024년 치러질 미국 대선과 관련한 딥페이크 영상까지 확대되고 있다. 오픈AI도 이런 분위기를 의식해 워터마크 부착으로 생성형 AI 콘텐츠 규제를 발표했다.
디지털 워터마크는 사진과 동영상 등 각종 디지털 데이터에 저작권 정보를 비밀스럽게 삽입하는 기술이다. 워터마크를 통해 원본 출처와 정보 추적이 가능하다. 워터마크는 육안이 아니라 특정 기술을 통해 부착 여부를 확인할 수 있다.
원래 워터마크(watermark)는 수위표라는 뜻으로 종이가 물에 젖어 있는 동안 종이에 있는 정보의 진위를 알 수 있어서 이름이 붙여졌다. 즉, 워터마크란 빛을 비출 때나 빛이 반사될 때에 더 밝게 보이는 종이의 무늬나 그림을 의미한다.
지폐와 여권에 있는 무늬와 그림이 대표적인 워터마크다. 워터마크의 역사는 1282년 이탈리아 파르비아노 지역으로 거슬러 올라간다. 워터마크로 종이의 품질, 제작일과 공장 상표 등을 알아낼 수 있어 유용했다.
컴퓨터에서 워터마크는 문서나 이미지 파일 위에 삽입하는 로고나 텍스트이다. 워터마크 삽입은 저작권을 보호하고 디지털 작품을 홍보하는데 중요하다.
오픈AI의 워터마크
오픈AI는 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA) 형태의 워터마크를 부착한다. C2PA는 콘텐츠 출처와 정보 확인을 위한 개방형 기술 표준이다. 마이크로소프트, 어도비와 인텔 등이 해당 기술 개발에 앞서 있다.
구글과 메타의 워터마크
메타도 디지털 워터마크 부착을 추진하겠다고 발표했다. 메타는 자사의 AI 도구인 ‘메타 AI ‘를 사용해서 만든 이미지와 제3의 AI 도구로 만든 콘테츠 모두에 ‘이매진드 위드 AI(Imagined with AI)’ 모양의 워터마크를 붙인다. 메타 자사 소셜미디어인 페이스북, 인스타그램, 스레드에 올리는 생성 이미지에 우선 적용한다.
구글도 인공지능으로 만든 이미지에 워터마크를 적용한다. 구글은 2024년 2월 1일 구글의 AI 쳇봇 ‘바드’에 이미지 생성 기능을 추가하면서 딥마인드의 워터마크를 적용한다고 발표했다.
구글과 메타에 이어 오픈AI도 인공지능으로 만든 이미지에 특정 표시인 워터마크를 넣기로 했다고 현지시간 2024년 2월 7일 밝혔다. 딥페이규 규제를 위한 워터마크는 육안으로 확인할 수는 없어도 특정 기술을 통해 부착 여부를 확인할 수 있다.
