AI와의 전쟁, 니콘-소니-캐논 디지털 서명 도입

니콘, 소니, 캐논이 딥페이크, AI 이미지 변조 등 가짜 이미지, 비디오 등을 구별할 수 있는 디지털 서명 도입을 예고했다. 전 세계 카메라 시장에서 3개 회사 시장점유율이 90%에 달하는 만큼 전체 업계에 영향을 미칠 것으로 보인다.

닛케이 아시아는 3개 회사가 이미지 진위를 확인할 수 있는 디지털 서명 시스템을 새롭게 구축, 딥페이크 등의 이미지 등을 판변할 수 있다고 보도했다.

그간 딥페이크가 교황, 대통령, 국왕 등을 가리지 않고 적용되며 잘못된 정보와 가자 뉴스가 퍼져왔다. 하지만 사진 업계에서 AI의 위협을 직접 실감한 건 지난 2023 소니 월드 포토그래피 어워드였다. 당시 주최 측은 크리에이티브 부문 수상작으로 독일 작가 보리스 엘다크젠의 작품이 수상했다. 수상작인 THE ELECTRICIAN은 엘 다크젠의 작품 시리즈 PSEUDOMNESIA 중 하나로 이를 '1940년대 가족 초상화로 시각적 언어를 연상시키는 서로 다른 세대의 두 여성의 잊히지 않는 흑백 초상화'라고 소개했다.

하지만 엘다크젠은 1위를 차지한 이후 수상을 거부했다. 해당 작품의 AI를 활용해 제작했다는 이유였다. 그는 오픈AI의 생성 이미지 생성기 DALL-E2에 프롬프트를 적어넣어 이미지를 만들었다. 이후 엘다크젠은 이런 행동이 시상식에 '말썽꾼'이였다고 인정했지만, '자신의 이미지를 선택해 역사적인 순간을 만들어줘서 감사하다'며 AI 이미지가 시상식에 있어서 안 된다고 주장했다. 한편 시상식의 주최 측은 엘다크젠이 AI 활용 범위에 대해 제대로 설명하지 않았다고 답했다.

▲ 시상식 수상작으로 지명됐지만, 수상을 거부한 보리스 엘다크젠의 작품

디지털 서명이 가장 먼저 도입된 기기는 라이카의 M11-P다. 하지만 3사가 시장에 막대한 영향력을 미치는 만큼 니콘, 소니, 캐논의 디지털 서명은 글로벌 표준으로 공유되며 위조 카메라의 위조 확인 절차가 될 것으로 보인다.

또한, 3사는 판별 도구로 이미지의 인공지능 생성과 변조 여부를 판단하는 툴을 만드는가 하면 인증 서버에서 디지털 서명을 감지해 AI 생성 여부를 판단하는 등 다양한 방식으로 위변조 감지 기능을 제공할 예정이다. 펌웨어 업데이트를 통해 보다 많은 카메라 모델에 지원될 계획도 있다.

3사의 이런 검증 노력이 위변조 사진을 판별에 큰 도약이기도 하지만, 작금의 문제 해결에 큰 도움이 되지 않는다는 의견도 있다. 전문 사진작가, 언론사들에서 이를 검증할 시스템은 개발됐지만, 가짜 사진의 많은 출처 SNS, 온라인 웹사이트 등이기 때문이다. 또한, 사진보다 더 널리 보급된 스마트폰 카메라의 경우 검증 시스템이 제대로 작동하지 않을 여지가 크다. 디지털 서명이 3사의 카메라 시장을 넘어 더 넓은 규모로 확대돼야 되는 이유다.