Google, 영구적 워터마크 이미지 기술의 발전

구글,  영구적 워터마크 공개

Google은 지난 화요일에 컴퓨터로 생성된 이미지를 식별하는 데 도움을 주기 위해 이미지에 보이지 않는 영구 워터마크를 공개했습니다. 이 기술인 SynthID는 구글의 최신 텍스트에서 이미지를 생성하는 도구 중 하나인 Imagen에서 생성된 이미지에 워터마크를 직접 포함시킵니다. 이 인공지능(AI)으로 생성된 라벨은 추가된 필터나 변경된 색상과 상관없이 남아 있습니다.

SynthID 도구는 또한 들어오는 이미지를 스캔하고 해당 이미지가 Imagen에 의해 생성되었을 가능성을 세 가지 수준의 확신(감지된, 감지되지 않은 및 가능성 있는 감지)으로 스캔하여 식별할 수 있습니다.
구글은 화요일 블로그 게시물에서 "이 기술이 완벽하지는 않지만, 내부 테스트에서 많은 일반적인 이미지 조작에 대해 정확함을 보여줍니다"라고 썼습니다.

SynthID의 베타 버전은 개발자를 위한 구글의 생성 AI 플랫폼인 Vertex AI의 일부 고객에게 현재 사용 가능합니다. 이 회사는 SynthID를 구글의 DeepMind 부문과 Google Cloud가 공동으로 개발했으며, 더 발전하여 다른 구글 제품이나 제3자로 확장될 수 있다고 말했습니다.

발전된 딥페이크, 실제예시

딥페이크와 수정된 사진이 점점 더 현실적으로 변화함에 따라 기술 회사들은 조작된 콘텐츠를 식별하고 플래그 처리하는 신뢰할 만한 방법을 찾기 위해 고심하고 있습니다. 최근 몇 달 동안 파우파 미완 전 대통령의 AI로 생성된 퍼퍼 재킷 착용 이미지가 화제가 되었으며, 인공지능으로 생성된 형법에 따른 도널드 트럼프 전 대통령 체포 이미지가 기소되기 전에 널리 공유되기도 했습니다.

유럽 위원회 부위원장인 베라 요로바(Vera Jourova)는 6월에 구글, 메타, 마이크로소프트 및 틱톡(Meta, Microsoft, TikTok 등을 포함한)의 유럽 연합 위장 거래 행동 강령 서명국에게 "이러한 콘텐츠를 인식하고 사용자에게 명확하게 표시하기 위한 기술을 마련하라"고 촉구했습니다.

SynthID의 발표로 구글은 현재 현실과 가짜를 어떻게 감지할 수 있는 기술을 찾기 위해 노력하는 스타트업 및 빅테크 기업들 중 하나로 늘어났습니다. 이 회사들 중 일부는 Truepic 및 Reality Defender와 같은 이름을 갖고 있으며 이들은 실제로 무엇이 실제이고 무엇이 그렇지 않은지에 대한 감각을 보호하기 위한 노력의 잠재적인 위험을 언급합니다.

콘텐츠 출처 추적

Adobe 후원 단체인 콘텐츠 출처 및 신뢰성 연합(C2PA)은 디지털 워터마크 노력의 선도 주자이며, 구글은 대부분 자체 접근 방식을 취해 왔습니다.
5월에 구글은 About this image라는 도구를 발표하여 사용자가 구글 사이트에서 찾은 이미지가 언제 구글에 의해 최초로 색인화되었는지, 이미지가 처음으로 나타난 곳 및 다른 곳에서 온라인에서 어디에서 또 발견될 수 있는지를 볼 수 있는 기능을 제공했습니다.

또한 이 기술 회사는 구글에서 생성한 모든 AI로 생성된 이미지가 다른 웹사이트나 플랫폼에서 이미지를 발견할 경우 "문맥을 제공하기 위한" 원본 파일의 표시를 갖고 있을 것이라고 발표했습니다.

하지만 AI 기술이 인간이 따라갈 수 있는 속도보다 빠르게 발전함에 따라 이러한 기술적인 해결책이 문제를 완전히 해결할 수 있는지 여전히 불분명합니다. Dall-E와 ChatGPT 뒤에 있는 OpenAI는 글이 아니라 이미지를 감지하는 데 도움을 주기 위한 자사의 노력이 "불완전"하다고 올해 초에 인정했으며, 이것은 "잘 생각하길 바란다"고 경고했습니다.

앞으로 얼마나 향상된 속도로 발전할지 기대가 됩니다.