DeepMind는 Google Cloud와 협력하여 인공 지능으로 생성된 이미지를 워터마킹합니다.

이미지 출처: Google

Google Cloud, Google DeepMind(Google의 인공지능 연구 부서)와 파트너십을 맺고 있습니다. 풀어 주다 AI 생성 이미지를 워터마킹하고 식별하는 도구입니다. 단, Google의 이미지 생성 모델을 통해 생성된 이미지에만 해당됩니다.

SynthID라고 불리는 이 도구는 Vertex AI(인공 지능 애플리케이션 및 모델 구축을 위한 Google의 플랫폼) 사용자에게 베타 버전으로 제공되며 디지털 워터마크를 이미지 픽셀에 직접 삽입하여 육안으로는 눈에 띄지 않지만 알고리즘으로는 감지할 수 있게 만듭니다. . SynthID는 Vertex AI에서만 사용할 수 있는 Google의 텍스트-이미지 모델인 Imagen만 지원합니다.

Google 이전에 생성적 AI 모델에 의해 생성된 시각적 미디어를 나타내는 메타데이터가 포함될 것이라고 밝혔습니다. SynthID는 분명히 그 이상입니다.

DeepMind는 블로그 게시물에서 “생성 AI는 엄청난 창의적 잠재력을 발휘할 수 있지만 제작자가 의도적이든 의도하지 않든 허위 정보를 퍼뜨릴 수 있는 등 새로운 위험도 제시합니다.”라고 썼습니다. “AI 생성 콘텐츠를 식별하는 능력은 사람들이 생성된 미디어와 상호 작용할 때를 알 수 있도록 하고 잘못된 정보의 확산을 방지하는 데 매우 중요합니다.”

이미지 출처: 깊은 마음

딥마인드는 구글리서치(구글의 연구개발팀)와 협력해 개발하고 개선하기 위해 제휴한 SynthID가 이미지에 필터를 추가하거나 색상을 변경하거나 이미지를 고압축하는 등의 수정 후에도 그대로 유지된다고 주장한다. DeepMind는 이 도구가 “다양한” 이미지 세트에 대해 함께 훈련된 워터마킹용과 식별용의 두 가지 AI 모델을 활용한다고 말합니다.

SynthID는 워터마크가 있는 이미지를 100% 신뢰도로 인식할 수 없습니다. 하지만 도구는 이미지가 다음과 같은 경우를 구별합니다. 아마도 이미지에 워터마크가 포함되어 있습니다. 가능성이 매우 높다 하나를 담기 위해.

DeepMind는 블로그 게시물에서 “SynthID는 심각한 이미지 조작에 대해 완벽하지는 않지만 사람과 조직이 AI 생성 콘텐츠를 책임감 있게 사용할 수 있도록 하는 유망한 기술 접근 ​​방식을 제공합니다.”라고 썼습니다. “이 도구는 오디오, 비디오, 텍스트와 같은 이미지를 넘어서는 다른 AI 모델 및 방법과 함께 발전할 수도 있습니다.”

생성 예술을 위한 워터마크 기술은 새로운 것이 아닙니다. 2020년에 출시된 프랑스 스타트업 Imatag는 SynthID와 유사하게 이미지 크기 조정, 자르기, 편집 또는 압축의 영향을 받지 않는다고 주장하는 워터마킹 도구를 제공합니다. 또 다른 회사인 Steg.AI는 AI 모델을 사용하여 크기 조정 및 기타 수정을 견딜 수 있는 워터마크를 적용합니다.

그러나 AI가 작품을 제작했다는 사실을 보여줄 수 있는 방법을 제공하라는 압력이 기술 회사에 가중되고 있습니다.

최근 중국 사이버 공간 관리국(Cyberspace Administration of China)은 생성 AI 공급업체가 사용자 사용에 영향을 주지 않고 텍스트 및 이미지 생성기를 포함하여 생성된 콘텐츠에 태그를 지정하도록 요구하는 규정을 발표했습니다. 그리고 최근 미국 상원위원회 청문회에서 Kirsten Sinema 상원 의원 (R-Arizona) 확인됨 워터마크 사용을 포함하여 생성 AI의 투명성이 필요합니다.

지난 5월 연례 빌드 컨퍼런스에서 마이크로소프트는 “암호화 방법을 사용하여” AI가 만든 이미지와 비디오에 워터마킹을 하기로 약속했습니다. 다른 곳에서는 AI 스타트업인 Shutterstock과 Midjourney가 이를 채택했습니다. 지침 콘텐츠가 생성 AI 도구에 의해 생성되었음을 나타내는 태그를 포함합니다. 텍스트-이미지 도구인 OpenAI의 DALL-E 2는 생성한 이미지의 오른쪽 하단에 작은 워터마크를 삽입합니다.

그러나 지금까지 워터마크 생성 또는 감지를 위한 워터마크에 대한 공통 표준은 파악하기 어려운 것으로 입증되었습니다.

제안된 다른 기술과 마찬가지로 SynthID는 이를 수행하는 이미지 제작자에게는 유용하지 않습니다. 그렇지 않아 Imagen – 적어도 현재 형태는 아닙니다. DeepMind는 가까운 시일 내에 SynthID를 제3자에게 제공하는 것을 고려하고 있다고 밝혔습니다. 그러나 제3자, 특히 API 뒤에 있는 생성기의 방화벽이 부족한 오픈 소스 AI 이미지 생성기를 개발하는 제3자가 이 기술을 수용할지 여부는 완전히 다른 문제입니다.