구글(Google), AI로 생성된 이미지에 워터마크를 넣어 식별해주는 SynthID 출시

매일 더욱 인기를 얻는 AI 생성 이미지들. 하지만 특히 실제와 매우 비슷해 보이는 상황에서 어떻게 더 나은 방법으로 그것들을 식별할 수 있을까요?

Google Cloud와의 협력으로 SynthID의 베타 버전 발표

2023년 8월 29일(미국 시간) Google Cloud와의 협력으로 SynthID의 베타 버전을 발표했습니다. SynthID는 이미지에 디지털 워터마크를 삽입하고, 이를 인간 눈으로는 눈치채기 어렵지만 식별 가능한 방식으로 제공하는 이미지 워터마킹 및 식별 도구입니다.

 

Google DeepMind의 Symthid 베타버전 출시

생성적 AI 기술은 빠르게 진화하고 있으며, 컴퓨터 생성 이미지, 즉 '합성 이미지'는 AI 시스템에 의해 생성되지 않은 이미지와 구분하기 어려워지고 있습니다.

생성 AI는 큰 창의성을 발휘할 수 있지만, 의도적으로든 아니든 제작자가 잘못된 정보를 퍼뜨리는 것과 같은 새로운 위험도 가져옵니다. AI로 생성된 콘텐츠를 식별할 수 있다면, 사람들이 생성된 미디어와 상호 작용할 때 그것을 알 수 있으므로 오해의 전파를 방지하는 데 중요한 역할을 합니다.

구글 딥마인드는 사람들에게 고품질 정보를 제공하고 창조자와 사용자 간의 신뢰를 유지하는 것에 헌신하고 있습니다. 이 책임의 일환으로 사용자들에게 AI로 생성된 이미지를 더욱 정확히 식별할 수 있는 고급 도구를 제공하는 것이며, 이미지 뿐만 아니라 편집된 버전도 나중에 식별할 수 있도록 돕습니다.

Google Cloud는 AI로 생성된 이미지를 책임있게 생성하고 식별할 수 있는 도구를 제공하는 첫 번째 클라우드 공급자입니다. 이 기술은 책임 있는 AI를 개발하고 배포하는 접근 방식을 기반으로 하며, Google DeepMind에서 개발되었으며 Google Research와의 파트너십을 통해 개선되었습니다.

SynthID는 극단적인 이미지 조작 및 편에 대해서는 완벽하지 않지만, 사람들과 조직이 AI로 생성된 콘텐츠를 책임 있게 활용하는 데 유망한 기술적 접근 방식을 제공합니다. 이 도구는 이미지 외에도 오디오, 비디오, 텍스트와 같은 다른 AI 모델 및 형식에도 발전할 수 있습니다.

 

“Google Cloud는 책임감 있게 AI 생성 이미지를 생성하고 자신 있게 식별할 수 있는 도구를 제공하는 최초의 클라우드 제공업체입니다. 이 기술은 책임감 있는 AI를 개발하고 배포하는 우리의 접근 방식에 기반을 두고 있으며 Google DeepMind가 개발하고 Google Research와의 파트너십을 통해 개선되었습니다.”

Google DeepMind 블로그

 

 

SynthID 소개: 정품을 위한 워터마크

SynthID는 이미지의 픽셀에 디지털 워터마크를 삽입하는 혁신적인 기술로 나타났습니다. 인간의 눈에는 보이지 않지만, 이 워터마크는 정확한 식별을 위한 중요한 표식 역할을 합니다. 이 도구의 출시는 매우 현실적으로 보이는 AI 생성 이미지를 정확히 식별하기 위한 중요한 단계입니다.
SynthID는 이미지 품질을 저하시키지 않으면서도 워터마크를 감지할 수 있게 설계되었습니다. 또한 이미지에 필터를 추가하거나 색상을 변경하고 JPEG와 같은 다양한 손실 압축 방식으로 저장하는 것과 같은 수정을 한 후에도 워터마크를 감지할 수 있게 해줍니다.

 

 

 

인식할 수 없는 식별 표식

SynthID는 Imagen을 사용하는 Vertex AI 고객을 위한 도구로 출시되었습니다. Imagen은 입력 텍스트를 사용하여 사실적인 이미지를 생성하는 텍스트-이미지 모델입니다. SynthID의 기술은 시각적으로 확인할 수 없는 영역을 넘어 AI 생성 이미지의 식별 문제를 해결합니다.

SynthID는 AI 생성 이미지에 대해 눈에 띄지 않는 디지털 워터마크를 생성

 

합성 이미지의 부상하는 도전

생성적 AI 기술은 빠르게 발전하고 있으며, 컴퓨터 생성 이미지 또는 '합성 이미지'는 AI 시스템에 의해 생성되지 않은 이미지와의 구분이 점점 어려워지고 있습니다. SynthID는 이러한 문제에 도전하여 정품과 AI 생성 컨텐츠를 구분하는 것을 도와줍니다.

뛰어난 기술로 사용자에게 힘을 주는 방법

저희는 고품질 정보를 제공하고 창조자와 사용자 간의 신뢰를 유지하는 것에 전념하고 있습니다. SynthID는 수정 후에도 정확한 식별이 가능하도록 사용자에게 고급 도구를 제공하는 것에 중요성을 두고 있습니다.

AI 윤리의 이정표

Google Cloud는 AI 생성 이미지를 책임 있는 방식으로 생성하고 식별하는 도구를 제공하는 최초의 클라우드 공급자입니다. 이 기술은 책임 있는 AI 개발과 배포를 위한 Google의 노력과 일치합니다. Google DeepMind와 Google Research와의 협력을 통해 개발된 SynthID는 AI 생성 콘텐츠 윤리에 대한 큰 발전을 나타냅니다.

이미지 이상을 넘어: 미래의 가능성

SynthID의 기능은 이미지를 초월하여 음성, 영상 및 텍스트와 같은 다양한 AI 모델 및 형식으로 확장될 것으로 예상됩니다. 이 혁신적인 도구는 AI 생성 콘텐츠를 처리하는 종합적인 접근 방식을 제공합니다.

워터마크의 진화: SynthID의 접근 방식

전통적인 워터마크는 물리적인 각인에서부터 디지털 사진에 투과성 있는 텍스트 및 기호까지 역사를 통해 진화해 왔습니다. 그러나 AI 생성 이미지는 그 복잡성으로 인해 다른 접근 방식이 필요합니다.

균형을 찾아서

인식할 수 없는 워터마크와 이미지 조작에 대한 강건성 사이의 균형을 찾는 것은 어려운 과제입니다. SynthID는 이미지 품질을 저해하지 않고 워터마크를 시행하며 이미지 품질을 저해하지 않는 방식으로 균형을 유지합니다.

정확도를 위한 딥 러닝

SynthID는 워터마크 생성 및 식별을 위한 두 개의 딥 러닝 모델을 사용합니다. 이 모델은 다양한 이미지 세트에서 함께 훈련되어 정확한 워터마크 식별을 보장하며 이미지 수정 후에도 식별이 가능합니다.

 

 

견고함과 확장성: SynthID의 장점

극단적인 이미지 조작에 대해서는 완벽하지 않지만, SynthID는 일반적인 이미지 수정에 대한 견고한 내부 테스트를 통해 성능을 입증하였습니다.

필터 추가, 색상 및 밝기 변경과 같은 수정 후에도 워터마크를 감지할 수 있습니다.

 

이중 기능

SynthID는 두 가지 기능을 제공합니다. Imagen에 의해 생성된 합성 이미지에 인식할 수 없는 워터마크를 추가할 수 있으며, 이미지의 디지털 워터마크를 스캔하여 Imagen에 의해 생성되었을 가능성을 평가할 수 있습니다.

SynthID는 Imagen이 이미지를 생성했을 가능성을 평가하는 데 도움이 됩니다.

 

메타데이터 기반 식별과 보완

SynthID는 메타데이터를 기반으로 한 이미지 식별 방법을 보완합니다. 메타데이터는 수동으로 제거될 수 있지만, SynthID의 워터마크는 이미지의 픽셀 내에 내장되어 메타데이터가 손실되더라도 계속해서 식별 가능합니다.

미래의 방향: 책임 있는 AI의 미래

책임 있는 AI를 위한 여정에서 SynthID는 중요한 발전 단계를 나타냅니다. 저희는 지속적으로 이 기술을 개선하고 향상시키며 사용자의 피드백을 수집하고 새로운 기능을 탐색함으로써 SynthID를 발전시킬 것입니다.

협업의 결과

SynthID의 개발에는 Sven Gowal, Pushmeet Kohli 등의 헌신적인 개인뿐만 아니라 연구원 및 엔지니어 팀도 큰 공헌을 하였습니다. 이들의 노력은 이 혁신적인 기술의 길을 열어놓았습니다.

가능성을 탐색하고, 책임 있는 작업 보장

SynthID의 가능성은 이미지를 넘어 음성, 영상 및 텍스트 형식에 확장될 수 있습니다. AI 생성 컨텐츠로 풍부한 미래를 열어가면서 책임과 정확성이 여정의 핵심에 있음을 명심하겠습니다.

자주 묻는 질문

Q1: SynthID의 주요 목적은 무엇인가요?
A: SynthID는 AI 생성 이미지의 워터마크 및 식별을 위한 도구입니다.

Q2: SynthID는 이미지 수정 후에도 워터마크 가시성을 어떻게 보장합니까?
A: SynthID는 워터마크 정렬 및 식별을 위한 딥 러닝 모델을 사용하여 이미지 수정 후에도 정확한 워터마크 식별을 가능하게 합니다.

Q3: SynthID는 극단적인 이미지 조작을 식별할 수 있나요?
A: 극단적인 이미지 조작에 대해서는 완벽하지 않지만, SynthID는 일반적인 이미지 수정에 대해서는 정확성을 입증하였습니다.

Q4: SynthID는 메타데이터 기반 식별 방법과 호환됩니까?
A: SynthID의 워터마크는 메타데이터 기반 식별을 보완하며 메타데이터가 손실되더라도 계속해서 식별 가능합니다.

Q5: SynthID의 미래 전망은 어떻게 되나요?
A: 저희는 SynthID를 계속 발전시키며 다양한 AI 모델 및 플랫폼에 통합하는 것을 탐구할 것입니다.

 

Google DeepMins SynthID 공식 사이트 보기 : https://www.deepmind.com/blog/identifying-ai-generated-images-with-synthid

Identifying AI-generated images with SynthID

 

 

이미지 생성 AI가 빠르게 성장하면서 사람이 만든 창작물과 인공적으로 생성된 이미지(합성 포함)들의 구분이 힘들어지면서 우려가 많은 것도 사실이었는데 구글에서 이에 대응 하기위해 AI 이미지와 사람이 만든 이미지를 구분해주는 기술이 출시되면서 향후 가짜뉴스, 출처가 불확실한 이미지, 저작권 분쟁 등에서 많이 사용될것 같네요.💓🙏👍

 

여기까지 AI 이미지를 구분해주는 구글의 SynthID 출시 내용에 대해  소개해드렸습니다. q(≧▽≦q)

※ 본 내용은 해외 기사와 해당 서비스 관련 자료를 참고하여 재편집된 내용임을 알려드립니다. ❤️👍🙏 (❁´◡`❁)