2024년에는 인공지능이 생성한 사람의 실감나는 이미지를 만드는 것이 쉬워지면서 이러한 사기 행위가 어떻게 탐지될지 우려가 커지고 있다. 헐대학교 연구진 최근에 밝혀졌네요 인간 눈의 반사를 분석하여 인공지능이 생성한 가짜 이미지를 탐지하는 새로운 방법입니다. 이 기술은 에서 도입되었습니다. 왕립천문학회 전국천문회의 지난 주, 천문학자들이 은하를 연구하는 데 사용하는 도구는 우리 안구의 빛 반사의 일관성을 면밀히 조사하기 위해 조정되었습니다.
헐대학교 석사과정 학생인 아데구모크 오울라비(Adegumoke Owolabi) 박사의 감독 하에 연구를 주도했습니다. 케빈 핌블렛 박사천체 물리학 교수.
그들의 감지 기술은 간단한 원리에 기초합니다. 동일한 광원 세트로 조명을 받은 한 쌍의 눈은 일반적으로 각 눈에서 비슷한 모양의 빛 반사 세트를 갖습니다. 지금까지 AI로 생성된 많은 이미지는 눈 반사를 고려하지 않았기 때문에 시뮬레이션된 빛 반사가 각 눈 사이에 일관성이 없는 경우가 많습니다.
어떤 면에서는 이러한 종류의 딥페이크 감지에 천문학적 각도가 항상 필요한 것은 아닙니다. 이미지에 있는 두 눈을 잠깐 보면 반사 불일치가 드러날 수 있기 때문입니다. 예술가들은 초상화를 그린다 그러나 가짜 비디오에서 눈 반사를 자동으로 측정하고 정량화하기 위해 천문학 도구를 적용하는 것은 새로운 발전입니다.
자동 감지
왕립천문학회에서는 블로그 The Verge가 게재한 기사에서 Pimblett은 Owolabi가 안구 반사를 자동으로 감지하는 기술을 개발했으며 반사의 형태학적 특징을 지표를 통해 실행하여 오른쪽과 왼쪽 안구의 유사성을 비교했다고 설명했습니다. 그들의 연구 결과에 따르면 가짜 비디오는 종종 눈 사이에 차이가 있는 것으로 나타났습니다.
연구팀은 안구 반사를 측정하고 비교하기 위해 천문학의 방법을 적용했습니다. 그리고 그들은 사용되었습니다 지니계수일반적으로 사용되는 은하 이미지의 빛 분포 측정눈 픽셀 전반에 걸쳐 반사의 일관성을 평가합니다. 지니 값이 0에 가까울수록 빛이 고르게 분포되어 있음을 나타내고, 값이 1에 가까울수록 빛이 단일 픽셀에 집중되어 있음을 나타냅니다.
왕립천문학회(Royal Astronomical Society) 기사에서 Pimblett은 안구 반사의 모양을 측정하는 방법과 망원경 이미지에서 은하의 모양을 일반적으로 측정하는 방법을 비교했습니다. “은하의 모양을 측정하기 위해 우리는 은하가 중심에 밀집되어 있는지 분석합니다. 대칭인지, 빛의 분포가 얼마나 부드러운지를 분석합니다.
연구자들은 또한 CAS 매개변수 (초점, 비대칭, 부드러움)은 은하 빛의 분포를 측정하는 또 다른 천문학 도구입니다. 그러나 이 방법은 가짜 눈을 식별하는 데 효율성이 떨어지는 것으로 입증되었습니다.
군비경쟁 탐지
눈 반사 기술은 AI 생성 이미지를 감지할 수 있는 잠재적인 경로를 제공하지만 AI 모델이 물리적으로 정확한 눈 반사를 포함하도록 발전하여 이미지 생성 후 이후 단계로 적용될 수 있다면 이 방법은 작동하지 않을 수 있습니다. 또한 이 기술이 작동하려면 안구를 명확하고 클로즈업하여 볼 수 있어야 합니다.
이 접근 방식은 원본 이미지라도 조명 조건이나 후처리 기술의 변화로 인해 눈에 일관되지 않은 반사가 나타날 수 있으므로 오탐지가 발생할 위험도 있습니다. 그러나 눈 반사 분석은 머리카락 질감, 해부학적 구조, 피부 세부 정보 및 배경 대칭과 같은 다른 요소도 고려하는 대규모 딥페이크 탐지 툴킷에서 여전히 유용한 도구일 수 있습니다.
이 기술은 단기적으로는 유망하지만 완벽하지는 않다고 Pimblett 박사는 경고했습니다. 그는 왕립천문학회에 “오탐과 위음이 있습니다. 이 기술은 모든 것을 탐지할 수는 없습니다. 그러나 이 방법은 군비 경쟁에서 가짜 녹음을 탐지하기 위한 공격의 기초와 계획을 제공합니다”라고 말했습니다.
