본 연구는 미디어커뮤니케이션학과 이지영 교수가 네덜란드 암스테르담대학교의 Michael Hameleers 교수와 함께 수행한 국제 공동연구로, AI 기반 건강 딥페이크가 어떻게 잘못된 믿음을 강화하는지, 그리고 개인이 가진 특성에 따라 그 영향력이 어떻게 달라지는지를 실증적으로 분석한 연구다.

이 연구는 미디어·심리 분야에서 저명한 국제 학술지인 Media Psychology에 게재되었다.

연구자들은 다음과 같은 세 가지 핵심 문제를 탐구했다.

첫째, 건강 정보 관련 AI 생성 딥페이크는 텍스트 기반 허위정보보다 더욱 큰 영향을 미치는가?

둘째, 딥페이크를 접한 사람들은 정확한 정보를 확인하려는 의도를 보이는가?

셋째, 개인의 건강 이슈 관심도와 정확함을 추구하고자 하는 동기는 이러한 영향 과정에서 어떤 역할을 하는가?

특히 연구는 딥페이크가 시각적·언어적 단서를 통해 의료 전문가의 권위를 자연스럽게 모방(mimic)함으로써, 실제 전문가가 전달하는 건강 조언처럼 인식되도록 만드는 메커니즘을 탐색했다는 점에서 중요한 기여를 한다. 즉, 딥페이크는 단순히 “설득력 있는 영상”을 넘어서 전문가 권위(authority cue)를 시뮬레이션하는 기술적 장치로 작동할 수 있음을 실증적으로 보여주었다.

연구 결과, 딥페이크는 건강 관련 잘못된 인식을 가장 크게 증가시키는 허위정보 유형으로 나타났다. 딥페이크에 노출된 그룹은 텍스트 기반 허위정보에 노출된 그룹보다 훨씬 높은 수준의 잘못된 인식을 보였으며, 이는 딥페이크 영상 특유의 생생함·현실감에 더해, 전문가적 어조·표현·시각적 스타일을 모방하는 권위 재현 효과가 결합되면서 잘못된 믿음을 더욱 쉽게 형성하게 함을 시사한다.

딥페이크에 노출된 경우 정확한 정보를 확인하려는 의도 자체에는 유의한 변화가 나타나지 않았지만, 개인 특성에 따라 다른 효과가 관찰되었다. 텍스트 기반 허위정보에서는 건강 이슈에 대한 관심이 높을수록 사실 확인 의도가 뚜렷하게 증가했으나, 딥페이크 노출 상황에서는 이러한 패턴이 사라졌다. 관심이 높더라도 사실 확인 의도가 더 강해지지 않았는데, 이는 딥페이크 영상의 높은 현실감과 ‘전문가처럼 보이는’ 권위 모방 효과가 건강 이슈에 관심이 높은 개인조차 영상을 비판적으로 처리하지 못하도록 만들었음을 시사한다.

또 하나 중요한 발견은 정확함을 추구하는 동기(accuracy motivation)에 대한 결과다. 보통 정확성을 중시하는 개인일수록 허위정보를 더 비판적으로 처리할 것으로 예상되지만, 본 연구에서는 정반대의 양상이 나타났다. 정확성을 중시하는 개인일수록 딥페이크에 노출될 때 잘못된 인식이 더 크게 증가한 것이다. 이는 ‘정확하게 판단하려는 동기’가 실제로는 자신의 판단이 맞다고 믿고 싶어 하는 심리적 착각, 즉 '허구적 정확성 인식(illusory accuracy perception)'을 강화했을 가능성을 보여준다. 특히 전문가처럼 보이는 딥페이크의 권위적 단서가 이러한 심리적 메커니즘을 더욱 공고히 했다는 점에서 의미가 크다.

종합적으로, 본 연구는 AI·딥페이크 기반 멀티모달 허위정보가 인지에 미치는 영향을 실증적으로 검증하며, 기존 연구에서 거의 다루지 않았던 건강 정보 영역의 위험성을 딥페이크 맥락에서 밝혔다. 또한 딥페이크가 전문가 권위 단서를 기술적으로 재현하여 신뢰·설득 단서를 강화하는 방식을 밝혔다는 점에서, 허위정보 처리 메커니즘을 이해하는 데 중요한 이론적 기반을 제공한다. 나아가 개인의 이슈 관심도와 정확성 추구 동기가 딥페이크 처리 과정에서 어떻게 작동하는지를 규명함으로써, 허위정보 처리 과정을 통합적으로 설명할 수 있는 기반 역시 마련했다.

이 연구는 사회적 차원에서도 중요한 시사점을 제공한다. 딥페이크는 건강·의료 정보 영역에서 단순한 정보 왜곡을 넘어 실제 보건 안전을 위협할 수 있는 심각한 위험 요인으로 기능할 수 있음을 보여준다. 또한 평소 정확성을 중시하며 정보를 신중하게 처리하는 사람들조차 전문가 권위를 흉내 낸 딥페이크 영상에 취약해질 수 있다는 점을 통해, 향후 AI 리터러시 교육 강화, 디지털 위험 커뮤니케이션 전략 수립, 공공기관의 대응 체계 마련에 있어 본 연구는 핵심적인 근거로 활용될 수 있다.

※ 논문명: Effects of Health-related Deepfakes on Misperceptions: Moderating Effects of Issue Relevance and Accuracy Motivation

※ 학술지: Media Psychology

※ 저자명: Jiyoung Lee & Michael Hameleers
※ 논문링크: https://doi.org/10.1080/15213269.2024.2401539
※ 연구포털(Pure): https://pure.skku.edu/en/persons/jiyoung-lee/

(딥페이크 자극물)