온라인 혐오 표현 피드백의 역설: 부정적 반응에도 혐오 표현은 줄지 않는다

- 2,500만 건 뉴스 댓글 분석으로 확인한 온라인 혐오 확산 메커니즘

- AI 기술 활용해 한국 사회 문제를 세계적 담론으로 이끈 연구

▲ (왼쪽부터) 테크놀로지와민주주의 연구소 유효선 선임연구원, 소장 이재국 교수

미디어커뮤니케이션학과 이재국 교수 연구팀이 온라인 공간에서 혐오 표현이 어떻게 퍼지는지에 대한 흥미로운 결과를 발표했다. 테크놀로지와민주주의연구소 소장이기도 한 이재국 교수와 유효선 선임연구원은 네이버 뉴스 댓글 2,500만 건을 수집해 인공지능(AI)을 활용한 분석을 진행했다. 그 결과, 혐오 표현을 담은 댓글 작성자는 사람들로부터 부정적인 반응을 많이 받은 댓글이 오히려 혐오 표현 경우, 이후 혐오 댓글을 더욱 많이 올리는 경향이 있다는 사실을 밝혀냈다. 이번 연구는 언론학 분야 세계적인 학술지 Journalism & Mass Communication Quarterly에 게재되었다.

연구진은 지난 2022년 대통령 선거 운동 기간 중 뉴스 기사에 달린 수많은 댓글을 분석했다. 일반적인 댓글은 사람들이 긍정적으로 평가할 때 더 많이 늘어났고, 부정적인 평가를 받을 때는 줄어드는 경향을 보였다. 하지만 혐오 표현이 담긴 댓글은 달랐다. 사람들의 부정적인 반응, 즉 ‘싫어요’나 비판이 많아져도 줄어들지 않고 오히려 더 많아지는 현상이 나타났다. 연구팀은 이를 “혐오 표현의 목적이 상대에 대한 분노 표현이나 공격이기 때문에, 반응이 나빠도 위축되지 않고 오히려 더 자극을 받는 것”이라고 설명했다.

▲ 네이버뉴스 댓글 작성자의 분포를 전체 댓글(그림1)과 혐오표현 댓글(그림2)의 수에 따라 표현한 것

이처럼 혐오 표현은 단순히 지적하거나 반대하는 것만으로는 줄지 않기 때문에, 더 효과적인 대응 전략이 필요하다는 게 이번 연구의 시사점이다. 연구팀은 웹크롤링 기술을 활용해 대통령 후보 4명과 관련된 기사 약 33만 건을 수집하고, 거기에 달린 모든 댓글을 분석에 사용했다. 또 댓글 속 혐오 표현을 자동으로 찾아내기 위해 자체 개발한 인공지능 모델 ‘KPHC(Korean Hate Speech Detection)’를 활용했다. 이 모델은 한국어로 된 문장에서 혐오 표현 여부를 판단할 수 있으며, 관련 기술은 앞서 Language Resources and Evaluation 학술지에 소개된 바 있다.

이번 연구는 한국 사회의 특수한 정치·사회 환경을 바탕으로 진행되었지만, 혐오 표현이 퍼지는 방식에 대한 분석이 보편적인 문제 해결에 도움이 될 수 있어 국제적으로도 큰 주목을 받고 있다. 이재국 교수는 “혐오 표현에 대한 단순한 처벌이나 반대만으로는 문제 해결이 어렵다”며 “정확한 데이터 분석을 통해 더 근본적인 해결책을 찾아야 한다”고 강조했다.

※ 학술지: Journalism & Mass Communication Quarterly

※ 논문명: Negative feedback fuels hate speech: A deep learning analysis of 25 million news comments

※ 논문링크: https://journals.sagepub.com/doi/10.1177/10776990251343076