네이버, AI로 악플 감지 강화…대형참사 보도 악플 거른다 > IT/과학기사 | it/science

대형 참사 후 고인과 유가족을 향한 악성 댓글을 두고 문제 제기가 계속되는 가운데, 네이버가 인공지능AI을 활용해 악성 댓글 감지 기능을 강화하기로 했다.

네이버는 24일 블로그 공지를 통해 “1분기 내 인명 사고 보도에서의 악성 댓글 감지 AI 기술을 ‘클린봇 옵저버’에 적용해 고도화 할 예정”이라고 밝혔다. 2023년 베타 서비스를 시작한 클린봇 옵저버는 악성 댓글 작성 시도 비율을 계산해 감지 대상 기사를 자동으로 선별하고, 해당 기사를 언론사에 알려주는 서비스다. 알림을 받은 언론사들은 빠르게 댓글 제공 중단의 필요성을 파악하고 중단을 결정할 수 있다. 악성 댓글을 쓰는 공간 자체를 차단해 2차 피해를 막는다는 취지다. 네이버에 따르면 지난해 연말 발생한 무안 제주항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 이용했다.


클린봇 옵저버는 2019년 네이버가 선보인 솔루션 ‘클린봇’에 기반을 두고 있다. 클린봇은 문장 맥락을 파악해 욕설이나 저속한 표현 뿐 아니라 선정적·폭력적·차별적 표현을 스스로 탐지해 걸러낼 수 있다.

네이버는 언론 단체와 함께 참사 보도 권고 기준을 마련하고, 악성 댓글 예방 문구를 만들어 기사에 해당 문구를 삽입하면 자동으로 댓글 제공 중단 등의 조치를 취하는 방식도 논의 중이다. 예를 들어 언론사에서 특정 예방 문구를 기사 내에 삽입하면 AI가 대형 참사, 인명 사고 기사로 탐지해 해당 기사 댓글이 자동으로 닫히는 식이다.

향후 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 강화한다. 공감, 비공감이 기준치를 넘어 빠르게 올라가는 기사는 언론사에 알려 댓글 정렬 방식을 전환하도록 유도하는 방식이다.

권유진 기자 kwen.yujin@joongang.co.kr

이 시각 많이 본 뉴스

▶ 술 약했던 전두환…"노태우가 뒤처리 다 해줘"
▶ 홍상수·김민희 또 일냈다…임신 이어 놀라운 소식
▶ 20년 IT맨 갈아탔다…3억 버는 나무 의사 정체
▶ 하루 7잔 마시던 커피 끊자…60세 백지연 깜짝 변화
▶ 유영재 구속…"일주일 기간 주겠다" 선우은숙 뭔일
▶ 1억씩 출산지원 쏜 갓부영…"이런게 어른이 할 일"
▶ 오드리 헵번 드레스 입은 이방카…싸늘한 반응, 왜
▶ 이재명 앞지른 김문수 지지율, 국힘도 민주도 "생큐"
▶ 24억 아파트가 15억 추락? 정부가 들여다본다
▶ "행운 나누자"…로또 당첨금 주고 떠난 익명 기부자

▶ 중앙일보 / 페이스북 친구추가
▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보https://www.joongang.co.kr, 무단 전재 및 재배포 금지
권유진 kwen.yujin@joongang.co.kr