네이버, 대형참사·인명사고 보도 악성 댓글 탐지 강화 > IT/과학기사 | it/science

[아이뉴스24 정유림 기자] 네이버는 대형 참사와 인명사고 기사에 대한 악플악성 댓글 감지 기능 강화에 나선다고 24일 밝혔다.

[사진=네이버]

네이버는 악플이 많이 붙고 있는 기사를 탐지해 언론사에 알려주는 인공지능AI 서비스인 클린봇 옵저버를 고도화해 대형 참사와 인명사고 보도의 악플 감지, 알림 기능을 강화할 예정이다. 1분기 내 개발을 목표로 한다.

인명사고와 관련한 2차 피해를 막기 위해 인명사고 기사 탐지 기술을 클린봇 옵저버에 적용해 고도화할 방침이다. 네이버에 따르면 앞서 지난해 연말 발생한 제주항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 이용했다.

네이버는 2019년 업계 최초로 AI 기반의 악플 탐지 기술인 클린봇을 선보였으며 문장 맥락을 파악해 욕설, 저속한 표현과 선정적·폭력적·차별적·비하적 표현을 탐지해 필터링하는 등 고도화를 이어가고 있다고 밝혔다. 이 클린봇을 기반으로 댓글 작성 시도 수, 악플 비율을 계산해 감지 대상 기사를 선별하고 언론사에 알리는 클린봇 옵저버 시범베타 서비스를 2023년 7월부터 시작했다.

네이버 뉴스 댓글 제공 중단 설명과 화면 예시 [사진=네이버]

네이버는 또한 언론 협·단체와 함께 상반기 중 자살 예방 보도 준칙과 같은 참사 보도 권고 기준과 악플 예방 문구를 마련해 관련 보도 시 문구를 삽입하도록 협의할 방침이다. 네이버는 2023년 9월부터 자살 예방 보도 준칙에 따라 자살 예방 배너를 삽입하고 댓글·추천 스티커 기능을 제외해 왔다. 자살 예방 문구처럼 악플 예방 문구를 기사에 삽입하면 자동으로 대형참사, 인명사고 기사로 탐지해 해당 기사 댓글이 자동으로 닫히는 방안을 논의 중인 것으로 전해졌다.

자살극단적 선택이나 인명사고 보도 외에도 향후 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토하고 있다. 가령 일정 기준 이상 공감·비공감이 빠르게 올라가는 기사의 경우 언론사에 알림을 통해 댓글 정렬 방식을 전환하도록 유도하는 등이다. 네이버 관계자는 "대형 참사를 포함한 인명사고 기사에 악플이 근절될 수 있도록 정책적·기술적 노력을 이어가겠다"고 밝혔다.

/정유림 기자2yclever@inews24.com

[관련기사]

▶ "중국인 아냐 중국인?"…尹 지지자들 외국인 임산부 폭행 의혹영상

▶ "공수처, 尹 검찰로 빨리 넘기는 게 현실적"

▶ 남현희, 징역 13년 확정 전청조에 "사과하세요" 심경 밝혀

▶ 조국, 남부교도소 이감#x22ef;윤석열과의 구치소 만남 불발

▶ 이진숙 방통위원장 탄핵소추 기각#x22ef;174일만에 복귀상보

▶ 개혁 사라진 개혁신당…한 정당 두 대표 점입가경

▶ 이재명 "검든 희든 쥐만 잘 잡으면 좋은 고양이 아닌가"[종합]

▶ 삐끼삐끼로 유명해진 KIA 치어리더, 올해는 국내에서 못 본다

▶ 악뮤 이찬혁, 1살 연상 배우 하지수와 열애설…"뮤직비디오 인연"

▶ 최민식이 30년 젊어진 비결은?...넷플릭스·디즈니도 반한 韓 음성AI [AI브리핑]

/* iframe resize for nate news */ function${ setYoutube; function setYoutube { iftypeof frmTarget !=undefined{ frmTarget.findiframe, object.eachfunction idx { $this.css{height: parseInt$this.width / 1.8}; window.parent.postMessage{ method: fnct, name: callFnct, property: {target: youtube_resize_iframe, elementClass: .frameMV, height: parseInt$this.width / 1.8, idx: idx} }, *; }; } } }jQuery;