AI로 자살 뉴스 댓글 닫는다던 네이버, 댓글 필터링은 복불복? > IT/과학기사 | it/science

네이버 김용호 관련 기사 갈무리.

아시아투데이 김윤희 기자 = 네이버가 인공지능AI를 이용해 자살 뉴스에는 댓글을 작성 할 수 없도록 뉴스 서비스를 개편했지만 여전히 자살뉴스엔 댓글이 달리고 있다. AI으로만 필터링을 해 댓글을 막는것은 어렵다는 전문가의 관측이다.

13일 업계에 따르면 전날 네이버에 올라온 김용호 자살 뉴스 관련 기사에는 댓글이 여전히 활성화 되어있다. 댓글 중 "진작 죽었어야 할 악의 축"등의 댓글이 달려있어 자살 분위기 조성이 우려되는 상황이다. 네이버는 지난달 26일부터 AI가 자살 관련 내용으로 인식한 기사에는 댓글과 추천 스티커를 제외한다고 밝혔다. 대신 해당 기사의 본문 하단부에 "당신은 소중한 사람입니다"라는 내용의 자살 예방 배너를 올린다. 포털의 사회적 책무를 다한다는 설명이다.

네이버의 자살 뉴스는 AI를 이용해 필터링 되고 있다. AI시스템은 먼저 댓글 데이터 세트를 학습한 후 지정된 명령어에 따라 댓글을 거르게 된다. 최병호 고려대학교 인공지능연구소 교수에 따르면 "네이버의 AI 필터기술은 어렵지 않은 기술인데 예를 들면 기사를 모아 특정 키워드, 맥락, 내용 등으로 필터링 된다"고 전했다. 이어 자살 뉴스 댓글을 막는것이 AI 필터링만으로 완벽하긴 어렵다는 입장을 전했다. 그는 "데이터를 기반으로 맥락 및 키워드를 적용해 걸러내는게 어렵다"며 "이 방식은 욕설 필터링 구조와 똑같은데 욕설도 필터링해도 빠져나가는 일이 있듯 이것도 필터링 기술에 따라 다르다"고 설명했다. 이어 "키워드라면 모든 키워드를 다 정리해서 특정 이름에 대해 걸러지게 해야는데 정리 과정에서 빠질수도 있다"고 말했다. 그러면서 "네이버이용자들도 AI가 필터링 한다는 것을 알기 때문에 필터링 되지 않는 초성이나 다른 방식으로 작성 할수도 있어 모니터링을 하며 접근해야 완전히 걸러낼 수 있다"고 덧붙였다.

지난달 26일 네이버가 뉴스 서비스를 개편을 밝혔다./제공=네이버

한편 지난달 15일 네이버는 보건복지부와 자살예방과 생명존중문화 조성을 위한 업무협약MOU를 체결했다. 네이버는 장기적으로 자살 예방에 AI를 활용하는 방법을 모색할 것이라고 설명했다. 이날 채선주 네이버 대외·ESG 정책 대표는 "생명문화존중이라는 엄중하게 다가오는 본질적 가치의 실현을 위한 정부의 파트너가 된 것에 큰 책임감을 느낀다"라며 "오늘의 플랫폼 기업 네이버를 있게 해주신 이용자들의 사랑에 보답하는 마음으로 네이버의 다양한 서비스와 기술력을 활용해 일회성에 그치지 않고 이용자의 삶에 실질적 도움을 드릴 수 있도록 노력 하겠다"고 말한 바 있다.

이상근 서강대학교 교수는 "현재 네이버가 사회적 책무를 다하고 있다고 보기 어렵다"며 "2018년부터 댓글 막는다는 얘기가 계속 이어졌는데 여전히 그대로다"라고 설명했다. 이어 "기술로 댓글 필터링이 잘 안되면 모든 댓글을 막으면 되는데 현재 댓글이
미끼역할을 해주니까 옛날에 하던 방식을 고수하는 것"이라며 "네이버가이 방식이 비용대비 효과가 좋으니까 없애기 싫은것"이라고 설명했다. 그러면서 "사회적 책무도 잘 지켜지지 않고 있다"라고 입장을 전했다.

ⓒ "젊은 파워, 모바일 넘버원 아시아투데이"

▶
▶ 이스라엘 지상전 임박…"가자주민 24시간내 남쪽 이동"
▶ 강서구청장 선거 17%p 差…여당의 패배, 쇄신 계기될까
▶ 野 진교훈 강서구청장 당선…與 김태우 패배 인정
▶ 尹 "이-팔 사태, 낙관은 금물…민생·안보 대비에 만전"
김윤희 yhjg8281115@naver.com