"이게 뭐야?"…논문에 들어간 AI이미지에 과학계 깜놀 > IT/과학기사 | it/science

지난 15일현지 시각 과학 학술지에 게재된 논문에 포함된 ‘괴상한’ 그림으로 과학계가 술렁이고 있다. 생성형 인공지능AI으로 만든 이미지가 논문에 포함됐는데, 그림은 물론 이를 설명하는 문장이 모두 잘못된 것으로 나타났다. 과학기술계에서 이를 제대로 걸러내지 못한 학술지에 대한 비난이 거세지고 있다.

15일 외신 등을 종합하면 중국 시안 홍휘 병원 연구자들이 학술지 ‘프런티어 인 셀 앤드 디벨롭먼트 바이올로지’에 게재한 논문에서 이상한 그림이 발견됐다. 기이할 정도로 큰 생식기를 가진 쥐의 모습인데, 그림에 대한 설명도 엉망이었다.

비판이 제기되자 학술지 측은 조사를 시작했다. 현재 해당 논문을 검색하면 “조사가 진행 중이다. 조사가 끝나면 공지사항을 통해 업데이트하겠다”는 안내 문구를 볼 수 있다.

문제가 된 논문은 ‘정자 줄기세포의 세포 기능 : JAK/STAT 신호 전달 경로와 관련된 정자 줄기세포의 기능Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway’ 이라는 제목의 논문으로 정원세포남성 생식 세포를 만드는 줄기세포의 신호 전달 경로와 관련된 그동안의 연구 결과를 분석한 ‘리뷰 논문’이다.

이 논문에 실린 첫 번째 그림은 이상할 정도로 괴이하다. 쥐의 커다란 생식기를 해부한 모습을 보여주고 있는데 문제는 이를 설명하는 철자 역시 오류투성이다. 예를 들어 줄기세포는 ‘Stem cell’인데 ‘Stemm cell’ 이라고 쓰여있을 뿐 아니라 의미를 알 수 없는 ‘dck’라는 글자가 그림을 설명하고 있다. 해당 논문에는 이 그림이 ‘미드저니’를 이용해 만들었다고 표시돼 있다. 미드저니는 사용자가 입력하는 명령어를 기반으로 이미지를 생성하는 AI 프로그램이다.

과학기술계에서는 피어리뷰동료평가를 거쳐야만 출판되는 논문에 오류 투성인 이미지가 포함된 만큼 믿을 수 없다는 반응이다. 미국의 IT 전문매체 기즈도모가 해당 논문의 저자인 중국 과학자들에게 연락을 했지만 답변은 없었다고 밝혔다.

과학 논문에서 이미지 조작 등을 걸러내는 전문가로 꼽히는 엘리사베스 비크 박사는 자신의 블로그에 “이번 사건은 생성형AI가 학계에 스며든 최신 사례”라며 “과학자, 학술지, 편집자, 피어리뷰 과학자 모두에게 우려스러운 일”이라고 적었다. 이어 “이 그림은 분명히 과학적으로 올바르지 않지만 이렇게 엉망진창인 그림이 동료평가를 통과할 수 있다면 더 사실적으로 보이는 AI 생성 그림이 이미 과학 문헌에 침투했을 가능성이 크다”라며 “생성형 AI는 과학 논문의 질, 신뢰성, 가치에 심각한 피해를 줄 것”으로 우려했다.

▶ “이강인 국가대표 자격 영구 박탈해달라”…대한체육회 징계 민원 접수

▶ 사과·배·귤 대신 ‘이것’ 먹는다…수입과일 대세가 된 이유

▶ “요즘 노인들 역사상 가장 돈 많아”…없어서 못 들어간다는 ‘이곳’ 어디 [매부리레터]

▶ 10대 소녀팬 몰고 다녔던 ‘고교야구 전설’…우석대 총장 됐다

▶ [속보] 대한축구협회, 클린스만 대표팀 감독에게 경질 통보

[ⓒ 매일경제 amp; mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]