"AI가 인간 조종자 살해? 그렇게 무책임한 프로그램 없어" > IT/과학기사 | it/science

해당 프로젝트 참여한 한국 전문가, 한국국방기술학회 웨비나서 주장

서울=연합뉴스 박수윤 기자 = 최근 인공지능AI이 적용된 무인기가 가상훈련에서 인간 조종자를 임무 수행 방해물로 판단해 살해했다는 보도가 나와 큰 이슈가 됐다가 이후 사실이 아닌 것으로 드러난 적이 있다.

미 공군의 AI 시험·운영 책임자인 터커 해밀턴 대령이 영국 왕립항공학회RAeS가 지난 5월 말 개최한 학술회의에서 발표했다는 악당 AI 드론 시뮬레이션 시험 관련 내용이 보도됐는데, 터커 대령이 이후 발표 내용을 철회한 것이다.

그는 해당 시험이 실제 시뮬레이션 훈련이 아니라 가설에 근거해 진행된 사고실험thought experiment으로 군 외부에서 이뤄졌다고 해명했지만, AI가 언젠가 영화 터미네이터에 나오는 사악한 기계 스카이넷처럼 인간을 공격할 수 있는 것 아니냐는 대중의 우려를 확인한 계기가 됐다.

해당 프로젝트에 참가했다는 류봉균 에피시스사이언스 대표는 14일 한국국방기술과학학회·한국IT서비스학회·AI미래포럼이 공동주최한 국방 AI 특별 웨비나에서 "절대로 이런 실험이 일어나지 않았고, 이렇게 무책임하게 AI를 디자인하는 프로그램은 최소한 제가 알기로는 없다"고 말했다.

그러면서 "해밀턴 대령이 윤리적 AI를 강조하다 과장되게 포장한 것 같다"면서 최초 보도가 "오해의 산물"이었다고 덧붙였다.

이기헌 연세대 교수는 웨비나에서 "인공지능 자체의 문제보다는 저희가 인공지능을 잘 이해하지 못하는 데서 생긴 간극이 오해와 오보를 부른다"며 "게다가 국방AI라는 민감한 주제와 관련해선 오해가 더욱 반복되는 것 같다"고 진단했다.

이 교수는 "신흥 기술이 두려운 것, 터미네이터 같은 것으로 프레임이 짜지면 기술 발전에 좋지 않고 그로 인한 부작용이 너무 많다"고 지적했다.

이 교수는 또 국방AI 구축을 위해서는 양질의 데이터 확보가 선행돼야 한다고 제언했다.

군이 AI를 기반으로 의사결정을 내릴 땐 신뢰할 수 있는 정보여야 하는데, 챗GPT 등으로 대표되는 초거대언어모델LLM에는 거짓 정보도 많이 섞여 있다는 것이다.

이기헌 교수는 "목적성 없이 데이터를 모은다면 데이터 컬렉션이 아니라 호딩Hoarding·무책임한 수집이 될 수 있다"고 꼬집었다.

clap@yna.co.kr

끝

[이 시각 많이 본 기사]

☞ 프랑스 입양한인 "사랑 가득한 가정서 지냈지만 뿌리 궁금해요"

☞ 80세 남성 인체조직기증으로 100여 명에게 희망 주고 세상 떠나

☞ [삶] "선생님, 독극물 담배 팔아 나라예산에 쓴 시절 있었다면서요?"

☞ "작년 7월 추첨 로또 1등 당첨금 30억원 찾아가세요"

☞ 성범죄 재판 서준원 전 프로야구선수 "미성년자인 줄 알았다"

☞ 전처와 그의 가족 등 2명 살해한 50대, 징역 45년→무기징역

☞ 조카 속여 상속포기 각서 받은 외삼촌…집행유예

☞ "이 사람이 고양이 학대범" 글 올린 40대 벌금형

☞ 美 배우 트리트 윌리엄스, 오토바이 사고로 사망…향년 71세

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
<저작권자c 연합뉴스, 무단 전재-재배포 금지> 저작권자c>