셀렉트스타, 글로벌 AI 레드팀 챌린지 성료 > IT/과학기사 | it/science

셀렉트스타는 지난 5일현지 시각 스페인 바르셀로나 피라 그란 비아 전시장에서 열린 ‘MWC모바일 월드 콩그레스25’에서 ‘글로벌 AI 레드팀 챌린지’를 성료했다고 10일 밝혔다.

이번 대회는 AI 모델의 보안과 안정성을 강조하고, 생성형 AI 서비스 신뢰성 검증의 필요성을 글로벌 시장에 알리고자 마련됐다. 참가자들은 셀렉트스타가 구축한 레드팀 플랫폼에 연결된 LLM대규모언어모델을 대상으로 프롬프트 공격을 수행해 유해하거나 차별적 결과, 시스템 오용 등을 찾아내고 검증했다.

셀렉트스타는 GSMA세계이동통신사업자연합회와 레드팀 챌린지 공동 주최사로 참여해 레드팀 플랫폼 운영, 문제 출제 및 응답 검수 등 핵심 역할을 수행했다. 이번 대회에는 총 335명이 사전 신청했으며, 현장에서는 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양한 국적의 100여 명의 참가자들이 AI 모델을 대상으로 다양한 공격 기법을 시도하며 실력을 겨뤘다.


특히 이번 레드팀 챌린지에는 LG유플러스의 엑사원을 기반으로 한 소형 언어모델 익시젠, 아랍에미리트의 TelecomGPT, 말레이시아의 AIngineer 등 여러 국가의 LLM이 출제 모델로 활용돼 눈길을 끌었다. 대회 최종 우승자는 생성형 AI의 오류를 가장 많이 찾아낸 싱가포르의 투자 전문가 투 무젠 토미시가 차지해 주목을 받았다. 셀렉트스타는 이번 행사를 계기로 GSMA, 후원사 eamp;와 내년 MWC에서 더 큰 규모의 레드팀 챌린지를 진행하기로 합의했다.

셀렉트스타는 레드팀 챌린지 추최를 비롯해, 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸DATUMO Eval’을 최초 공개하며 좋은 반응을 얻었다. 해당 솔루션은 생성형 AI 서비스의 신뢰도를 자동으로 분석·검증할 수 있어, 참관객들은 물론 글로벌 기업들로부터 높은 관심을 끌었다. 실제 솔루션 문의가 잇따르며 해외 시장 가능성을 확인했다는 후문이다.

황민영 셀렉트스타 부대표는 “’MWC25’에서 최초의 글로벌 레드팀 챌린지 개최를 비롯해 ‘다투모 이밸’ 솔루션을 해외 시장에 처음으로 선보이며 AI 모델의 신뢰성 검증이 업계 전반에서 중요한 과제가 되고 있음을 다시금 실감했다”며 “당사의 기술 우수성과 시장 경쟁력이 입증됐으니 지속적으로 솔루션 고도화에 힘쓰며 글로벌 시장 확장에 박차를 가할 것”이라고 밝혔다.

[ 조선비즈 바로가기]

- Copyrights ⓒ 조선비즈 amp; ChosunBiz.com, 무단 전재 및 재배포 금지 -
김민국 기자 mansay@chosunbiz.com