이미 보안 머리 위에 앉았다…AI 적극 활용하는 해커 막는 방법은?[SS... > 경제기사 | economics

이석호 EQST Lab 팀장이 2일 ‘2024 EQST 미디어데이’에서 AI 패러다임 전환과 보안 전략에 대해 설명하고 있다. 사진 | 표권향 기자

[스포츠서울 | 표권향 기자] 올 상반기 전 세계적으로 VPN, 라우터 등 네트워크 장비 취약점을 노린 해킹 사례가 두 자릿수를 기록했다. 특히 금융업을 노린 사이버 공격이 가장 많았으며, 교묘한 수법으로 범죄에 악용한 건도 다수 발생했다.

지난 1월부터 VPN·라우터·스크린커넥트 취약점으로 인한 △1700개 이상 기기 감염 △크로스체인 플랫폼 해킹으로 인한 1123억 원 이상의 가상자산 도난 △신종 인포스틸러 토틀러샤크ToddlerShark 유포 △XZ Utils 라이브러리에서 백도어Backdoor 악성코드 발견 △온라인 쇼핑몰 7089건 신용카드 정보 탈취 △피싱 메일 및 SNS 악용한 악성코드 공격 등이 있었다.


SK쉴더스는 2일 서울 중구 포럼타워에서 열린 ‘2024 EQST 미디어데이’를 통해 올 상반기 주요 보안 트렌드의 심각성을 강조하며, AI LLM 보안 대응전략을 제시했다.


SK쉴더스에 따르면 전 세계적으로 비트코인 ETF 승인 및 반감기와 같은 호재로 인해 가치가 상승한 가상자산을 노린 해킹이 지속됐다. 국내에서는 제조 및 방산 업체의 기술 탈취 목적의 북한 공격 움직임도 계속 포착된다. 국외에서는 러시아-우크라이나, 이스라엘-하마스 전쟁 등 국제 분쟁으로 인한 정부와 행정기관을 대상으로 한 공격이 증가했다.

해커들의 수법은 보안 시스템의 방어를 △LotL 기법 활용 △사회공학 기반의 오픈소스 공급망 공격 등의 방식으로 보안망을 뚫었다.

공격자들은 악성코드 사용 최소화하면서도 보안장비 탐지 회피를 위해 서버 내 설치된 정상 프로그램을 악의적으로 활용하는 LotL 기법을 구사하고 있다.

기존에도 사용된 공격 기법이지만, 최근 미국 기반 시설을 대상으로 볼트 타이푼Volt Typhoon의 공격과 국내 제조업체은 북한 해킹 그룹에 의해 피해를 입었다.

오픈소스를 타깃으로 한 공급망 공격은 단순하지만, 정상 패키지 이름을 유사한 명칭으로 악성 패키지를 유도하는 타이포스쿼팅 형태가 꾸준히 발생하고 있는 것으로 나타났다.

최근 원격 지원 솔루션에 침투한 랜섬웨어 공격이 증가하고 있는 가운데, 스크린커넥트 취약점을 악용한 북한 배후 조직의 공격 및 외화벌이를 위한 해킹도 이어지고 있다. 이는 백도어 악성코드 대신 RMM 도구를 사용하는 등 다양한 공격 전략이 투입된 것으로 확인했다.


2022년 대비 2023년 생성형 AI의 투자가 약 12배 증가했다. 현재 사용 중인 기업·기관은 56%였으며, 특히 LLM 비중이 절반 이상62%인 것으로 조사됐다. 3년 이후 도입 계획을 밝힌 곳은 60%였다.

LLM이 다양하게 사용되는 만큼 △학습 데이터 정제 미흡 △과도한 의존 △AI 오픈소스 취약점 △프롬프트 인젝션 △AI 악용 등에 대한 AI 사고 사례도 늘었다.

민감한 정보에 대한 필터링이 미흡하다는 점을 악용해 개인정보를 획득하거나 일부러 LLM에 과부하를 일으켜 정상적인 답변을 하지 못하게 하는 등 수법은 다양하다.

이를 방지하기 위해 각국에서 법안 제정에 집중하고 있다. 최근 EU에서는 AI 법안AI Act을 승인해 시행 예정이다. 한국은 개인정보에 대한 ‘AI 기본법’만 올랐으나, 국회 임기 만료로 이마저도 폐기됐다.

이호석 EQST Lab 팀장은 “AI 서비스를 안전하게 구축하기 위해 프롬프트 입출력에 대한 보안을 적용하고, AI 모델 학습 시 데이터를 신뢰할 수 있도록 정제해 사용하는 것이 중요하다”라고 강조했다.

이를 위해 SK쉴더스에서 제안한 ‘AI 보안 체크리스트’인 △모델 개발자모델 가드레일·학습 데이터 검증 △서비스 개발자출력 검증·권한 제한·인젝션 방어·외부 자원 사용 주의·보안 인프라 구축 △서비스 사용자한계 인식·민감 정보 입력 자제는 AI 서비스에 잠재적 취약점의 존재 인지하고 안전하게 개발 및 활용해야 한다는 것.

이 팀장은 “SK쉴더스에서는 최신 위협에 대응하는 기술력과 노하우를 바탕으로 기업·기관별 맞춤으로 최적화된 AI 모의 해킹 컨설팅 서비스와 AI 연계 보안 서비스를 제공할 예정”이라고 전했다.

gioia@sportsseoul.com

[기사제보 news@sportsseoul.com]
Copyright ⓒ 스포츠서울amp; sportsseoul.com

[ 인기기사 ]
▶ 김재중, 무당 된다...신의 부름 받았지만 운명에 순응
▶ 김민재, 이효리 똑 닮은 아내 공개..."김태리 느낌도"
▶ 홍진영 친언니 홍선영, 몰라보게 달라진 모습...헤어스타일은 여전
▶ 박성광, 900억 투자사기범 이희진 결혼식 사회 불똥..."일면식도 없던 사이"
▶ 체중 얼마나 뺐길래...얼굴 반쪽 된 윤은혜
▶ 음주운전으로 다 잃은 김새론, 2년만 전해진 근황
▶ 19세 연하♥#xfe0e; 양준혁, 놀라운 근황 공개
▶ 티켓 다 팔렸는데 올스타전 취소? 주말 내내 비 예보
▶ 47kg인데 단식까지...최준희, 걱정 부르는 국토대장정 계획
▶ 시청 앞 역주행 사고에 커피차 취소 이제훈vs말실수 이주미 변호사