LLM 기반 애플리케이션은 금융, 제조, 헬스케어 등 다양한 산업에서 사용되고 있다. 대표적으로 오픈 AI ‘챗GPT’와 구글 ‘제미나이’ 등이다.
다만 이 애플리케이션들은 데이터 및 사용자 입력 처리 방식의 독특한 특성으로 인해 기존 IT시스템과 다른 보안 위협에 취약하다는 게 회사 측 설명이다.
SK쉴더스는 올해 주요 보안 위협 중 하나로 AI 기반 해킹 증가를 꼽았다. 특히 소규모 언어 모델(sLLM)을 겨냥한 해킹과 LLM의 구조적 취약점을 악용한 데이터 조작 및 유출 공격이 심화될 것으로 내다봤다.
이번 발간된 가이드는 ‘OWASP Top 10 for LLM Applications 2025’의 주요 항목을 모두 포함하며, ▲LLM 통합 ▲에이전트 ▲모델의 세 가지 핵심 영역 보안 이슈를 다루고 있다.
보고서에 따르면 대표적인 보안 위협으로 ‘프롬프트 인젝션’과 ‘API 매개 변수 변조’, ‘RAG(검색증강생성) 데이터 오염’ 등이 있다.
프롬프트 인젝션은 사용자의 입력 값을 악의적으로 조작해 악의적인 응답 생성, 민감한 정보 유출 등 의도하지 않은 출력 값을 유도한다.
API 매개 변수 변조는 시스템 간 통신에 사용되는 API 요청 값을 변경해 시스템 권한을 초과하는 동작을 실행시킨다. 악성 이메일 전송, 데이터 유출, 시스템 장악과 같은 심각한 문제를 야기한다.
RAG 데이터 오염은 외부 데이터를 악의적으로 조작해 검색된 정보의 신뢰도를 떨어뜨리는 방식이다. 이외 위험도가 높은 항목으로 서드파티 소프트웨어 사용과 보호된 영역 안에서만 프로그램이 작동 가능한 샌드박스 미적용이 꼽혔다.
이번 가이드에서는 이러한 보안 위협을 예방하기 위해 사용자와 시스템 명령어(프롬프트)를 분리하고, 데이터 흐름 점검 및 데이터 검증 절차를 강화해야 한다고 강조했다.
또 LLM의 코드 실행 유무에 따라 샌드박스를 활용해 악성코드 실행을 방지하고, RAG 활용 시 권한 없는 데이터 접근을 차단하기 위해 그룹별 권한 관리 체계를 구축할 것을 권고했다. 특히 다층 보안 체계를 도입해 데이터 오염 및 권한 상승 공격을 방지해야 한다고 덧붙였다.
김병무 SK쉴더스 사이버보안부문장은 “AI 기술은 편리함을 제공하지만 기술적 불안정으로 인해 보안 취약점이 악용될 경우 심각한 해킹 사고가 발생할 수 있다. 이번 가이드는 기업과 기관이 직면할 수 있는 AI 보안 문제를 사전에 예방함과 동시에, 신뢰할 수 있는 AI 시스템을 구축하는 데 실질적 도움을 줄 것으로 기대된다”고 말했다.
[소비자가만드는신문=정현철 기자]
