AI 보안 필요성

최근 AI가 확산하면서 AI 시스템의 보안 문제도 증가하고 있습니다. AI는 학습 데이터·모델·파라미터 등 구성 요소가 복잡해 데이터 오염, 모델 변조, 공급망 공격에 취약합니다. 보안이 확보되지 않으면 잘못된 판단이나 예측으로 안전·신뢰성·법적 책임 문제가 발생하므로 AI 보안 적용이 필수 입니다.

AI 주요 보안 위협

1. 데이터 포이즈닝(Data Poisoning)

AI 모델의 학습 단계에서 해커가 악의적인 데이터를 삽입하여 AI 모델의 잘못된 학습을 하도록 유도하는 공격입니다.

2. 프롬프트 인젝션(Prompt Injection)

사용자의 입력과 시스템 지시문이 같은 채널에서 처리되는 구조적 특성을 이용하여 악의적인 프롬프트를 입력, 모델이 원래 설정된 규칙·정책·제한을 무시하고 공격자가 의도한 행동을 수행하도록 조작하는 공격입니다.

• Direct Prompt Injection: LLM에 악의적인 명령을 포함한 프롬프트를 주입하여, 시스템 지침을 무시하고 비밀 정보를 유출하게 만드는 방식입니다.

• Indirect Prompt Injection: 웹사이트·이메일·외부 데이터 등 ‘보이지 않는 통로’를 활용해 악성 코드가 포함된 문서를 제출하여, AI 추론 과정을 교란시키는 방식입니다.

3. 모델 인버전(Model Inversion)

AI 모델의 출력값(결과물)을 반복 분석하여 훈련 데이터나 내부 가중치 등 민감한 학습 데이터/정보를 역으로 추론하여 복원하는 공격입니다. 모델이 내놓는 답변의 확률 분포를 분석해 특정 개인의 얼굴 이미지나 의료 기록 등을 복원해낼 수 있습니다.

AI 사이버보안 컨설팅 서비스

© VWAY All rights reserved