기타[VisualPro Tech Brief] 이제는 사내 LLM이 필요한 이유
01요약
02"학습에 안 쓴다"와 "밖으로 나가지 않는다"는 다른 질문입니다
보안 담당자가 외부 LLM 계약서에서 가장 먼저 확인하는 항목은 보통 학습 재사용 금지입니다. 이 조항은 중요하지만 보안 과제 규정이 묻는 질문은 하나 더 있습니다. 데이터가 처리되는 순간 그 데이터는 어디에 있는가입니다.
국정원 가이드라인 4.2절은 기관 내부 업무에 AI 모델을 쓰는 경우를 이렇게 적습니다.
- "AI 모델을 적용·활용하기 위한 내부 업무 시스템은 인터넷 등 외부망과 분리된 상태로 운영되어야 한다."
- 기관이 자체 구축하는 경우 "AI 모델 학습에 이용되는 기관 데이터 및 사용자 질의문·생성물 등 개발·운용 시 발생하는 데이터는 기관 외부로 직접적으로 이동할 수 없다." 단, 보안성이 담보된 안전한 망연계시스템 활용 등 망분리 보안대책을 지키는 경우에는 예외가 있습니다.
- 클라우드를 쓰는 내부 행정 업무에도 "인터넷을 기반으로 서비스되는 관련 기술은 사용될 수 없"다고 씁니다.
- 부록의 이용자 보안수칙 첫 줄은 "민감한 정보(非공개 정보, 개인정보 등) 입력 금지"입니다.
이 지침은 국가·공공기관을 위한 것이지만 기업이 수행하는 보안 과제도 발주기관의 보안 규정을 따르므로 같은 질문을 받게 됩니다.
학습 재사용 금지는 "처리한 뒤 무엇을 하느냐"에 대한 약속입니다. 규정이 막는 것은 "처리하려고 밖으로 보내는 것" 자체입니다. 계약 조건이 아무리 좋아도 두 번째 질문에는 답하지 못합니다.
| 외부 LLM 이용 형태 | 계약·설정으로 풀리는 것 | 풀리지 않는 것 |
|---|---|---|
| 일반 대화형 서비스 | 대화 기록·학습 기능 끄기 | 데이터가 외부 서버로 전송됨 |
| 기업용 프라이빗 계약 | 학습 재사용 금지, 보관 기간·삭제, 접근 통제 | 질의와 문서가 기관 밖에서 처리됨 |
| 전용 클라우드 영역·국내 리전 | 처리 위치(국가)·격리 수준 | 인터넷 기반 서비스이고 기관망 밖임 |
| 사내 LLM(기관 내부망에서 직접 운영) | 처리 위치가 기관 안 | 모델·서버·운영을 기관이 책임져야 함 |
정리하면, 프라이빗 계약은 외부 서비스의 위험을 줄이는 수단이고 사내 LLM은 데이터가 기관을 떠나지 않게 하는 수단입니다. 보안 과제의 규정이 요구하는 것은 대체로 후자입니다.
03N²SF가 열어 준 것과 열어 주지 않은 것
2025년 9월 국정원이 정식판을 공개한 국가 망 보안체계(N²SF)는 물리적 망분리 일변도에서 벗어나 AI·클라우드를 쓸 수 있게 하려는 체계입니다. 업무 정보를 기밀(C)·민감(S)·공개(O)로 나누고 등급별로 다른 보안통제를 적용합니다.
생성형 AI에 대해서는 문이 열린 쪽과 닫힌 쪽이 분명합니다. 정식판은 생성형 AI를 정보서비스 모델의 하나로 다루며, 2026년 10월 공개된 도입 지원사업 적용 사례 설명에 따르면 민감(S) 등급 업무망에서도 기관이 승인한 공개(O) 등급 생성형 AI 서비스에는 접속할 수 있습니다. 하지만 보낼 수 있는 파일은 O 등급으로 제한되고 C와 S 등급 파일은 차단됩니다.
즉 N²SF 이후에도 공개 정보로 하는 일은 외부 AI로, 기밀·민감 정보로 하는 일은 기관 안에서라는 구분은 그대로입니다. 보안 과제를 수행하는 기업에서 AI의 도움이 가장 필요한 업무는 대개 뒤쪽입니다.
- 과제 요구사항서, 설계 문서, 시험 절차서 검토와 요약
- 과거 과제 문서에서 비슷한 사례·결함 찾기
- 형상·변경 이력과 설계 근거 질의
- 내부 코드 검토와 문서화
04방산 현장은 더 보수적으로 움직이고 있습니다
공공기관 규정만의 이야기가 아닙니다. 2026년 1월 보도에 따르면, 방위사업청은 방산기업에 생성형 AI를 이용한 해킹 공격 주의 공문을 보내면서 업무용 컴퓨터에서 생성형 AI 사용을 차단하고 불가피하게 쓰는 경우 민감한 정보를 입력하지 말라고 주문했습니다(보도 내용 기준이며 공문 원문은 공개되지 않았습니다).
여기에 과제마다 발주기관과 맺는 보안 서약, 보안 측정, 과제별 보안 등급이 겹칩니다. 실무자 입장에서는 "이 문서를 외부 AI에 넣어도 되는가"를 그때그때 판단하기 어렵고 결국 아예 쓰지 않는 쪽으로 정리되기 쉽습니다. 보안을 지키면서 AI의 도움도 받으려면, 기밀·민감 업무용 AI를 기관 안에 두는 것이 현실적인 방법입니다.
05사내 LLM은 어디서부터 준비해야 하나
사내 LLM 구축은 GPU 서버를 사는 일에서 시작하지 않습니다. 순서는 데이터와 업무가 먼저입니다.
01데이터 등급부터 나눕니다.
02AI에 맡길 업무를 좁힙니다.
03모델과 라이선스를 고릅니다.
04문서 검색(RAG)과 권한을 붙입니다.
05같은 기준으로 검증합니다.
06운영과 보안성 검토를 준비합니다.
06내일 확인할 것
| 누가 | 확인할 것 |
|---|---|
| 보안 담당 | 우리 과제 문서 가운데 외부 AI에 넣을 수 없는 범위는 어디까지인가? 그 기준이 문서로 정리돼 있는가? |
| 보안 담당 | 현재 쓰는 외부 AI 계약이 "학습 재사용 금지" 외에 "처리 위치"에 대해 무엇을 보장하는가? |
| 사업·엔지니어링 리더 | AI가 가장 많은 시간을 줄여 줄 업무 세 가지는 무엇이며, 그 업무가 다루는 데이터 등급은? |
| IT·인프라 | 내부망에 연산 서버를 둘 공간·전력·반입 절차가 있는가? 모델 갱신 파일은 어떤 경로로 들어오는가? |
| 경영진 | "AI를 안 쓰는 것"이 보안 정책인가, 대안이 없어서인가? |
07마무리
VWAY는 고객사 내부망에 사내 LLM과 문서 검색(RAG)을 구축하고 외부 비교 모델과 같은 데이터셋·같은 기준으로 성능을 검증한 경험이 있습니다. 또 안전 분석 도구 VisualPro를 MCP로 사내 LLM에 연결해 설계 근거와 변경 영향을 자연어로 묻는 구성을 제공합니다. 데이터 등급과 대상 업무를 함께 정리하는 것부터 시작하고 싶다면 사내 LLM 구축 상담을 요청해 주십시오.
08자주 묻는 질문
Q1외부 LLM과 프라이빗 계약을 하면 보안 과제 데이터를 넣어도 되지 않나요?
Q2N²SF가 시행되면 생성형 AI를 자유롭게 쓸 수 있는 것 아닌가요?
Q3사내 LLM은 외부 최신 모델보다 성능이 많이 떨어지지 않나요?
Q4사내 LLM을 만들면 바로 기밀 문서에 써도 되나요?
Q5어디서부터 시작해야 하나요?
· 국가정보원·국가보안기술연구소, 「챗GPT 등 생성형 AI 활용 보안 가이드라인」, 2023.6.29 배포 (4.2절 구축 유형에 따른 생성 AI 기술 도입 시 고려사항 40~41쪽, 부록 보안수칙 52쪽)
· 국가정보원, 「국가 망 보안체계(N²SF) 보안 가이드라인」 1.0 정식판, 2025.9.30 공개 (바이라인네트워크, 2025.9.30 보도) — 바이라인네트워크 기사
· 안랩, 「AI 시대의 업무망 보안, N2SF 도입 지원사업 기반 적용 사례」, 2026.10.12 — 정보서비스 모델 2(생성형 AI) 설명
· 헤럴드경제, 「[단독]방사청, 방산기업들에 '생성형 AI 해킹' 주의 공문 발송」, 2026.1.27 — 기사 보기