기타AI가 들어간 제품에는 어떤 안전 규격이 적용될까
AI 기능안전 가이드 · 2026
AI가 들어간 제품에는 어떤 안전 규격이 적용될까?
요약: 차량이라면 ISO 26262(고장)와 ISO 21448 SOTIF(성능 한계) 위에 AI 요소를 다루는 ISO/PAS 8800을 더합니다. 산업 기계·로봇이라면 IEC 61508 계열 위에 ISO/IEC TR 5469를 참고하고 후속 요구사항 표준 ISO/IEC 22440을 준비합니다. EU에 출시한다면 EU AI Act의 고위험 AI 해당 여부를 따로 확인합니다.
AI 안전 규격 6종, 무엇이 무엇을 다루나?
한 줄로 정리하면 ISO 26262는 고장, ISO 21448은 고장 없는 성능 한계, ISO/PAS 8800은 그 안의 AI 요소를 다룹니다. 산업 분야는 ISO/IEC TR 5469와 ISO/IEC 22440이 같은 역할을 맡고, EU AI Act는 규격이 아니라 법규로 그 위에 얹힙니다.
| 이름 | 성격 | 대상 | 다루는 위험 | 핵심 개념 |
|---|---|---|---|---|
| ISO 26262 | 국제표준 | 도로 차량 E/E 시스템 | 하드웨어·소프트웨어 고장에 의한 오작동 | HARA, ASIL, 안전 메커니즘, FMEA·FTA·FMEDA |
| ISO 21448 (SOTIF) | 국제표준 | 인지·판단 기능이 있는 차량 시스템 | 고장이 없어도 생기는 기능 불충분·성능 한계·오사용 | 트리거링 조건, 알려지지 않은 위험 시나리오 축소, 수용 기준 |
| ISO/PAS 8800 | 공개 사양(PAS) | 차량 안전 관련 시스템의 AI 요소 | 학습 데이터·모델 성능 한계, AI 출력 오류가 안전에 미치는 영향 | AI 안전 요구사항, 데이터 관리, AI 검증, 운영 중 모니터링, 안전 논증 |
| ISO/IEC TR 5469 | 기술 보고서(TR) | 분야 공통 (주로 산업 기계·로봇·공정) | 안전 기능에 AI 기술을 쓸 때의 위험 | AI 기술 등급과 사용 수준, 비AI 안전 계층으로 감싸는 설계 |
| ISO/IEC 22440 | 개발 중 표준 | 분야 공통 | TR 5469와 같은 영역 | TR 5469 권고의 요구사항화 (발행 상태는 ISO에서 확인) |
| EU AI Act | EU 규정 | EU 시장에 출시·사용되는 AI 시스템 | 기본권·안전에 대한 AI 위험 | 위험 기반 분류, 고위험 AI의 위험관리·데이터·기록·사람의 감독 의무 |
규격 원문 조항 번호는 인용하지 않았습니다. 적용 판단과 심사 대응은 각 규격 원문을 기준으로 해 주세요.
우리 제품에는 어떤 규격이 적용될까? 5문항으로 판별하기
아래 다섯 질문에 차례로 답하면 우선 검토할 규격 묶음이 정해집니다. 답이 애매한 문항은 "예"로 두고 검토 범위에 넣는 편이 안전합니다.
- 제품의 안전 관련 기능에 머신러닝·신경망 같은 AI 요소가 들어 있나요?
예 → Q2로 · 아니오 → 분야별 기능안전(ISO 26262 또는 IEC 61508 계열)과, 인지·판단 기능이 있다면 SOTIF를 우선 검토합니다. - 도로 차량(승용·상용·이륜) 또는 그 부품인가요?
예 → ISO 26262 + ISO 21448 + ISO/PAS 8800 묶음 · 아니오 → Q3으로 - 산업 기계·협동로봇·물류 로봇·공정 설비처럼 IEC 61508 계열 기능안전 대상인가요?
예 → IEC 61508 계열 + ISO/IEC TR 5469, 그리고 ISO/IEC 22440 동향 추적 - AI가 안전 기능을 직접 수행하나요, 아니면 비AI 안전 기능 옆에서 보조하나요?
직접 수행할수록 요구 수준이 높아집니다. TR 5469의 사용 수준 개념으로 위치를 정하고, 비AI 감시·제한 계층으로 AI를 감싸는 구조를 먼저 검토합니다. - EU 시장에 출시하거나 EU에서 사용되나요?
예 → EU AI Act 고위험 AI 해당 여부 검토. 기계·의료기기처럼 EU 제품 법규의 안전 구성요소로 쓰이면 고위험으로 분류될 수 있고, 차량은 형식승인 법규를 통한 반영 방식과 적용 시점을 따로 확인합니다.
AI 안전 준비 수준 자가 진단표 (10문항)
규격이 정해졌다면 다음 질문은 "지금 무엇이 준비돼 있나"입니다. 아래 10문항은 ISO/PAS 8800과 TR 5469가 공통으로 요구하는 활동을 실무 산출물 기준으로 풀어 쓴 것입니다. 해당하는 항목에 체크하세요.
0~3개 · 출발 단계
AI 요소 식별과 ODD 정의부터 시작하세요. 이 둘이 없으면 이후 분석 범위가 정해지지 않습니다.4~7개 · 보강 단계
위험 분석과 요구사항은 있으나 데이터·운영·추적성이 비어 있는 경우가 많습니다. 빠진 항목을 추적 체인으로 잇는 작업이 우선입니다.8~10개 · 심사 대비 단계
안전 논증의 근거가 모였습니다. 규격 원문 기준으로 누락 조항을 대조하고 외부 심사를 준비할 수 있습니다.VisualPro는 어떤 부분을 돕나요?
VWAY의 안전 분석 도구 VisualPro는 위 진단표의 위험 분석·요구사항·추적성 항목을 하나의 모델 위에서 수행하게 해 줍니다. STPA, HARA, FMEA, FTA, FMEDA, TARA를 같은 데이터로 연결하고, MCP로 AI 어시스턴트와 연동해 분석 초안을 만들되 확정은 엔지니어가 합니다.
AI 출력 오류 분석 — STPA
AI 컴포넌트를 제어기로 모델링하고 미탐·오탐·지연·추적 손실을 불안전 제어 행동(UCA)으로 도출합니다. 고장이 없어도 생기는 SOTIF·ISO/PAS 8800 위험 경로를 손실 시나리오로 정리합니다.
고장 분석 — HARA · FMEA · FTA · FMEDA
ISO 26262 활동을 같은 프로젝트에서 수행합니다. 안전 목표와 요구사항이 STPA 결과와 연결돼, 두 관점의 분석이 따로 놀지 않습니다.
추적성과 AI 연동
위험부터 검증까지 추적 체인을 유지하고 심사 보고서를 출력합니다. MCP 서버로 Claude 같은 AI가 모델을 읽고 분석 초안을 제안합니다.
적용 사례 백서
- ISO/PAS 8800을 지원하기 위한 STPA 적용 — 카메라 신경망 기반 보행자 인식 AEB 예제 (국문·영문)
- ISO/IEC TR 5469를 지원하기 위한 STPA 적용 — 안전 라이다와 3D 카메라 신경망을 쓰는 물류 AMR 예제 (국문)
자주 묻는 질문
- ISO/PAS 8800은 무엇인가요?
- ISO/PAS 8800(Road vehicles — Safety and artificial intelligence)은 도로 차량의 안전 관련 시스템에 들어가는 AI 요소를 다루는 공개 사양(PAS)입니다. ISO 26262 기능안전과 ISO 21448 SOTIF를 전제로, AI 요소의 안전 요구사항, 데이터, 검증, 운영 중 모니터링, 안전 논증을 어떻게 다룰지 제시합니다.
- ISO/PAS 8800과 ISO 21448(SOTIF)은 어떻게 다른가요?
- SOTIF는 고장이 없어도 기능 불충분이나 성능 한계, 예견 가능한 오사용 때문에 생기는 위험을 다루는 차량 기능 전체의 규격입니다. ISO/PAS 8800은 그중 머신러닝 같은 AI 요소에 초점을 맞춰, 학습 데이터와 모델 성능, AI 출력 오류가 안전에 미치는 영향을 관리하는 방법을 구체화합니다. 두 규격은 대체 관계가 아니라 함께 적용합니다.
- ISO/IEC TR 5469는 자동차에도 적용되나요?
- ISO/IEC TR 5469는 산업 분야를 가리지 않는 기술 보고서(TR)로, 기능안전 관점에서 AI 기술을 어떻게 쓰고 평가할지 안내합니다. 요구사항이 아닌 권고 성격이며 주로 IEC 61508 계열을 쓰는 산업 기계·로봇·공정 분야에서 참고합니다. 자동차는 ISO 26262·ISO 21448·ISO/PAS 8800이 우선입니다.
- ISO/IEC 22440은 TR 5469와 무엇이 다른가요?
- ISO/IEC 22440은 TR 5469의 권고를 인증과 심사에 쓸 수 있는 요구사항 형태로 옮기는 후속 표준으로 개발되고 있습니다. 발행 단계와 일정은 ISO 공식 사이트에서 최신 상태를 확인해야 합니다.
- EU AI Act는 자동차와 산업용 로봇에 바로 적용되나요?
- EU AI Act는 AI를 위험 수준별로 규율하는 EU 규정으로, 기계나 의료기기처럼 기존 EU 제품 법규의 안전 구성요소로 쓰이는 AI는 고위험 AI로 분류될 수 있습니다. 차량은 형식승인 법규를 통해 반영되는 구조라 적용 방식과 시점을 별도로 확인해야 하며, 고위험 의무의 적용 시점은 EU 후속 조치에 따라 조정될 수 있습니다.
- AI 안전 분석에 STPA를 쓰는 이유는 무엇인가요?
- AI 관련 사고는 부품 고장보다 잘못된 인식이나 판단, 제어 간 상호작용에서 생기는 경우가 많습니다. STPA는 고장 여부와 관계없이 불안전한 제어 행동과 그 원인이 되는 손실 시나리오를 찾기 때문에, AI 출력의 미탐·오탐·지연 같은 오류가 시스템 위험으로 이어지는 경로를 체계적으로 분석할 수 있습니다.
자가 진단 결과를 함께 검토해 드립니다
체크하지 못한 항목을 어떤 분석과 산출물로 채울지, 우리 제품 기준으로 안내해 드립니다. VisualPro 무료 체험과 적용 사례 백서도 함께 받아 보실 수 있습니다.
문의: support@vwaycorp.com · VisualPro 체험: www.vwaycorp.com/visualpro-trial