EU AI Act Article 6 고위험 분류
EU AI 법 제6조는 고위험 AI 시스템에 대한 분류 규칙을 설정합니다. 고위험 시스템은 고용, 신용 평가, 의료, 교육 및 법 집행을 포함하는 부록 III 카테고리로 정의됩니다. 조직은 AI에 대한 디지털 옴니버스에서 도입된 연기를 따라 2027년 12월 2일까지 준수해야 합니다. 제6조의 요구 사항에는 의사 결정 추적을 위한 자동 기록(제12조), 투명성 및 설명 가능성(제13조), 인간 감독 기능(제14조)이 포함됩니다. 비준수 시 최대 1,500만 유로 또는 전 세계 매출의 3%에 해당하는 벌금이 부과됩니다. 표준 실행 로그는 제6조를 충족하지 않으며, 준수를 위해서는 추론, 증거, 고려된 대안 및 책임을 포착하는 구조화된 의사 결정 추적이 필요합니다. AIAgentree는 EU AI 법 제6조 준수를 위해 특별히 설계된 의사 결정 패킷 인프라를 제공합니다.
EU AI 법 제6조는 귀하의 AI 시스템이 "고위험"인지 여부를 결정하며, 이는 로깅, 투명성 및 인간 감독에 대한 의무 요구 사항을 촉발합니다. 마감일: 2027년 12월 2일.
- •부록 III 범주 — 신용, 고용, 의료, 교육
- •제12조 — 의사 결정 추적 가능성을 위한 자동 기록
- •제13조 — 투명성 및 설명 가능성 요구사항
- •제14조 — 인간의 감독 및 개입 능력
- •벌금 — 비준수 시 최대 €15M 또는 전 세계 매출의 3%
지난 달, 한 티어-1 유럽 은행의 AI 팀은 어떤 AI 리더도 원하지 않는 이메일을 받았습니다.
CISO는 다음과 같이 작성했습니다: "규제 기관 감사 예정. 30일. AI 지원 신용 결정의 지난 90일을 문서화하십시오. 제6조에 따른 완전한 추적 가능성."
AI 팀의 첫 번째 반응은 "우리는 로그가 있습니다." 로그는 제6조 준수 사항이 아닙니다.
면책 조항: 이 게시물은 정보 제공 목적으로만 사용되며 법적 조언을 구성하지 않습니다. 준수 결정을 위해 자격을 갖춘 법률 자문을 상담하십시오. 규제 텍스트는 2026년 7월 기준으로 최신이며, 의존하기 전에 인용을 확인하십시오.
제6조 쉽게 이해할 수 있는 언어
EU AI 법안 제6조(규정 2024/1689)는 AI 시스템이 "고위험"으로 분류되는 경우를 규정합니다. 이 분류는 AI 에이전트를 문서화하고 관리하는 방식을 근본적으로 변화시키는 의무 준수 요구 사항을 촉발합니다.
제6조(1): "AI 시스템은 [...] 제품의 안전 구성 요소로 사용될 의도로 설계된 경우 [...] 또는 AI 시스템 자체가 제품이며 [...] 제3자 적합성 평가를 받아야 하는 경우 고위험으로 간주된다."
제6조(2): "제1항에서 언급된 고위험 AI 시스템 외에도, 부록 III에 나열된 사용 사례 중 하나에 해당하는 AI 시스템은 고위험으로 간주된다."
AI 에이전트가 부록 III에 나열된 범주 — 신용 평가, 고용, 의료, 교육, 법 집행 — 에서 결정을 내린다면, 이는 기본적으로 고위험이며, 제12조에서 제14조를 준수해야 합니다.
부록 III 고위험 범주
부록 III은 AI 시스템이 자동으로 고위험으로 분류되는 8가지 범주를 정의합니다:
- •(1) 생체 인식 — 얼굴 인식, 감정 감지, 생체 식별
- •(2) 중요 인프라 — 교통 관리, 유틸리티, 디지털 인프라
- •(3) 교육 — 입학 결정, 시험 점수, 학습 경로 결정
- •(4) 고용 — 채용, 성과 평가, 승진, 해고. 매우 높은 관련성
- •(5) 필수 서비스 — 신용 점수, 보험 가격 책정, 혜택 접근. 매우 높은 관련성
- •(6) 법 집행 — 증거 평가, 프로파일링, 위험 평가
- •(7) 이주 및 망명 — 비자 신청, 국경 통제, 망명 처리
- •(8) 정의 — 법률 연구, 사건 결과 예측, 형량
귀하의 AI 에이전트가 4(고용) 또는 5(필수 서비스) 범주에서 운영된다면, 귀하는 거의 확실히 전체 제6조 요구 사항의 적용을 받습니다. 이는 가장 높은 볼륨의 기업 AI 사용 사례입니다.
세 가지 역량 제6조 요구사항
고위험 분류는 준수가 실제로 무엇을 의미하는지를 정의하는 세 가지 관련 조항을 촉발합니다:
제12조: 기록 유지 및 감사 추적
고위험 AI 시스템은 사건의 자동 기록 기능('로그')을 가능하게 하는 능력을 갖추어 설계 및 개발되어야 한다 [...] 로그 기능은 AI 시스템의 작동에 대한 추적 가능성 수준을 보장해야 하며 [...] 이는 의도된 목적에 적합해야 한다.
Translation: 당신은 결정의 추적 가능성을 가능하게 하는 로그가 필요합니다 — 단순한 API 호출뿐만 아니라 그 이유도 포함되어야 합니다.
제13조: 투명성 및 정보
높은 위험의 AI 시스템은 그 운영이 충분히 투명하게 설계되고 개발되어야 하며, 이를 통해 배포자가 시스템의 출력을 해석하고 적절하게 사용할 수 있도록 해야 한다.
Translation: 결정 결과는 해석 가능해야 합니다. 블랙박스는 준수하지 않습니다.
제14조: 인간의 감독
높은 위험의 AI 시스템은 [...] 인간의 감독이 지정된 자연인이 AI 시스템의 능력과 한계를 완전히 이해하고 그 운영을 적절히 모니터링할 수 있도록 설계되고 개발되어야 한다.
인간은 이해하고, 모니터링하며, 개입할 수 있어야 합니다.
왜 로깅이 제6조를 충족하지 못하는가
표준 실행 로그는 무슨 일이 일어났는지 기록합니다. 제6조는 무엇이 결정되었고 그 이유에 대한 문서화를 요구합니다. 이들은 본질적으로 다른 산물입니다.
| ❌ 실행 로그 (비준수) | ✅ 결정 추적 (준수) |
|---|---|
approve_credit(app_id=1234) | 제안: 신용 승인 #1234 장점: 3년 결제 이력 (가중치: 0.9) 장점: 안정적인 고용 (가중치: 0.85) 단점: 기준 이하 점수 (가중치: 0.72) 재량: 분석가 승인 예외 근거: 결제 이력이 점수를 초과함 결과 (6개월): 0회 연체 |
| 신용이 승인되었다고 알려줍니다. 그러나 이유, 고려된 사항, 또는 존재했던 대안에 대해서는 알려주지 않습니다. | 추론, 대안, 인간 감독 및 결과 추적을 포착합니다. |
규제자가 "점수에도 불구하고 왜 이 신용이 승인되었나요?"라고 물을 때, 로그에는 답이 없습니다. 결정 추적에는 답이 있습니다.
왜 사고의 연쇄 포착이 제6조를 충족하지 못하는가
사고의 연쇄(Chain-of-thought, CoT) 캡처는 해결책처럼 보입니다 — 모델이 자신의 추론을 "설명"하게 만드는 것입니다. 하지만 근본적인 문제가 있습니다:
CoT 문제
사고의 연쇄는 사후에 생성됩니다. 이는 모델의 내부 계산에 충실하지 않습니다. 두 개의 프롬프트가 서로 다른 "설명"으로 동일한 결정을 생성할 수 있습니다. 위원회의 작업 해석은 결정 시점 캡처를 요구하는 방향으로 나아가고 있으며, 사후 재구성을 요구하지 않습니다.
결정 추적은 결정 시점에서 구조화된 아티팩트를 캡처합니다 — 이후에 재구성된 내러티브가 아닙니다. 이는 "추적 가능성을 가능하게 하는" "자동 기록"에 대한 제12조 요구 사항을 충족합니다.
결정 추적이 포착하는 것(그리고 그것이 제6조를 만족시키는 이유)
AIAgentree의 결정 패킷은 제6조의 문서 요구 사항에 직접적으로 매핑됩니다:
| 제6조 요건 | 결정 패킷 구성 요소 |
|---|---|
| 결정의 추적 가능성 | 결과 + 근거_주장_ID |
| 대안 고려 | alternatives[] + 거부된 인수 |
| 증거 기반 | evidence_refs[] 원본 + 스냅샷 |
| 인간의 감독 (제14조) | decided_by 필드 (대리인/인간/둘 다) |
| 해석 가능성 (제13조) | 찬반 관계가 있는 구조화된 주장 트리 |
부문별 애플리케이션
헬스케어 AI
진단, 치료 권장 사항 또는 환자 분류를 지원하는 AI 시스템은 부록 III에 해당합니다. 제6조는 고려된 임상 증거, 평가된 감별 진단 및 권장 사항으로 이어진 추론 과정을 기록할 것을 요구합니다.
주요 요구 사항: 증거 스냅샷은 결정 시점에서 임상 데이터를 동결해야 합니다. 현재 환자 기록에서의 사후 재구성은 준수하지 않습니다.
금융 서비스
신용 점수, 보험 인수, 그리고 사기 탐지는 5범주에서 고위험으로 분류됩니다. 제6조는 결정에 영향을 미친 요인, 그 요인들이 어떻게 가중치가 부여되었는지, 그리고 결과를 변경했을 요인이 무엇인지 문서화할 것을 요구합니다.
주요 요구 사항: 지원자가 "왜 거부되었나요?"라고 물을 때, 결정 추적에서 특정 요소를 인용할 수 있어야 하며, 설명을 재생성해서는 안 됩니다.
인사 및 고용
채용 심사, 성과 평가 및 해고 결정은 4범주에서 고위험입니다. 차별 금지 우려로 인해 제6조 요구 사항은 특히 엄격합니다.
주요 요구 사항: 결정 추적은 보호된 특성이 결과에 영향을 미치지 않았음을 보여주어야 합니다. 편향 모니터링은 단순한 결과 감사가 아니라 구조화된 추론을 요구합니다.
타임라인 및 마감일
EU AI 법안 일정
- •2024년 8월 — 발효
- •2025년 2월 — 금지된 AI 금지 + AI 리터러시 필수
- •2025년 8월 — 거버넌스 규칙 + GPAI 의무
- •2026년 8월 — 고위험 시스템 준수 마감일
90일 준비 체크리스트
다음은 제6조 준수를 위한 구체적인 로드맵입니다:
AI 에이전트를 인벤토리하세요.
어떤 시스템이 결정을 내리거나 지원합니까? 각 시스템의 의도된 목적을 문서화하십시오.
부속서 III 적용 가능성 분류
각 에이전트를 부속서 III 카테고리에 매핑합니다. 어떤 것이 고위험인지 결정합니다.
현재 로깅과 요구 사항 비교 감사
기존 로그를 결정 패킷 요구 사항과 비교하십시오. 격차를 식별하십시오.
결정 추적 인프라 배포
AIAgentree의 SDK를 통합하세요. 결정 지점에서 결정 패킷을 캡처하기 시작하세요.
인간 감독 워크플로우 설정
제14조에 따라 승인 대기열, 재정의 절차 및 에스컬레이션 경로를 정의합니다.
규제 기관 대응 실행 매뉴얼 작성
30일 감사 요청에 어떻게 응답할 것인지 문서화하십시오. 응답 흐름을 테스트하십시오.
이 게시물에서 다루지 않는 내용
경계는 중요합니다. 이 게시물은 특히 제6조 고위험 분류에 대해 다룹니다. 다음은 포함되지 않습니다:
- •금지된 AI (제5조) — 귀하의 시스템이 여기에 해당하는 경우, 준수가 불가능합니다.
- •미국 AI 규제 — 다양한 프레임워크가 적용됩니다; 우리의 미국 준수 가이드를 참조하세요.
- •전체 EU AI 법안 — 제7조부터 제86조까지는 많은 다른 요구 사항을 다룹니다.
- •법률 상담 — 이는 정보 제공 콘텐츠이며, 법률 자문이 아닙니다.
자주 묻는 질문
EU AI 법 제6조는 무엇인가요?
제6조는 EU AI 법에 따라 고위험 AI 시스템에 대한 분류 규칙을 설정합니다. 이는 AI 시스템이 부록 III에 나열된 분야(고용, 신용, 의료, 교육 등)에서의 사용에 따라 '고위험'으로 분류되는 기준을 정의하고, 로깅, 투명성 및 인간 감독을 포함한 의무 준수 요구 사항의 기준을 설정합니다.
EU AI 법 제6조는 언제 발효되나요?
제6조에 따른 고위험 AI 시스템 요구사항은 2027년 12월 2일까지 독립형 부록 III 시스템에 대해 충족되어야 하며, 이는 AI에 관한 디지털 옴니버스에 의해 2026년 8월 2일에서 연기된 것입니다. 이는 부록 III 범주에서 AI 에이전트를 배포하는 조직을 위한 주요 준수 기한입니다. 일부 조항(금지된 관행)은 2025년 2월에 조기에 발효되었습니다.
부록 III 고위험 범주는 무엇인가요?
부록 III은 8개의 고위험 범주를 정의합니다: (1) 생체 인식, (2) 중요 인프라, (3) 교육/직업 훈련, (4) 고용/근로자 관리, (5) 필수 서비스 접근(신용, 보험, 혜택), (6) 법 집행, (7) 이주/망명, (8) 사법 행정. 이러한 분야에서 결정을 내리는 AI 에이전트는 전체 제6조 요구 사항을 준수해야 합니다.
제6조는 로깅 및 추적 가능성에 대해 무엇을 요구하나요?
제6조(및 관련 제12조)는 고위험 AI 시스템이 의사 결정의 추적 가능성을 가능하게 하는 자동 로그를 유지하도록 요구합니다. 이는 결정된 사항, 근거, 고려된 대안, 참고한 증거 및 인간의 감독 조치를 기록하는 것을 의미하며, 단순히 API 호출 및 타임스탬프만 기록하는 실행 로그를 훨씬 초월합니다.
결정 추적은 EU AI 법규 준수를 위한 표준 로깅과 어떻게 다른가요?
표준 로그는 발생한 사건(API 호출, 타임스탬프, 오류)을 기록합니다. 제6조 준수는 결정 자체의 추적 가능성을 요구합니다 — 결정이 내려진 이유, 이를 뒷받침하는 증거, 고려된 대안, 그리고 누가 책임이 있었는지. 결정 추적은 이러한 구조화된 추론을 감사 가능한 결정 패킷으로 캡처하여 규제 요구 사항을 충족합니다.
제6조를 준수하지 않을 경우의 처벌은 무엇인가요?
고위험 AI 요구사항을 준수하지 않을 경우 최대 €1500만 또는 전 세계 연간 매출의 3% 중 더 높은 금액의 벌금이 부과됩니다. 가장 심각한 위반(금지된 관행)의 경우, 벌금은 €3500만 또는 매출의 7%에 이를 수 있습니다. €10억 매출을 가진 회사의 경우, 이는 잠재적인 벌금이 €3000만에서 €7000만에 이를 수 있음을 의미합니다.
EU AI 법은 EU 외부의 기업에도 적용되나요?
네. EU AI 법은 외부 적용 범위를 가지고 있습니다. 이는 AI 시스템이 EU 시장에 배치되거나, AI 결과물이 EU 내에서 사용되거나, AI 결정이 EU 거주자에게 영향을 미치는 모든 조직에 적용됩니다 — 회사의 본사가 어디에 있든 관계없이.
제6조 준수를 위해 어떻게 준비할 수 있나요?
90일 준비 프로그램으로 시작하세요: (1) AI 에이전트 목록 작성, (2) 부속서 III 적용 가능성 분류, (3) 현재 로깅과 결정 패킷 요구 사항 감사, (4) 결정 추적 인프라 배포, (5) 인간 감독 워크플로우 설정, (6) 규제 기관 대응 매뉴얼 작성. AIAgentree는 제6조 준수를 위해 특별히 설계된 인프라를 제공합니다.
관련 주제
관련 기사
AI 결정은 영수증을 받아야 합니다: 왜 결정 추적이 AI 거버넌스에서 누락된 요소인지
모든 금융 거래는 영수증을 받습니다. 모든 법적 계약은 서명을 받습니다. 하지만 수백만 명에게 영향을 미치는 AI 결정은? 보이지 않습니다. 결정 추적은 모든 AI 결정 뒤에 있는 이유(WHY)를 포착함으로써 이를 변화시킵니다.
AI 결정을 위한 GraphRAG: 왜 그래프가 에이전트 메모리에 벡터 검색보다 우수한가
벡터 RAG가 로그를 통해 반환하는 것은 "청크 수프"입니다 — 반대 주장, 승인 및 결정을 방어 가능하게 만든 선례가 누락된 단절된 텍스트 조각들입니다. 결정을 규범적 주장 그래프로 저장하면, 검색 시 대신 한정된 감사 가능한 결정 패킷이 반환됩니다.
신뢰할 수 있는 AI란 무엇인가?
제6조에 따른 고위험 분류는 신뢰할 수 있는 AI 관행, 투명성, 감독 및 증거가 선택 사항이 아닌 경우입니다.
AIAgentree 팀
AI 준수
AIAgentree 팀은 AI 에이전트를 위한 의사 결정 추적 인프라를 구축하고 있습니다. 우리의 사명은 AI 추론을 가시화하고, 감사 가능하며, 개선할 수 있도록 만드는 것입니다.