국민의 생명·신체·기본권에 중대한 영향을 주는 고영향 인공지능과 생성형 AI에 고지·표시·위험관리·영향평가 의무를 부과해 안전성과 신뢰를 확보하는 제도
노드 상태는 제도 흐름 설명용 편집 상태입니다
2026-07-12 · article-descriptive 플래그 8건 수정: P07(제12조), P10·P11(제30조), P13(제38조+제40조), P14·P15(제40조제3항), P16(제43조), P17(제7조). P02 고시 위임 항목은 시행령 제23조·제25조로 대체하고 실제 고시 조문은 fieldVerification으로 이전. / 2026-07-12 · (C) P17 actor명 오인용: '국가인공지능위원회' → '국가인공지능전략위원회' (인공지능기본법 제7조제1항). authorities 항목도 동일 수정. (C) P12 legal_basis 오인용: 제34조를 설명요구권 근거로 인용했으나, 영향받는 자의 설명 제공 권리는 제3조제2항(기본원칙)에 규정됨; 제34조제1항제2호는 사업자의 설명방안 수립 의무 조문임 — 두 조문으로 분리 정정. actor도 '이용자'→'영향받는 자'로 수정. (C) P09 actor·legal_basis 오인용: actor를 '과학기술정보통신부'로 기재했으나 제35조제2항은 '국가기관등'이 영향평가 실시 제품을 우선 고려할 의무를 부과 — actor 및 인용 조문 수정. (E) P19 신설 — 제32조제2항 필수 단계 누락: 인공지능사업자의 안전성 확보 이행결과 과기정통부 제출 의무(인공지능기본법 제32조제2항). (E) P20 신설 — 제36조제1항 필수 단계 누락: 국외 인공지능사업자의 국내대리인 서면 지정 및 신고 의무(인공지능기본법 제36조제1항; 시행령 제29조). 법의 침묵: 1) 사실조사 개시 전 사전 통지 절차 — 제40조는 자료제출 요구·현장조사 권한만 규정하고 사업자 사전 통지·의견진술 기회 부여 절차를 침묵함(행정조사기본법 준용 여부 해석 필요). 2) 고영향 확인 결과에 불복하는 행정심판·행정소송 절차 — 시행령 제25조제4항의 재확인 요청은 10일 제한이나 이후 불복 경로 침묵. 3) 과태료 부과 전 의견진술·이의제기 기한 — 제43조에 절차 규정 없고 질서위반행위규제법 준용 관계만 묵시적.
법령 · 조직 · 절차 · 예산 · 문서
인공지능 산업 발전을 지원하면서도, 국민의 생명·신체·기본권에 중대한 영향을 주는 '고영향 인공지능'과 실제와 구분이 어려운 생성형 AI에 최소한의 의무(사전 고지·결과물 표시·위험관리·영향평가)를 부과해 안전성과 신뢰를 확보한다.
위험관리체계 구축·문서화·표시 시스템 등 의무 이행 비용은 사업자가 부담한다. 검·인증 수수료도 사업자 몫이다(임의). 감독·안전연구는 국가 예산이며, 과태료는 국고에 귀속된다. 우선구매·지원 등 신뢰기반 인센티브는 국가가 지원한다.
고영향 판단자료 → 이용자 사전고지문 → 생성형 표시·워터마크 → 위험관리방안·보관문서 → 영향평가서 → 검·인증서 → (감독 시)자료제출 → 시정명령·과태료 처분서. 과기정통부·AI안전연구소 시스템에서 관리한다.