고영향 AI 위험관리·설명·사람의 감독과 기록

FACT · 조문에서 확인한 사실

제34조(고영향 인공지능과 관련한 사업자의 책무) ① 인공지능사업자는 고영향 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우 고영향 인공지능의 안전성ㆍ신뢰성을 확보하기 위하여 다음 각 호의 내용을 포함하는 조치를 대통령령으로 정하는 바에 따라 이행하여야 한다. 1. 위험관리방안의 수립ㆍ운영 2. 기술적으로 가능한 범위에서의 인공지능이 도출한 최종결과, 인공지능의 최종결과 도출에 활용된 주요 기준, 인공지능의 개발ㆍ활용에 사용된 학습용데이터의 개요 등에 대한 설명 방안의 수립ㆍ시행 3. 이용자 보호 방안의 수립ㆍ운영 4. 고영향 인공지능에 대한 사람의 관리ㆍ감독 5. 안전성ㆍ신뢰성 확보를 위한 조치의 내용을 확인할 수 있는 문서의 작성과 보관 6. 그 밖에 고영향 인공지능의 안전성ㆍ신뢰성 확보를 위하여 위원회에서 심의ㆍ의결된 사항 ② 과학기술정보통신부장관은 제1항 각 호에 따른 조치의 구체적인 사항을 정하여 고시하고, 인공지능사업자에게 이를 준수하도록 권고할 수 있다. ③ 인공지능사업자가 다른 법령에 따라 제1항 각 호에 준하는 조치를 대통령령으로 정하는 바에 따라 이행한 경우에는 제1항에 따른 조치를 이행한 것으로 본다.

서비스 해석 · 수록 설명

법 제34조제1항은 위험관리, 설명 방안, 이용자 보호, 사람의 관리·감독, 문서 작성·보관 등을 요구합니다. 시행령 제27조는 주요 내용 게시와 근거 문서 5년 보관을 정하고, 기능을 중대하게 변경하지 않은 이용사업자의 일부 조치 이행 간주 조건을 규정합니다.