인공지능 발전과 신뢰 기반 조성 등에 관한 기본법

저작자 : 강기봉(freekgb@gmail.com)

 

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 지난 2025년 1월 21일에 제정되어 2026년 1월 22일(일부는 1월 24일)부터 시행됩니다. 그간의 해외의 입법 동향을 참조하고 다양한 논의들을 통한 결과일 것입니다. 다만, 그 시행일이 2026년 1월이라는 점이 아쉽지만, 인공지능에 관한 중요한 법률인 만큼 그 시행을 위한 준비과정이 필요하기 때문인 것으로 이해됩니다. 정책과 제도의 시행은 법률에 근거해야 하고 이것이 체계적이고 효과적 및 효율적어야 한다는 점에 이 법률의 의의가 있습니다. 그리고 시행일까지 1년 정도의 기간이 있어 이 법률과 관련한 추가적인 논의가 이뤄질 수 있을 것으로 보입니다.

 

이 법률은 제418회 국회(정기회) 제3차 정보통신방송법안심사소위원회(2024. 11. 21.)에서 기존에 제안된 19건의 법률안을 병합하여 심사하여 이것들을 통합·조정하여 위원회 대안을 제안하였으며, 제418회 국회(정기회) 제17차 과학기술정보방송통신위원회(2024. 11. 26.)에서 정보통신방송법안심사소위원회가 마련한 대안을 위원회안으로 제안하기로 의결하였습니다. 그리고 국회 법사위(법제사법위원회)의 체계자구심사에 따른 수정을 거친 대안이 2024년 12월 20일에 국회에 제안되었고 이것이 2024년 12월 26일 국회 본회의에서 가결되었습니다. 이에 따라 이 법률은 2025년 1월 21일에 공포되었습니다. 

 

□ 법률 제정에 관한 정보 : https://likms.assembly.go.kr/bill/billDetail.do?billId=PRC_R2V4H1W1T2K5M1O6E4Q9T0V7Q9S0U0

 

이 대안에 기술된 제안이유와 그 주요내용은 아래와 같습니다.

 

□ 대안의 제안이유
  인공지능은 모든 산업 뿐만 아니라 사회를 바꾸는 기반 기술로 최근 인공지능의 성능이 비약적으로 발전함에 따라 우리 사회 각 분야에서 인공지능의 활용이 급속히 확대되고 있음. 특히, 생성형 인공지능의 등장에 따라 인공지능이 가져올 잠재적 혜택과 함께 위험성에 대한 우려가 전 세계적으로 주목받고 있음.
  인공지능의 건전한 발전을 지원하고 인공지능사회의 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는데 이바지할 수 있는 대한민국 인공지능의 새로운 기준을 마련하고자 함.

□  주요내용
가. 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 데 이바지함을 목적으로 함(안 제1조).
나. 인공지능, 고영향 인공지능, 생성형 인공지능, 인공지능윤리 및 인공지능사업자 등에 대하여 정의함(안 제2조).
다. 과학기술정보통신부장관은 3년마다 인공지능기술 및 인공지능산업의 진흥과 국가경쟁력 강화를 위하여 인공지능 기본계획을 국가인공지능위원회의 심의·의결을 거쳐 수립·시행하고, 기본계획에는 인공지능 정책의 기본 방향, 전문인력 양성, 신뢰 기반 조성 등에 관한 사항이 포함되어야 함(안 제6조).
라. 인공지능산업의 진흥 및 인공지능 신뢰 기반 조성을 위한 주요 정책 등에 관한 사항을 심의·의결하기 위하여 대통령 소속의 국가인공지능위원회를 두고, 국가인공지능위원회는 기본계획의 수립, 인공지능 활용 촉진, 고영향 인공지능 규율 등에 관한 사항을 심의·의결함(안 제7조 및 제8조).
마. 과학기술정보통신부장관은 인공지능 관련 정책의 개발과 국제규범 정립ㆍ확산을 위하여 인공지능정책센터를 지정할 수 있고, 인공지능안전을 확보하기 위하여 인공지능안전연구소를 운영할 수 있음(안 제11조 및 제12조).
바. 정부는 인공지능기술의 개발 활성화와 안전하고 편리한 이용을 위하여 국내·외 동향 및 관련 제도의 조사, 기술의 실용화, 연구개발 등의 사업을 지원할 수 있고, 과학기술정보통신부장관은 인공지능기술과 관련된 표준화를 위하여 표준 제정 등의 사업을 추진할 수 있음(안 제13조 및 제14조). 
사. 과학기술정보통신부장관은 인공지능기술의 개발 및 인공지능산업의 진흥을 위하여 관련 전문인력을 양성하고, 해외 전문인력의 확보를 위한 각종 시책을 추진할 수 있음(안 제21조).
아. 국가 및 지방자치단체는 인공지능산업의 진흥과 인공지능 개발ㆍ활용의 경쟁력 강화를 위하여 인공지능 및 인공지능기술의 연구ㆍ개발을 수행하는 기업, 기관이나 단체의 기능적ㆍ물리적ㆍ지역적 집적화를 추진할 수 있음(안 제23조).
자. 정부는 인공지능윤리의 확산을 위하여 안전성ㆍ신뢰성, 접근성, 사람의 삶과 번영에의 공헌 등의 사항을 포함하는 인공지능 윤리원칙을 제정ㆍ공표할 수 있고, 과학기술정보통신부장관은 인공지능 윤리원칙의 실천방안을 수립하고 이를 공개 및 홍보ㆍ교육하여야 함(안 제27조).
차. 과학기술정보통신부장관은 법인ㆍ기관ㆍ단체 등이 인공지능 안전성ㆍ신뢰성 확보를 위하여 자율적으로 추진하는 검증ㆍ인증 활동을 지원하기 위한 사업을 추진할 수 있음(안 제30조).
카. 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 해당 사실을 이용자에게 사전에 고지하여야 하며, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 하고, 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게 알 수 있도록 고지 또는 표시하여야 함(안 제31조).
타. 인공지능사업자는 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능시스템의 안전성을 확보하기 위하여 위험 식별ㆍ평가ㆍ완화 등의 사항을 이행하여야 함(안 제32조).
파. 인공지능사업자는 고영향 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우 안전성ㆍ신뢰성을 확보하기 위한 조치를 이행하여야 함(안 제34조).
하. 과학기술정보통신부장관은 이 법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우 인공지능사업자에 대하여 자료를 제출하게 하거나 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있고, 위반 사실이 있다고 인정되면 위반행위의 중지나 시정을 위하여 필요한 조치를 명할 수 있음(안 제40조).

 

이 법률의 전문은 아래의 법제처 국가법률정보센터에서 확인할 수 있습니다.

 

□ 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」[시행 2026. 1. 22.] [법률 제20676호, 2025. 1. 21., 제정] : https://www.law.go.kr/법령/인공지능 발전과 신뢰 기반 조성 등에 관한 기본법/(20676,20250121)

 

이와 관련하여 국가인공지능위원회의 설치 및 운영에 관한 규정이 2024년 8월 6일에 제정 및 시행된 바 있습니다.

 

□  국가인공지능위원회의 설치 및 운영에 관한 규정 : https://www.law.go.kr/법령/국가인공지능위원회의 설치 및 운영에 관한 규정

□  국가인공지능위원회 웹사이트 : https://aikorea.go.kr/(현재 미공개)