입법정보

• 의안원문 바로보기

제안이유

  인공지능은 대중에게 그동안 막연하게 친숙한 개념이었으나, 구글이 개발한 바둑 인공지능인 알파고가 2016년 인간의 대표격인 이세돌 9단과의 바둑 대결에서 압승하면서 인공지능이 우리 시대에 어떤 미래를 가져올 것인지 뜨거운 이슈가 된 적이 있음. 인간의 직관력과 창의력은 비계량적인 영역으로만 여겨졌으나, 방대한 분량의 데이터 학습을 거친 인공지능의 계량적 연산 영역으로 치환할 수 있다는 것이 입증됨.
  하지만 새로운 기술로 인한 새로운 문제도 제기됨. 최근 발생한 인공지능 챗봇(AI chatbot) ‘이루다’ 사건과 배달 앱 요기요 사례, 포털의 뉴스 서비스는 인공지능에 대하여 낙관적으로만 생각해서는 안 된다는 점을 환기하게 되는 계기가 되었음.
  인공지능 챗봇 ‘이루다’ 사례에서는 인공지능이 윤리적으로 잘못된 데이터 학습을 통하여 사람에 대한 혐오와 차별 등 반윤리적 대화를 제어장치 없이 생산해 내어 결국 해당 서비스 제공이 중단된 사태가, 배달 앱 요기요 사례에서는 인공지능이 식사 또는 생리문제 해결 등 인간의 기본권과 관련된 시간을 배려하지 않는 알고리즘을 통하여 근무평점 및 일감 배정을 수행한 결과 배달기사들이 보장받아야 할 기본적 권리를 침해당하고 있는 사태가 야기됨.
  또한 포털의 인공지능을 이용한 뉴스기사 배열은 여전히 공정성과 투명성 및 책임성에 있어 불신과 논란이 지속되고 있음. 다수의 국민들에게 사회적 여론 측면에서 막대한 영향을 미치는 포털은 의사결정 원리 등의 기술적 한계를 고려하더라도 최소한의 설명 책임을 지우도록 할 필요가 있음.
  따라서 인공지능을 기술적·산업적 측면에서 진흥하여 국가적 성장동력으로 삼아야 하는 정책방향과 인공지능이 개인과 공동체에 신뢰받는 문명의 이기(利器)가 되도록 하는 입법적 차원의 준비 역시 필요한 시점이라고 생각됨.
  이에 인공지능산업의 육성을 도모하면서 인간이 인공지능의 개발·제공 및 이용함에 있어서 지켜야 할 윤리적 원칙을 규정하며 인간의 생명·신체의 안전 및 존엄성과 직결되는 특수한 영역에서 활용되는 인공지능에 대하여는 인공지능 사용 고지의무 및 사전 신고의무를 두도록 하는 등 인공지능을 신뢰할 수 있는 것이 되도록 기반을 마련하려는 것임.


주요내용

가. 인공지능산업의 육성을 도모하면서 인간이 인공지능의 개발·제공 및 이용에 있어서 지켜야 할 윤리적 원칙 등을 규정하여 인공지능을 신뢰할 수 있는 기반을 마련함으로써 인공지능이 산업과 사회 그리고 인간을 위하는 것이 되도록 이바지하고자 함(안 제1조).
나. 인공지능은 인간이 주체가 되는 윤리적 원칙을 준수하고 인간의 사생활 및 개인정보의 보호에 관한 사항을 준수하도록 하는 등 기본원칙을 수립함(안 제3조).
다. 정부는 인공지능사업자 및 이용자가 지켜야 할 윤리 등을 제정하여 공표할 수 있도록 함(안 제6조부터 제8조까지).
라. 정부는 인공지능사회 정립에 필요한 기본계획 및 시행계획의 수립·변경에 관한 사항 등을 심의하기 위한 인공지능사회위원회를 두도록 함(안 제11조).
마. 정부는 인공지능사회의 정립에 필요한 정책 개발 연구를 위한 사업 추진 및 인공지능기술의 지속적 발전을 위한 기술 개발 위탁을 할 수 있도록 함(안 제12조).
바. 과학기술정보통신부장관은 인공지능기술의 기준을 정하고, 표준화를 위하여 사업을 추진할 수 있도록 함(안 제13조 및 제14조).
사. 윤리원칙의 준수를 위하여 기관 또는 단체에서 민간자율인공지능윤리위원회를 설치할 수 있도록 하고, 과학기술정보통신부장관은 해당 기관 또는 단체의 신청이 있는 경우 실적 등을 평가하여 인증할 수 있도록 함(안 제16조 및 제17조).
아. 특수활용 인공지능을 사용하여 업무를 수행하는 자는 해당 사실을 상대방이 쉽게 알 수 있도록 사전에 고지하고 요청이 있는 경우 그 의사결정 원리 및 최종결과 등을 설명하도록 함(안 제20조).
자. 인공지능사업자가 특수활용 인공지능을 개발·제조·유통하거나 이와 관련된 인공지능서비스를 제공하려는 경우 해당 인공지능에 대하여 과학기술정보통신부장관에게 신고하도록 하고, 이에 필요한 기술적·관리적 조치를 마련하도록 함(안 제21조).
자. 과학기술정보통신부장관 및 관계 중앙행정기관의 장은 특수활용 인공지능에 대하여 사전 고지의무 및 신고의무 이행을 위하여 필요하다고 인정하는 경우에는 소속 공무원으로 하여금 조사하게 할 수 있도록 함(안 제24조).
차. 과학기술정보통신부장관은 인공지능사회의 정립과 관련한 정책의 효과적인 수립·추진을 위하여 실태조사를 할 수 있도록 함(안 제25조)