경기도 인공지능 안전과 신뢰 기반 조성에 관한 조례자치법규 2252929

이 조례는 인공지능과 관련하여 발생할 수 있는 위험으로부터의 안전 및 인공지능에 대한 신뢰 기반 조성에 필요한 사항을 규정함으로써 인공지능 개발 및 활용 과정에서 발생할 수 있는 위험을 예방하고, 인공지능의 안전성과 신뢰성을 확보하여 도민의 권익을 보호하는 것을 목적으로 한다.

이 조례에서 사용하는 용어의 뜻은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제2조에 따른다.

경기도지사(이하 “도지사”라 한다)는 인공지능과 관련하여 발생할 수 있는 위험으로부터의 안전 및 인공지능에 대한 신뢰 기반 조성(이하 “인공지능 안전과 신뢰 기반 조성”이라 한다)을 위하여 노력하여야 한다.

① 도지사는 경기도 인공지능 안전과 신뢰 기반 조성 기본계획(이하 “기본계획”이라 한다)을 3년마다 수립ㆍ시행할 수 있다.
② 기본계획은 다음 각 호의 사항을 포함하여야 한다.
1. 인공지능 안전과 신뢰 기반 조성을 위한 정책의 기본 방향 및 전략에 관한 사항
2. 인공지능의 공정성ㆍ투명성ㆍ책임성ㆍ안전성 확보 등 신뢰 기반 조성에 관한 사항
3. 인공지능 기술 발전에 따른 위험 평가 및 대응 방안에 관한 사항
4. 인공지능 안전과 신뢰 기반 조성에 관한 재원의 확보와 투자의 방향 등에 관한 사항
5. 그 밖에 안전과 신뢰 기반 조성을 위하여 도지사가 필요하다고 인정되는 사항
③ 도지사는 제1항에 따른 기본계획을 「경기도 인공지능 기본조례」 제6조의 종합계획에 포함하여 수립ㆍ시행할 수 있다.
④ 도지사는 기본계획에 따라 연도별 시행계획을 수립ㆍ시행 할 수 있다.

도지사는 인공지능 안전과 신뢰 기반 조성에 필요한 행정적ㆍ재정적 지원을 할 수 있다.

도지사는 인공지능 안전과 신뢰 기반 조성을 위하여 인공지능 기술의 활용 현황, 인공지능기술의 발전 또는 활용에 따른 윤리적ㆍ사회적 문제 등에 관한 실태를 조사할 수 있다.

① 도지사는 경기도 인공지능사업자가 고영향 인공지능을 개발하는 경우 다음 각 호의 사항에 대해 평가를 실시할 수 있다.
1. 인공지능 시스템의 기술적 안전성
2. 데이터의 정확성 및 다양성 등 품질 관리 수준
3. 알고리즘의 공정성 및 투명성
4. 개인정보 보호 및 정보 보안 수준
5. 생성된 정보의 정확성과 신뢰성
6. 딥페이크 기술 악용 방지를 위한 보호 조치
7. 관련 법령에 따른 저작권 보호 조치
8. 개인정보 보호 및 오남용 방지를 위한 대책
② 도지사는 평가 결과에 따라 필요한 경우 방지 대책의 수립이나 보호 방안의 마련 등에 개선을 권고할 수 있다.

도지사는 인공지능사업자 및 이용자를 대상으로 안전 교육을 실시할 수 있으며, 다음 각 호의 내용을 포함한다.
1. 인공지능 기술의 이해와 안전한 인공지능 사용법
2. 인공지능윤리 및 관련 법규
3. 인공지능 관련 사고 대응 방법

① 도지사는 경기도의 인공지능 안전과 신뢰 기반 조성에 관한 주요 정책과 계획 등을 심의ㆍ자문하기 위하여 경기도 인공지능 안전과 신뢰 기반 조성 위원회(이하 “위원회”라 한다)를 둔다.
② 위원회와 관련된 사항에 대하여 「경기도 인공지능 기본조례」 제7조에 따른 경기도 인공지능 심의위원회에서 대행할 수 있다.
③ 도지사는 제1항에 따른 위원회를 효율적으로 운영하기 위하여 필요한 경우 분과위원회를 둘 수 있다.

① 위원회는 다음 각 호의 사항을 심의ㆍ자문한다.
1. 고영향 인공지능 규율에 관한 사항
2. 고영향 인공지능과 관련된 사회적 변화 양상과 정책적 대응에 관한 사항
3. 인공지능의 올바른 사용과 인공지능윤리의 실천, 인공지능기술의 안전성ㆍ신뢰성 확립에 관한 사항
4. 그 밖에 고영향 인공지능 적절성 평가에 관한 사항
② 위원회의 위원은 그 직무상 알게 된 비밀을 타인에게 누설하거나 직무상 목적 외의 용도로 사용하여서는 아니 된다.

도지사는 인공지능에 의한 사고 대응 방안 마련 및 인명ㆍ재산의 피해를 줄이고 신속한 회복을 위해 경기도와 사고 발생 각 시ㆍ군 및 관련 기관과의 협력체계를 구축하여 대응할 수 있다.

① 도지사는 인공지능 안전과 신뢰 기반 조성 관련 사무를 효율적으로 추진하기 위하여 필요한 경우, 해당 사무의 전부 또는 일부를 전문성을 갖춘 관련 기관ㆍ법인 또는 단체 등에 위탁할 수 있다.
② 제1항에 따라 사무를 위탁하는 경우 이 조례에서 정하지 아니한 사항은 「경기도 사무의 공공기관 위탁ㆍ대행 조례」 또는 「경기도 사무의 민간위탁 조례」에 따른다.

도지사는 경기도의 인공지능 안전과 신뢰 기반 조성에 공로가 있다고 인정되는 개인 또는 기관ㆍ단체에 대하여 「경기도 포상 조례」에서 정하는 바에 따라 포상할 수 있다.