경기도 사회복지 인공지능 서비스 활용 촉진 지원 조례자치법규 2260484

이 조례는 경기도 사회복지 분야에서 인공지능기술의 활용을 촉진하고 경기도민의 권익과 사회복지 인공지능 서비스의 질 향상을 증진하는 데 필요한 사항을 규정함을 목적으로 한다.

이 조례에서 사용하는 용어의 뜻은 다음과 같다.
1. “사회복지 인공지능 서비스”란 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “법”이라 한다) 제2조제3호에 따른 인공지능기술의 전부 또는 일부를 활용하여 「사회보장기본법」제3조제4호에 따른 사회서비스를 경기도(이하 “도”라 한다)가 제공ㆍ지원하는 사업을 말한다.
2. “고영향 서비스”란 사회복지 인공지능 서비스 중 법 제2조제4호에 따른 고영향 인공지능이 활용되는 서비스를 말한다.
3. “서비스 종사자”란 사회복지 인공지능 서비스를 활용하여 도민에게 직접 사회서비스를 제공하는 사람을 말한다.
4. “사회복지 인공지능 관련 산업”이란 사회복지 인공지능 서비스와 관련된 기술을 연구ㆍ개발하거나 제품을 생산 또는 유통하는 산업을 말한다.
5. “정보취약계층”이란 「경기도 정보취약계층 정보화 지원 조례」 제2조제1호에 따른 정보취약계층을 말한다.

사회복지 인공지능 서비스의 개발 및 이용은 다음 각 호의 원칙을 따라야 한다.
1. 모든 기술의 활용은 인간의 존엄과 가치를 최우선으로 해야 하며, 특히 사회적 약자를 보호하는 방향으로 이루어져야 한다.
2. 성별, 연령, 장애, 소득수준 등을 이유로 부당한 차별이 발생하지 않도록 데이터의 편향성을 최소화하고 알고리즘의 공정성을 확보해야 한다.
3. 서비스의 전 과정에서 발생할 수 있는 잠재적 위험을 예방하고 기술적 안전성과 결과의 신뢰성을 확보하여 도민의 생명과 재산을 보호해야 한다.
4. 도민이 인공지능 서비스와 상호작용한다는 사실과 그 결정의 주요 기준을 명확히 알 수 있어야 하며, 이에 대한 설명을 요구할 권리가 보장되어야 한다.
5. 서비스 제공에 필요한 최소한의 개인정보만을 처리해야 하며, 특히 민감한 복지 정보가 유출되거나 오남용되지 않도록 엄격한 기술적ㆍ관리적 보호조치를 취해야 한다.

① 경기도지사(이하 “도지사”라 한다)는 사회복지 인공지능의 활용에 있어 도민 보호, 종사자 교육, 산업 육성이 균형 있게 발전할 수 있도록 종합적인 시책을 수립ㆍ시행해야 한다.
② 도지사는 이 조례에 규정된 시책 및 각종 사업의 원활한 추진을 위해 필요한 재원을 안정적으로 확보하도록 노력해야 한다.
③ 도지사는 사회복지 인공지능 활성화를 위하여 중앙정부, 관련 기업ㆍ단체 및 대학ㆍ연구소 등과 유기적인 협력체계를 구축하고 도민의 의견을 수렴하여 정책에 반영하도록 노력해야 한다.

이 조례는 사회복지 인공지능 서비스에 관하여 다른 조례에 우선적으로 적용하되, 이 조례에 규정된 것을 제외하고는 「경기도 인공지능 기본조례」에서 정하는 바에 따른다.

도지사는 정보취약계층에 대한 사회복지 인공지능 서비스의 제공이 어렵다고 판단될 경우 정보취약계층이 사회서비스에서 배제되지 않도록 대체 사회서비스 제공 방안을 마련할 수 있다.

① 도지사는 고영향 서비스의 도입 또는 변경 등으로 인하여 도민의 생명, 신체의 안전 및 기본권등(이하 “기본권등”이라 한다)에 중대한 영향을 미칠 우려가 있는 경우, 사전에 도민의 기본권등에 미치는 영향에 대한 평가(이하 “영향평가”라 한다)를 실시할 수 있다.
② 제1항에 따른 영향평가에는 다음 각 호의 사항이 포함되어야 한다.
1. 사회복지 인공지능 서비스의 목적과 필요성, 편향성 및 시스템 운용 과정에서의 개인정보 침해 위험 분석
2. 데이터의 출처, 품질, 편향성 및 데이터 활용 과정에서의 개인정보 침해 위험 분석
3. 알고리즘의 투명성, 공정성 및 차별 발생 가능성 분석
4. 사회복지 인공지능 서비스 오류나 데이터의 위ㆍ변조, 개인정보 유출, 시스템 장애 및 외부 공격 등(이하 “외부 공격 등”이라 한다)이 도민의 안전과 권리에 미칠 수 있는 위험 분석
5. 제4호에 따른 위험을 완화하기 위한 기술적 보호조치 및 비상 대응 계획
③ 도지사는 영향평가를 실시할 경우 관련 전문가, 서비스 종사자 및 서비스 대상이 되는 도민의 의견을 수렴하도록 노력해야 한다.
④ 도지사는 영향평가의 결과를 「경기도 인공지능 기본조례」 제7조에 따른 경기도 인공지능위원회의 자문을 거쳐 같은 조례 제6조제3항에 따른 시행계획에 반영하고, 그 주요 내용을 도민에게 공개해야 한다.

① 도지사는 서비스 종사자가 관련 기술을 윤리적이고 효율적으로 활용할 수 있도록 정기적인 교육을 시행해야 한다.
② 제1항에 따른 교육에는 다음 각 호의 내용이 포함되어야 한다.
1. 개인정보 보호
2. 데이터 편향성 등 인공지능 윤리원칙
3. 제3조제4호에 따른 도민의 설명요구권 및 이의제기 절차에 대한 응대 방법
4. 인공지능 활용 업무 절차 및 매뉴얼

도지사는 사회복지 인공지능 서비스 도입으로 인해 서비스 종사자의 고용 불안이나 과도한 업무 부담으로 이어지지 않도록 업무환경 개선 및 심리적ㆍ정서적 지원 방안을 마련하도록 노력해야 한다.

도지사는 사회복지 분야의 인공지능 기술 활용 촉진을 위하여 다음 각 호의 지원사업을 추진할 수 있다.
1. 사회적 약자의 삶의 질 향상을 위한 기술의 연구ㆍ개발 지원
2. 사회복지시설 등에 적용할 수 있는 기술의 연구ㆍ개발 지원
3. 사회복지 인공지능 서비스의 안정성과 윤리성을 증진할 수 있는 기술의 연구ㆍ개발 지원
4. 사회복지 인공지능 서비스 분야의 유망기업에 대한 기술ㆍ경영 지원
5. 그 밖에 사회복지 인공지능 기술 활용 촉진을 위하여 도지사가 필요하다고 인정하는 사업

① 도지사는 사회복지 인공지능 서비스의 운영 및 인공지능 학습에 사용되는 데이터를 다음 각 호의 지침에 따라 관리ㆍ감독해야 한다.
1. 데이터의 내용이 사실과 부합하고 최신성을 유지할 것
2. 특정 집단에 편중되지 않고 서비스 대상 집단을 공정하게 대표할 것
3. 「개인정보 보호법」 등 관련 법령에 따라 적법하게 수집할 것
② 도지사는 수집된 데이터가 가명 또는 익명 처리되어 개인을 특정할 수 없도록 조치해야 하며, 데이터의 처리, 보유, 파기 등 전 과정에 대한 이력을 기록ㆍ관리해야 한다.

① 도지사는 사회복지 인공지능 서비스와 관련하여 인공지능이 내린 결정이나 예측을 최종적으로 채택하여 행정처분을 할 때는, 담당 공무원 등이 직접 타당성을 검토하고 승인하는 절차를 마련해야 한다.
② 도지사는 제1항에 따른 검토 및 승인 없이 인공지능이 내린 결정이나 예측에 따라 행정처분이 이루어진 사실을 알게 된 경우에는 지체없이 그 처분을 취소하고, 제1항에 따른 담당 공무원 등이 재검토하여 최종 결정하도록 해야 한다.
③ 사회복지 인공지능 서비스와 관련하여 어떠한 경우에도 인공지능의 결정은 제2항에 따른 최종적인 판단과 결정을 대체할 수 없다.

① 도지사는 사회복지 인공지능 서비스의 운영 현황과 성과를 정기적으로 모니터링하고 평가해야 한다.
② 제1항에 따른 모니터링 및 평가 항목에는 다음 각 호의 사항을 포함해야 한다.
1. 서비스 이용률 및 이용자 만족도
2. 시스템 안정성 및 신뢰성
3. 개인정보 보호 준수 현황
4. 알고리즘 공정성 점검
5. 데이터의 품질
③ 도지사는 제1항에 따른 평가의 결과를 사회복지 인공지능 서비스 개선을 위하여 반영해야 한다.

① 도지사는 사회복지 인공지능 서비스의 안정적인 운영을 위하여 외부 공격 등에 대비한 보안체계를 구축해야 한다.
② 도지사는 외부 공격 등의 상황 발생 시 서비스의 중단을 최소화하고 신속하게 복구하기 위한 비상 대응 및 백업 체계를 마련해야 하며, 피해가 발생한 경우 그 사실을 지체 없이 해당 도민에게 알리고 필요한 구제조치를 취해야 한다.
③ 도지사는 외부 공격 등으로 인한 도민 피해 등의 신고를 접수할 수 있는 전담 신고 체계를 설치ㆍ운영해야 한다.