수원시 공공 인공지능 서비스 등록 및 관리에 관한 조례자치법규 2261716

이 조례는 공공 인공지능 서비스의 등록 및 정보공개에 관한 사항을 규정함으로써 행정의 투명성ㆍ윤리성ㆍ책임성을 확보하고, 수원시민의 알 권리를 보장하여 신뢰 기반의 인공지능 행정서비스 구현에 이바지함을 목적으로 한다.

이 조례에서 사용하는 용어의 뜻은 다음과 같다.
1. “공공 인공지능 서비스”란 공공기관이 행정ㆍ복지ㆍ교통ㆍ환경ㆍ안전 등의 분야에 공공목적으로 도입ㆍ운영하는 인공지능 기술 기반의 서비스 또는 시스템을 말한다.
2. “등록제”란 공공 인공지능 서비스에 관한 주요 정보를 등록하고, 수원시민(이하 “시민”이라 한다)에게 일정 범위의 정보를 공개하여 기술 활용의 투명성과 책임성을 확보하는 제도를 말한다.
3. “인공지능 등록시스템”이란 공공 인공지능 서비스의 정보를 통합ㆍ관리하고 시민에게 제공하기 위하여 구축ㆍ운영하는 온라인 시스템을 말한다.
4. “공공기관”이란 다음 각 목의 어느 하나에 해당하는 것을 말한다.
가. 수원시
나. 수원시의회
다. 「수원시 출자ㆍ출연 기관의 운영에 관한 조례」에 따른 기관
라. 「지방공기업법」에 따라 시가 설립한 지방공기업
5. “피해”란 공공 인공지능 서비스의 오류 및 차별, 개인정보 유출, 자동화된 의사결정으로 인한 불이익 등 시민의 권익 침해를 말한다.

수원시장(이하 “시장”이라 한다)은 공공 인공지능 서비스의 공공성과 신뢰성을 확보하기 위하여 다음 각 호의 사항을 이행하도록 노력하여야 한다.
1. 공공 인공지능 서비스 등록 및 정보공개 체계의 구축ㆍ운영
2. 등록 정보의 지속적인 관리 및 최신성 유지
3. 안전하고 윤리적인 인공지능 기술 활용 환경 조성
4. 시민의 알 권리 및 공공 인공지능 서비스에 대한 설명권 보장
5. 시민 피해 예방 및 신속한 대응을 위한 제도적 기반 마련
6. 공공 인공지능 서비스 운영 결과에 따른 개선 권고 및 행정적 지원

① 시장은 공공 인공지능 서비스를 도입하거나 운영하는 경우 다음 각 호의 사항을 인공지능 등록시스템에 등록할 수 있다.
1. 공공 인공지능 서비스명 및 도입ㆍ운영 기관
2. 도입 목적 및 추진 배경
3. 적용 분야 및 서비스 대상
4. 주요 기능 및 제공 방식
5. 활용된 인공지능 기술의 유형
6. 학습용 데이터의 종류 및 출처
7. 개인정보 처리 여부 및 관련 법적 근거
8. 공공 인공지능의 작동 방식 및 의사결정 구조에 대한 설명
9. 공공 인공지능 서비스 성과 및 기대 효과
10. 공정성ㆍ차별 방지ㆍ위험 대응 등 윤리적 고려사항
11. 개발 및 운영 주체에 관한 사항
12. 공공 인공지능 서비스 개시일, 주요 변경 이력 및 유지ㆍ관리 계획
13. 자동화된 행정행위 포함 여부
14. 재원 출처 및 운영 평가 결과
15. 국가 또는 국제적 인공지능 윤리 기준 준수 여부
② 제1항에 따라 등록된 정보는 개인정보 보호, 국가안보, 영업비밀에 해당하는 경우를 제외하고 시민에게 공개하도록 노력하여야 하며, 시민이 이해하기 쉬운 방식으로 제공할 수 있다.
③ 신규 공공 인공지능 서비스는 서비스 개시 전 등록하는 것을 원칙으로 하며, 주요 변경사항이 발생한 경우에는 지체 없이 정보를 현행화하도록 노력하여야 한다.

시장은 공공 인공지능 서비스로 인한 시민 피해 발생 시 다음 각 호의 사항을 추진할 수 있다.
1. 피해 접수 및 사실 조사
2. 관계 전문가 또는 기관과의 협력에 따른 원인 분석 및 대응 조치
3. 당사자 간 분쟁 조정 및 합의 지원
4. 법률ㆍ행정적 구제 절차에 대한 정보 제공 및 기관 연계
5. 피해 사례 분석을 통한 정책 개선 의견 수렴

① 시장은 등록된 공공 인공지능 서비스의 정보가 최신 상태로 유지될 수 있도록 필요한 조사를 할 수 있다.
② 조사 결과는 공개를 원칙으로 하며, 문제점이 발견된 경우 해당 기관에 시정조치를 요구할 수 있다.
③ 시장은 평가 결과를 종합하여 매년 수원시 홈페이지에 게재할 수 있다.

시장은 등록제의 안정적인 운영과 공공 인공지능 서비스의 책임성 강화를 위하여 필요한 범위 내에서 행정적 또는 재정적 지원을 할 수 있다.

시장은 제4조 및 제5조에 따른 공공 인공지능 서비스 등록과 피해지원 사무 중 일부를 「수원시 사무위탁 조례」에 따라 전문 기관 또는 단체 등에 위탁할 수 있다.