서울특별시교육청 생성형인공지능 윤리적활용에 관한 조례자치법규 2261601

이 조례는 학생이 생성형인공지능 기술을 활용함에 있어 타인의 권리를 존중하고 사회적 책임을 인식하여 올바른 가치판단과 윤리적 행동을 실천할 수 있도록 기반을 조성하는 것을 목적으로 한다.

이 조례에서 사용하는 용어의 뜻은 다음과 같다.
1. "생성형인공지능"이란 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제2조제5호에 따른 생성형인공지능으로서, 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템을 말한다.
2. "윤리적활용"이란 생성형인공지능을 활용함에 있어 타인의 권리를 존중하고 허위 콘텐츠를 생성ㆍ유포ㆍ공유 등을 하지 않으며, 정보의 편향성과 허위성을 비판적으로 인식하여 올바르게 활용하는 것을 말한다.
3. "학교"란 「초ㆍ중등교육법」 제2조에 따른 학교를 말한다.
4. "학생"이란 서울특별시교육청 소관 학교에 재학 중인 사람을 말한다.

① 서울특별시교육감(이하 "교육감"이라 한다)은 학생의 생성형인공지능 윤리적활용을 위한 시책을 수립ㆍ시행하고 이를 위한 행정적ㆍ재정적 지원 방안을 마련하도록 노력하여야 한다.
② 학교의 장(이하 "학교장"이라 한다)은 소속 학교의 학생을 대상으로 생성형인공지능의 윤리적활용을 위한 교육활동을 운영할 수 있다.

생성형인공지능의 윤리적활용에 관하여 다른 조례에 특별한 규정이 있는 경우를 제외하고는 이 조례가 정하는 바에 따른다.

① 교육감은 생성형인공지능의 윤리적활용을 위한 시행계획(이하 "시행계획"이라 한다)을 매년 수립ㆍ시행하여야 한다.
② 제1항에 따른 시행계획에는 다음 각 호의 사항이 포함되어야 한다.
1. 생성형인공지능의 윤리적활용을 위한 기본 방향 및 목표
2. 학교급별 맞춤형 생성형인공지능의 윤리적활용을 위한 교육 방안
3. 교직원의 생성형인공지능 윤리적활용에 대한 역량 강화 방안
4. 그 밖에 생성형인공지능의 윤리적활용을 위해 교육감이 필요하다고 인정하는 사항
③ 교육감은 전년도 시행계획의 평가 결과를 다음 연도 시행계획 수립에 반영할 수 있다.

① 교육감은 학생의 생성형인공지능 사용 실태 및 윤리의식 수준을 파악하기 위하여 매년 실태조사를 실시할 수 있다.
② 제1항에 따른 실태조사에는 다음 각 호의 사항을 포함할 수 있다.
1. 학생의 생성형인공지능 사용 현황 및 목적
2. 딥페이크 등 합성 콘텐츠에 대한 인식 수준
3. 타인의 권리 침해 및 허위정보 생성에 대한 인식
4. 생성형인공지능 윤리적활용에 대한 이해도
5. 학교의 윤리교육 실시 현황 및 효과
③ 교육감은 제1항에 따른 실태조사 결과를 시행계획 수립에 반영할 수 있다.
④ 교육감은 제1항에 따른 실태조사를 전문기관, 법인 또는 단체에 위탁할 수 있다. 이 경우 위탁에 필요한 경비를 예산의 범위 내에서 전부 또는 일부 지원할 수 있다.

① 학교장은 제5조에 따른 시행계획을 바탕으로 생성형인공지능의 윤리적활용에 관한 교육을 실시할 수 있다.
② 제1항에 따른 교육에는 다음 각 호의 내용을 포함할 수 있다.
1. 생성형인공지능 기술의 기본원리와 한계에 대한 이해
2. 생성형인공지능을 활용하여 생성된 콘텐츠의 부적절성, 편견 등 문제 인식
3. 생성형인공지능을 활용한 허위ㆍ조작 콘텐츠(딥페이크 등) 제작ㆍ유포의 위험성 및 법적 책임
4. 개인정보 및 저작권 보호의 중요성과 방법에 관한 사항
5. 생성형인공지능 활용 시 출처 표기 등 학문적 정직성에 관한 사항

교육감은 생성형인공지능의 윤리적활용에 관한 지침을 개발하여 학교에 보급할 수 있다.

교육감은 생성형인공지능의 윤리적활용을 위해 필요한 비용을 예산의 범위에서 지원할 수 있다.

교육감은 생성형인공지능의 윤리적활용을 위해 기여한 공적이 탁월한 교직원, 공무원, 개인 또는 단체 등에 대하여 「서울특별시교육청 교육ㆍ학예에 관한 표창 조례」에 따라 표창할 수 있다.

교육감은 생성형인공지능의 윤리적활용과 관련된 교육의 전문성과 효과성을 높이기 위하여 관련 전문기관ㆍ대학ㆍ법인ㆍ단체 등과 협력체계를 구축할 수 있다.

이 조례의 시행에 필요한 사항은 규칙으로 정한다.