KISDI 기본연구(25-10) ‘인공지능·자율시스템 기반 도시의 윤리적 설계방안 연구’

KISDI, 인공지능 기반 도시를 위한 ‘윤리 자율점검표’ 제안
.......................................................................................................................
▲인공지능 기반 도시 확산에 따른 개인정보 침해·감시 강화 등 윤리 리스크 증가
▲공공안전·치안 등 핵심 분야 중심 윤리적 디자인 개발·필요
▲지자체 활용 가능한 ‘인공지능 윤리 자율점검표’ 제안

정보통신정책연구원(KISDI, 원장 이상규)은 기본연구(25-10) ‘인공지능·자율시스템 기반 도시의 윤리적 설계방안 연구’ 보고서를 최근 발간했다.

보고서는 도시가 데이터와 알고리즘을 기반으로 작동하는 ‘인공지능 기반 도시’로 전환되는 상황에서 시민의 권리와 사회적 가치를 고려한 인공지능 도시 정책방향과 도시 환경에서 활용되는 인공지능 시스템의 윤리적 설계와 거버넌스 방향을 제시했다.

최근 교통, 치안, 행정, 보건 등 도시 전반에 인공지능 기술이 확산되고 스마트도시 담론이 ‘인공지능 기반 도시’ 담론으로 진화되는 상황에서 개인정보 침해, 감시 강화, 알고리즘 편향 등 새로운 사회적 리스크를 동반할 가능성에 집중하여 도시 내 이해관계자의 역할을 강조했다.

특히 도시 환경에서 활용되는 인공지능 기술은 시민의 일상과 권리에 직접적인 영향을 미치는 만큼 기술 성능뿐 아니라 윤리적 설계와 책임 있는 운영이 중요함에도 불구하고 기존 스마트도시 정책 담론은 기술 도입과 인프라 구축·확장에 초점을 두는 경우가 많아 도시 차원의 인공지능 윤리 거버넌스 논의는 상대적으로 부족한 상황이다.

연구진은 ▲국내 법·제도 분석 ▲국내 스마트도시계획 검토 ▲해외 도시 사례 분석 ▲전문가 분석적계층화방법론(AHP) 조사 기반 정책 우선순위 분석을 통해 인공지능 기반 도시의 윤리적 관리 필요성을 종합적으로 진단했다.

국내 관련 법제도와 스마트도시계획을 분석한 결과, 인공지능 기술이 스마트도시 정책의 핵심 기술로 빠르게 확산되고 있음에도 불구하고 이를 체계적으로 관리하기 위한 윤리적 거버넌스는 충분히 마련되지 않은 것으로 나타났다. 현행「스마트도시법」과 정책 체계는 여전히 인프라 구축 중심의 개발 사업 성격이 강하며, 도시 운영 과정에서 발생할 수 있는 인공지능의 사회적·윤리적 영향에 대한 제도적 고려는 제한적인 것으로 분석됐다.

전문가 분석적계층화방법론(AHP)을 활용해 도시 핵심 분야에서 발생할 수 있는 윤리적 쟁점에 대해 우선 순위를 분석한 결과, 인공지능 기반 도시에서 윤리적 관리가 우선적으로 필요한 분야는 ▲공공안전·치안(40.6%) ▲의료·복지(23.5%) ▲교통·모빌리티(23.2%) ▲공공행정·대민서비스(12.7%) 순으로 나타났다.

<인공지능·자율시스템 기반 도시의 윤리적 디자인을 위한 자율점검표>

연구진은 인공지능 기반 도시에서 발생할 수 있는 윤리적 리스크를 실무자가 체계적으로 점검할 수 있도록 도시의 ‘윤리적 디자인을 위한 자율점검표(체크리스트)’를 제안했다. 자율점검표는 지방자치단체와 도시 공무원이 인공지능 기술 도입 과정에서 시민의 권리 보호와 사회적 영향을 사전에 검토할 수 있는 정책도구로 활용할 수 있다.

이현경 연구위원은 “인공지능 기반 도시의 거버넌스는 ‘기술이 가능하니 도입한다’는 접근이 아니라 시민의 권리 보호와 사회적 영향에 대한 점검이 출발점으로 설계되어야 한다”고 강조했다. 이어 “기획단계에서부터 윤리적 영향을 고려(Ethics-by-design)하는 문화를 기반으로 기술 혁신과 시민 신뢰가 함께 작동하는 사람 중심의 인공지능 도시로 전환할 필요가 있다”고 밝혔다.

KISDI 기본연구는 KISDI 홈페이지(www.kisdi.re.kr)에서 내려받을 수 있다.

문의 : 인공지능정책연구실 이현경 연구위원(043-531-4109)