요약

● 2024년 5월, 유럽 평의회(Council of Europe)는 인공지능이 인권, 민주주의, 법치주의에 미치는 악영향을 완화하기 위해 세계 최초의 법적 구속력을 가진 ‘인공지능과 인권, 민주주의, 법치주의에 관한 유럽 평의회 프레임워크 협약*’을 채택함
* “Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law”
● (주요 내용) 협약은 인공지능 시스템의 설계, 개발, 사용, 폐기에 이르는 전 생애주기 동안 인권, 민주주의, 법치주의를 보호하고 기술 혁신 촉진을 주요 목표로 함
- 이를 위해 △투명성, △책임성, △평등 및 차별 금지, △장애인 및 아동의 권리 보호, △디지털 리터러시 역량 강화, △개인정보 보호, △신뢰성 등의 원칙을 제시하며, 각 원칙이 인공지능 시스템의 전과정에서 준수되도록 요구함
- 적용 대상은 인권, 민주주의, 법치주의를 침해할 가능성이 있는 공공 당국과 이를 대신하는 민간 행위자이며, △국가 안보 이익 보호 및 국방과 관련된 활동, △아직 사용되지 않은 인공지능 시스템에 관한 연구 및 개발 활동은 제외됨
● (협약의 의의) 본 협약은 세계 최초의 법적 구속력을 갖춘 AI 협약으로서, 유럽 평의회 비회원국과 비국가 행위자들의 가입과 참여도 권장하고 있어 글로벌 표준으로 자리 잡을 가능성이 있음
● (우리나라 동향 및 제언) 본 협약 가입은 우리나라의 인공지능 분야 국제협력을 강화하고, 인공지능 기본법 제정의 동력을 얻어, 인권, 민주주의, 법치주의를 보호하는 법적 기반을 마련할 계기가 될 수 있음
- 우리나라에서도 인공지능 기술로 인한 인권침해 및 민주주의 훼손 사례가 발생하고 있어 이를 방지하기 위한 여러 법안과 가이드라인이 마련되었으나, 이를 포괄하는 인공지능 기본법은 부재한 상황
- 우리나라는 AI 서울 정상회의(´24년 5월)에서 ‘서울 선언’을 채택하며 AI 분야에서 민주주의적 가치, 법치주의 및 인권·기본권 자유와 프라이버시를 보호하고 증진하겠다는 의지를 밝힘