요약

● 본 고는 2022년 3월 발간된 미국 국립표준기술연구소(NIST)의 ‘인공지능 편향식별 및 관리기준 마련’ 보고서 중 인공지능 편향의 범주 및 인공지능 편향 해결을 위한 과제와 권장 지침을 소개
* 인공지능 편향은 다양한 형태로 사회에 존재하며, 인공지능 시스템에 나타난 특정 편향은 개인과 조직, 사회에 대한 부정적 영향을 증폭하고 영속시킬 수 있으므로 이를 방지하기 위한 식별·관리가 필요
● NIST 보고서는 인공지능 편향 해결을 위한 과제와 권장지침을 제시하고, 사회-기술적 관점에서 인공지능 편향의 관리를 위해 거버넌스 차원에서 고려해야 할 지침을 다음과 같이 제시
① 잠재적인 편향 문제가 감지되는 경우 담당 직원에게 경고할 수 있도록 모니터링할 수 있는 추가 시스템 배포
② 부정확하거나 잠재적으로 유해한 결과를 표시하고, 오류 또는 위해에 대해 최종 사용자가 배상을 청구할 수 있는 채널 구축
③ 인공지능 생명주기 모든 단계에서 주요 역할, 책임 및 과정을 다루는 정책 및 절차 마련
④ 감독 담당자가 시스템의 잠재적 편향에 대한 정보에 입각하여 위험 수준에 기반한 결정을 내릴 수 있도록, 시스템 메커니즘에 대한 해석 가능한 설명을 포함하는 표준화된 문서 개발
⑤ 인공지능 시스템의 편향 관리 책임 명확화
⑥ 인공지능 편향의 위험을 관리하는 데 리스크 회피가 아닌 완화가 가장 효과적인 요소임을 조직은 인식해야 하며, 이러한 접근은 편향의 리스크를 신속하게 완화하는 데 도움이 될 수 있음