|
지난 14일, 구글은 인종 차별적 판단을 내린 당사의 AI 서비스에 대해 사과의 입장을 밝혔다. 구글의 이미지 식별 AI 서비스가 피부색에 따라 다른 결과를 도출했기 때문이다. 독일의 IT전문매체인 알고리즘워치의 이미지 식별 실험에서, 구글의 서비스는 밝은 피부를 가진 사람이 체온계를 들고 있는 사진에는 체온계로, 어두운 피부를 가진 사람이 체온계를 들고 있는 사진에는 총으로 분류했다. 이에 대해 구글은 시스템적 편향이라 인정할 수는 없지만, 차별적 결과로 인해 발생할 수 있는 피해에 대해 사과하고 결과와 인종차별의 관련성을 인식하는 것이 중요하다고 밝혔다. 이러한 결과가 나온 것은 해당 AI 서비스가 충분한 학습 과정을 거치지 않았기 때문일 것이다. 이미 편향된 데이터 잘못 학습했을 가능성도 존재한다.
앞에서 소개한 구글 사례뿐만 아니라 아마존 채용시스템에 의한 특정 직군 여성 지원자 배제, 범죄예측 프로그램의 과도한 흑인 재범률 예측 사례 등에서 알 수 있듯 오랜 시간 동안 형성된 인간의 편향이 사회에 만연하고 있으며, 그런 사회를 반영한 데이터를 활용해 AI 서비스를 제공할 경우 개발자가 의도하지 않을지라도 차별을 조장하고 영속화할 가능성이 있다. 『대량살상수학무기』(2017)의 저자 캐시 오닐은 “알고리즘이 공정할 것이라는 생각을 버리고, 알고리즘을 민주적으로 통제해야 한다”고 주장하며, “우리 사회에 차별이 이미 내재해 있기 때문에 알고리즘에도 차별이 발생할 수 밖에 없다”고 말하기도 했다.
이러한 배경에서 미국 연방거래위원회(Federal Trade Commission, 이하 FTC)는 위원회 웹페이지 블로그를 통해 AI 및 알고리즘 사용에 대한 지침을 발표하였다. 본 지침은 기업이 AI 및 알고리즘을 사용하는 과정에서 소비자에게 발생할 수 있는 위험을 어떻게 관리할지에 대한 방향을 제시하기 위해 만들어졌다. 이에 본고에서는 미국 FTC에서 발표한 ‘Using Artificial Intelligence and Algorithms(AI 및 알고리즘 사용, 2020.04)’ 지침의 주요 내용을 소개하도록 하겠다.
|
