요약

본 연구는 AI 서비스 이용자의 권익을 보호하고 공정한 AI 산업환경을 조성하기 위한 중장기 정책과제와 추진 로드맵을 제시하는 것을 목적으로 한다. 이를 위해 제2장에서는 AI 서비스 이용 및 시장 동향을 조사하여 확산 속도와 이용행태, 산업 생태계 구조를 파악한다. 제3장에서는 주요국의 AI 서비스 정책 및 법제 동향을 분석하여 국제적 흐름과 시사점을 정리한다. 이상의 분석을 토대로 제4장에서는‘AI 서비스 이용자 정책 종합계획(안)’을 제시하고 안전하고 건강한 이용환경 조성, AI 서비스와 이용자의 동반성장, 이용자 보호 인프라 구축이라는 3대 추진방향 아래 세부 추진과제를 구체화한다. 마지막으로 제5장에서 정책적 함의와 추진상 유의점, 기대효과를 종합하여 결론을 제시한다.
시장 및 법제 현황 조사를 통해 AI가 사회 전반의 필수 인프라로 자리 잡았지만, 생성형 AI 확산과 함께 오류·편향·환각, 딥페이크와 허위정보, 프라이버시 침해, 추천 알고리즘에 따른 확증편향 등 이용자 피해와 사회적 위험도 급증하고 있음을 확인하였다. AI 생태계의 구조적 특성은 시장 집중과 정보 비대칭을 심화시켜 공정 경쟁과 이용자 선택권을 약화시킬 우려가 있어, 향후 AI 정책은 혁신과 보호를 대립시키기보다 ‘신뢰 기반 혁신’을 목표로 예방적 안전장치와 공정한 시장 질서를 함께 구축해야 한다. 이에 본 연구는 ‘AI 서비스 이용자정책 종합계획(안)’을 통해 다음의 정책 방안을 제안하였다.
첫째, 안전하고 건강한 AI 서비스 이용환경 조성이 필요하다. AI를 악용한 불법유해정보와 범죄에 대응하기 위해 신유형 불법유해정보에 대한 규율 공백을 보완하고, 서비스 제공 및 유통 단계에서 기술적·관리적 조치를 강화해야 한다. 특히, AI 생성물의 투명성 확보를 위해 플랫폼과 정보제공자의 표시 및 고지 의무를 구체화하고, 방송미디어 영역에서는 실태조사와 분야 특화 가이드라인을 통해 혼동 가능성과 피해를 예방할 필요가 있다. 아울러 AI 생태계에서 발생할 수 있는 불공정행위와 이용자이익 저해행위를 모니터링하고, 필요시 제도적 규율 체계로 연결하는 장치가 요구된다.
둘째, AI 서비스와 이용자의 동반성장을 위해 이용자의 기본권과 역량을 강화해야 한다. AI 서비스 이용 거부권, 개인화 과정에서의 정보 제공 범위 결정, 이의제기 및 설명 요구 등 이용자 권리를 구체화하여 정보 비대칭을 완화하고, 이용자 데이터 통제권과 프라이버시 보호를 실질화해야 한다. 또한, 알고리즘 추천서비스의 투명성 제고와 선택권 보장을 통해 이용자가 추천 여부와 방식에 대해 주체적으로 결정할 수 있도록 제도적 기반을 마련할 필요가 있다. 더불어 취약계층의 접근성 개선과 맞춤형 교육·캠페인을 통해 AI 격차를 완화하고, 크리에이터 등 콘텐츠 생산 주체를 대상으로 역기능 예방 중심의 AI 미디어 리터러시를 강화함으로써 책임 있는 활용 문화를 확산해야 한다.
셋째, 정책의 지속가능성과 집행력을 담보하기 위해 이용자 보호 인프라를 강화해야 한다. 이용자 피해의 예방, 접수, 상담, 사후관리의 선순환 체계를 고도화하고, 집단적·예방적·실시간 구제에 적합한 전문 분쟁해결기구 도입을 검토할 필요가 있다. 또한, 민간 중심 자율규제를 유지하되, 민관 공동규제 체계를 통해 의제 설정, 자율규약 수립, 이행점검, 정책환류가 작동하도록 거버넌스를 정비해야 한다. AI 서비스 이용자 보호 평가·인증 체계는 사업자의 자발적 개선을 유도하는 인센티브로 기능할 수 있으며, 국제 정책·조사 협력은 국경을 넘는 AI 서비스의 특성상 필수적이다. 나아가 정책 담당 조직의 전문성 강화와 방미통위 내부 AX를 병행함으로써 규제, 지원, 소통 전반의 효율성과 신뢰를 높여야 한다.
AI 서비스 이용자 보호와 공정한 산업환경 조성은 기술 변화 속도에 맞춘 유연한 규율, 산업계의 책임 있는 자율, 이용자의 역량 강화, 정부의 전문적 거버넌스가 결합될 때 비로소 신뢰 기반의 AI 생태계가 형성될 수 있다. 본 연구 결과가 향후 AI 서비스 이용자정책 종합계획 수립과 제도 설계의 기초자료로 활용되어 이용자는 안심하고 AI를 사용하며, 기업은 신뢰 속에서 혁신하는 지속 가능한 AI 생태계 구축에 기여하기를 기대한다.