주요국, 인종·성별 차별 등 역기능 방지 위해 속속 '법제화'
국회입법조사처, "정부, AI 검증 및 집행 역량 확보해야" 제언
[위클리서울=박영신 기자] 인공지능의 공정성·책임성·투명성·윤리의식(FATE Fairness·Accountability·Transparency·Ethics)을 확보하기 위한 입법이 주요국에서 논의되고 있는 가운데 우리나라도 정부의 인공지능 검증 조사 및 집행 역량을 확보해야 한다는 제언이 나왔다.
2022년 11월 오픈에이아이의 ‘챗GPT(ChatGPT)’가 등장하면서 사회 곳곳에서 인공지능에 대한 관심이 더욱 폭발적으로 늘어났으며 인공지능 기술의 효용성과 영향력을 체감하며 찬사를 보내고 있다.
그러나 2022년 화상회의 서비스에 인공지능을 활용해 학생 감정을 모니터링하는 시스템을 개발한 사건, 런던 경찰청이 범죄조직의 잠재적 위험도를 평가하기 위해 사용하는 인공지능 도구에서 특정 민족과 인종을 차별하는 경향이 발견된 사건 등이 발생한 바 있다.
아마존이 개발한 인공지능 채용 알고리즘이 남성 지원자를 더 우대하고, 구글의 구인 알고리즘이 고임금 일자리 광고를 여성보다 남성에게 더 높은 확률로 노출한 바 있으며 음성을 복제하는 인공지능 기술이 보이스피싱에 이용되고, 인공지능이 생성한 미국 국방부 청사 화재 딥페이크 사진이 미국 주식시장에 영향을 주기도 했다.
이에 인공지능으로 인한 부작용과 역기능을 방지하기 위한 대응과 통제 수단 마련이 필요하다는 목소리도 높아지고 있다.
빌 게이츠는 인공지능으로 인한 위험을 줄이는 것을 전염병, 핵전쟁과 같은 위험과 동일하게 전 세계의 우선 과제로 삼아야 한다는 성명을 발표하기도 했다.
주요국은 그동안 윤리적 차원에서 논의됐던 인공지능의 FATE를 일부 법제화하는 움직임을 보이고 있다.
EU는 ‘인공지능에 관한 통일규범 제정 및 일부 연합제정법들의 개정을 위한 법안’을 2023년 6월 통과시켰다.
EU 인공지능법안은 인간 중심의 접근을 위해 △인간에 의한 감독 △기술적 견고성과 안전성 △프라이버시 및 데이터 거버넌스 △투명성 △다양성·비차별성·공정성 △사회 및 환경복지를 인공지능이 준수해야 할 일반원칙으로 제시하고 있다.
이에 기반해 사람의 안전·생계 권리에 명백한 위협으로 간주되는 인공지능 시스템은 금지하고, 고위험에 해당하는 인공지능 시스템에는 위험관리 시스템 운영 위험과 차별 결과를 최소화하는 데이터 마련 결과의 추적성을 보장하기 위한 자동 로그 생성, 위험에 대한 정보 제공, 기본권 영향평가 등의 의무를 부여함으로써 FATE를 구체화하고 있다.
또한 생성형 인공지능에 대해서는 사람이 인공지능과 상호작용하고 있음을 알리고, 기본권, 민주주의, 안전 등에 위반되지 않는 콘텐츠를 생성할 것을 요구하고 있다.
미국의 경우 2022년 ‘알고리즘책임법안’이 발의됐다.
이 법안은 알고리즘을 개발 배포하는 일정 기준 이상의 기업으로 하여금 자동화된 의사결정 시스템과 그 시스템을 중요한 의사결정에 활용하는 과정이 소비자에게 미치는 영향을 평가하도록 해 투명성과 책임성을 부과하고 있다.
국내에서는 정부가 2020년 ‘인공지능 윤리기준’, 2021년 ‘신뢰할 수 있는 인공지능 실현전략’을 발표하고 2023년부터 인공지능 제품·서비스별 평가체계를 마련하기 시작하는 등 관련 조치를 취하고 있다. 국회에서는 7건의 법률안을 병합한 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안’이 지난 2월 과학기술정보방송통신위원회 법안심사소위를 통과했다.
국가인권위원회는 지난해 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 마련하기도 했다.
국회입법조사처는 “인공지능 시스템의 FATE에 대한 규제가 어느 정도 필요하다는 점에 대해 사회적 합의가 도출되고 있는 것으로 보인다”고 짚었다.
이에 입법조사처는 “데이터 출처 품질을·점검하고 인공지능 시스템의 기능과 보안을 평가하는 내부 거버넌스를 구축하며 위험을 평가해 경감 조치를 취하도록 하되 단계적으로 통제 수단을 도입할 필요가 있다”고 주장했다.
이어 “규제의 실효성을 확보하기 위해 정부의 인공지능 검증 조사 및 집행 역량을 확보해야 할 것”이라고 제언했다.