그 동안 미국을 비롯한 주요국에서의 인공지능(AI) 관련 정책 논의는 주로 ‘규제’보다는 ‘진흥’에 초점을 맞춰 진행되었다. 하지만 최근 ChatGPT 등 생성형 AI 관련 시장이 폭발적으로 확대될 것으로 전망되는 가운데, AI기술의 잠재적 위험성에 대한 우려도 커지고 있는 상황이다. UN도 AI 기술 관련 고위급 논의 기구인 UN AI Advisory Body를 구성하고 2023년 12월 “인류를 위해 AI를 관리하기”(Governing AI for Humanity)라는 중간 보고서(interim report)를 펴내면서, AI 기술의 책임성 있는 활용을 위한 국제사회의 노력을 촉구하기도 했다. 이처럼 AI 기술을 “어떻게 발전시킬 것인가”에서 “어떻게 규제할 것인가”에 대한 논의가 큰 관심을 받는 가운데, 세계 AI 기술 및 산업을 선도하고 있는 미국에서 AI 규제 관련된 논의도 가장 빠르게 구체화되고 있다.

2024년 2월 7일 미국 상무부는 국립표준기술원(NIST : National Institute of Standards and Technology)을 통해 인공지능안전연구소(USAISI : US AI Safety Institute)를 설립한다고 발표했다. 이는 지난 2023년 10월 30일 바이든 대통령이 발표한 ‘AI의 안전하고 신뢰할 수 있는 개발 및 사용에 관한 행정 명령’(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)을 이행하기 위한 첫 단추이다. 특히, USAISI 산하에 테크기업과 정부, 비영리단체, 대학 등 200여 개 기관이 참여하는 ‘인공지능안전연구컨소시엄’(AI Safety Institute Consortium)이 동시에 출범하면서 안전하고 신뢰할 수 있는 AI 기술 표준을 만들기 위한 구체적인 논의가 시작될 예정이다. 해당 컨소시엄은 총 5개의 워킹그룹으로 구성되며 각각의 워킹그룹에서 세부적인 기술 개발 지침이 마련될 것으로 전망된다.

AI규제의 핵심은 ‘안전’과 ‘신뢰’

EU는 2023년 12월 ‘인공지능 규제법’(EU AI Act)에 대해 EU 집행위원회, 유럽의회, EU 27개 회원국의 합의를 이끌어냈다. 업계 당사자를 중심으로 한 실용적, 자율적인 규제를 지향하는 미국과는 달리 EU는 포괄적, 사전예방적 성격이 강하다. EU AI Act의 특징은 ‘리스크 기반 접근’(risk-based approach)으로 AI 리스크를 ‘수용불가 리스크’(unacceptable risk), ‘높은 리스크’(high risk), ‘제한된 리스크’(limited risk), ‘최소한의 리스크’(minimal risk)로 분류하는데, ‘수용불가 리스크’에 해당하는 AI 기술에 대해서 원천적으로 금지하고, ‘높은 리스크’에 해당하는 AI 기술에 대해서는 엄격한 제한사항(예 : 인간의 생체 관련 민간 정보에 대한 위험관리시스템의 구축·실행·유지 의무 등) 을 부과한다.

이 밖에 일본은 올해 2월 14일 ‘인공지능안전연구소’(AI Safety Institute)를 정보기술진흥기구(IPA,Information-Technology Promotion Agency) 산하에 설립하고, AI 기술 활용에 있어 안전성 평가 방법론개발, 조사, 국제협력 등의 업무를 전담한다고 발표한 바 있다.
우리나라도 지금까지 총 12건의 AI 관련 법안이 발의되었으며, 이 중 7개 법안을 통합한 ‘인공지능산업 육성 및 신뢰 기반 조성에 관한 법률(안)’이 국회 과학기술정보방송통신위원회 법안 소위를 통과(’23.2)한 상태이다. 우리나라의 AI 관련 법안은 아직 다소 선언적인 수준에 머물고 있으나 그 방향성은 미국식 자율규제와 EU식 포괄규제의 중간적인 성격을 띌 것으로 예상된다.

AI 기술 분야에서의 혁신과 진화는 지금도 현재진행형으로 향후 규제의 방향성도 얼마든지 변화할 수 있다. 특히, 미국 및 EU 간 규제 차이는 물론 미국 대선 결과와 미-중 기술패권 경쟁의 양상에 따라 AI 기술 규제를 둘러싼 국제표준 논쟁이 앞으로도 지속될 것이다. 특히, AI 규제 대상이 AI 기술이 탑재된 제품과 서비스로 확산될 가능성이 있는 만큼 AI와 직간접적으로 연관된 비즈니스를 가진 기업들은 국내외 AI 규제 동향을 면밀히 모니터링할 뿐만 아니라 국제표준 논의에도 적극적으로 참여할 필요가 있다.

한국 AI기본법도 없어

이처럼 미국과 EU를 중심으로 AI 규제가 수면으로 떠오른 현실에서 정작 국내에는 AI와 관련한 기본법이 여전히 제정되지 않아 문제가 되고 있다. '인공지능(AI) 기본법'은 지난 20ㆍ21대 국회에서 발의됐다가 회기 만료로 폐기됐고 이번 22대 국회에서 재차 입법 제정될 것으로 예상된다. 하지만 여야 간에 국회 국회 과학기술정보방송통신위원회(과방위)가 정쟁으로 치달으면서 현재 AI기본법의 처리는 연내 제정을 확신할 수 없는 상태다. 이로인해 우리 AI기업들의 글로벌 경쟁력에 적신호가 들어오고 있다는 지적이 늘고 있다. 

최근 국회에서는 여야가 모두 참여하는 ‘AI 기본법 공청회’를 주최하기로 했지만 제대로 합의가 이뤄질 것이라 기대하는 전문가들은 찾아 보기 어려운 실정이다. 여야가 발의한 10건의 안건을 보면 모두 큰 틀에서는 AI 산업 진흥에 대해 공감하나 세밀하게는 각각 투자론과 규제론으로 입장이 갈리기 때문이다. 여당은 AI 산업 진흥과 기술 개발 육성에, 야당은 윤리 원칙과 신뢰성 구축, 관리 체계 확립 등에 초점을 맞추면서다. 상충하는 법안을 병합하는 과정에서 적지 않은 진통이 예상된다.

우리나라는 글로벌 AI 국가 역량에서 AI 개발이나 인프라 등은 우수하나, 제도ㆍ규제 등 운영 환경은 타 국가 대비 취약한 것으로 나타났다. 영국 언론기관인 토터스미디어의 ‘2024년 글로벌 AI 인덱스’에 따르면 전 세계 83개국의 AI 경쟁력 수준에서 한국은 지난해와 동일한 종합 6위에 올랐다. 우리나라보다 앞선 나라는 1위 미국, 2위 중국, 3위 싱가포르, 4위 영국, 5위 프랑스 순이다.