이제 AI(AI)은 우리 생활 깊숙이 들어와 있습니다. ‘AI 시대’가 도래했단 분석도 나옵니다. AI의 발전으로 인간의 삶은 놀랍도록 편해졌지만, 그 이면에 숨어 있는 위험성도 배제할 순 없는데요. 이에 따라 EU의 AI규제법 제정을 필두로 전 세계에서 AI 규제 방안이 논의되고 있습니다. 강력한 규제 예고에 정부와 AI 관련 빅테크 기업들이 대립각을 세우고 있는 상황입니다.
EU가 먼저 쏘아 올린 ‘AI규제법’
사용자의 요구에 따라 글쓰기, 영상 제작, 컴퓨터 프로그램 제작까지 다양한 업무를 순식간에 해내는 AI가 우리 사회 전반에 뿌리를 내리고 있습니다. 덕분에 편리하고도 혁신적인 생활을 누릴 수 있게 됐지만, 동시에 잘못된 정보의 위험성에 대한 불안도 커졌습니다. 불명확한 알고리즘 동작, 예측할 수 없는 결과는 물론, 저작권 침해, 개인정보 노출, 불법 콘텐츠 생성과 같은 윤리적인 문제가 발생하고 있기 때문입니다.
그 밖에도 일부 기업의 기술 독점과 시장 지배로 인한 통제력 상실, 무기화 등으로 인류를 위해 개발된 AI가 오히려 인류를 위협할 수 있는 존재가 될 수도 있다는 우려가 커지고 있습니다. 각국은 정부 차원에서 빅테크 기업의 독점을 막고 AI 개발에 적극 개입해야 한다는 목소리를 높이고 있습니다.
이러한 상황에서 유럽연합(EU)이 세계 최초로 ‘AI규제법’을 만들어 시행하기로 했습니다. AI규제법은 AI의 개발과 사용, 유통을 규율하는 규정입니다. 전 세계적으로 포괄적 성격의 AI 규제법이 마련된 건 이번이 처음입니다. EU의 AI규제법은 2021년 초안이 발의된 이후 이듬해 챗GPT 등 생성형 AI 등장으로 부작용 발생에 대한 우려가 확산하면서 입법에 속도가 붙었습니다. 2023년 12월 9일 유럽연합의 의회와 이사회가 합의하고, 2024년 5월 21일 최종 승인하여, 6월 1일 발효됐습니다. 발효 이후 6개월이 지난 뒤부터는 금지 대상 AI 규정이 우선 시행되며, 12개월 이후부터는 사람과 유사한 수준의 범용 AI에 대한 규제가 시작됩니다. 전면 시행은 2026년 중반 이후부터입니다.
AI규제법은 AI 잠재적 위험과 이점을 모두 고려하고 있습니다. 안전하고 신뢰할 수 있는 AI의 개발과 사용을 촉진하는 동시에 AI가 인권과 민주주의, 법치주의, 환경 지속가능성 등에 부정적인 영향을 미치는 것을 방지한다는 목표를 세우고 있습니다. 법안의 내용을 자세히 살펴보면, 고위험 등급을 포함해 AI 활용 위험도를 크게 네 단계로 나눠 차등 규제하며, 인간의 행동을 조작하거나 취약성을 활용하는 일부 AI 기술 활용을 원천 금지하게 됩니다. 범용 AI를 개발하는 기업에 대해서는 기본적인 ‘투명성 의무’가 적용됩니다. 저작권법을 반드시 준수하고 AI 학습 과정에 사용된 콘텐츠를 반드시 명시해야 합니다.
AI의 본고장, 미국의 동향은?
주요 빅테크 기업들이 즐비한 미국은 작년에 처음으로 AI 규제 방안을 내놓은 바 있습니다. 2023년 10월, AI 모델이 경제, 공중보건 등 국가 안보에 위험을 초래할 경우 개발자가 연방 정부에 이를 통지해야 한다는 내용입니다. 조 바이든 대통령은 이러한 행정명령에 직접 서명하였는데요. 해당 행정명령을 공개하면서 미국은 AI 규제 의제를 적극적으로 제시하고, 앞으로 AI 개발 및 사용을 관리하기 위한 국제적 프레임워크를 만들 것이라고 강조했습니다.
또한 지난 6월에는 거대 AI 기업들이 포진해 있는 실리콘밸리가 소재한 미국 캘리포니아주의 의회에서 AI 안전과 관련한 새 규제 법안이 발의되기도 했습니다. 캘리포니아 주의회는 AI가 ‘첨단 AI 시스템을 위한 안전과 보안 혁신법’(Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act)을 통해, ① AI 개발자가 위험한 능력을 갖춘 모델을 개발하지 않겠다고 약속해야 하며 ② 안전 테스트 결과를 보고하고 ③ 통제가 어려울 때 작동을 멈추게 하는 ‘킬스위치’(kill switch)를 도입해야 한다고 명시했습니다. 이 법안이 통과된다면 미국은 물론, 우리나라에도 막대한 영향을 미칠 것으로 보입니다.
강력한 반대 입장을 내놓고 있는 AI 기업들
EU와 미국뿐만 아니라, 전 세계 각국은 지난해부터 AI에 대한 규제를 시작했습니다. 영국 정부는 AI 규제 법안 마련 계획을 발표했으며, 일본 역시 내각부 산하 ‘AI 전략회의’에서 AI 규제 기본 방침 및 법률 규제 방침을 밝혔습니다.
하지만 빅테크 기업을 포함한 실리콘밸리 내 AI 업계는 해당 규제에 대해 크게 반발하고 있습니다. AI 스타트업들이 규정 준수에 따른 비용 부담 가중으로 업계를 떠나게 하고, AI 관련 오픈소스 모델을 운영하지 못할 수 있다는 우려 때문입니다. 오픈소스 개발자가 자사 모델이 악의적으로 조작될 경우에도 잠재적으로 책임을 져야 하는 상황이나, 일어나지도 않은 일로 인해 기술 개발을 저해하는 것이 부당하다는 입장입니다.
챗GPT를 개발해 AI 선두 업체로 자리 잡은 오픈AI의 제이슨 권 최고전략책임자(CSO)는 스콧 위너 캘리포니아주 상원의원과 개빈 뉴섬 주지사에게 “AI 규제 방안은 AI 분야의 글로벌 리더 지위를 갖춘 캘리포니아의 성장을 위협할 뿐 아니라 혁신의 속도를 늦추고, 이곳의 세계적 엔지니어와 기업가들이 더 큰 기회를 찾아 떠나게 만들 것”이라는 반대 서한을 전달했습니다.
AI는 우리에게 무한한 가능성을 제시하지만, 그 위험성도 적지 않다는 의견이 많습니다. 윤리적 가이드 제시와 데이터의 선별, 관리 감독 등 적절한 규제 방안을 마련해, 기술 혁신의 발목을 잡지 않으면서도 안전한 AI 시대로 나아갈 수 있기를 바랍니다.
Hits: 23
댓글쓰기