EU, 인류미래를 좌우할 인공지능규칙의 법제를 착수하다.

EU, 인류미래를 좌우할 인공지능규칙의 법제를 착수하다.
- AI 규제에 대한 합의는 인공지능의 사용을 제한하려는 세계 최초의 포괄적인 시도로 이를 확고히 해야 한다.


기고: 아담 사타리아노, 런던특파원, 유럽에 기반을 둔 기술문제 및 디지털 정책과 기술과 세계 문제의 교차점을 집중적으로 다루고 있다.
출처: NYT, 2023년 12월 8일

유럽연합(EU) 정책입안자들은 금요일 광범위한 사회적, 경제적 영향을 미치며 빠르게 진화하는 첨단 기술의 사용을 제한하려는 세계 최초의 시도로 인공지능을 규제하기 위한 포괄적인 법률제정에 동의했다. <AI법>이라고 불리는 이 법은 기술의 잠재적 이점을 활용하려는 동시에 작업의 자동화, 온라인 상 잘못된 정보확산, 국가안보 위협과 같은 가능한 위험으로부터 보호하려는 국가를 위한 새로운 글로벌 벤치마크를 제시한다. 이 법은 승인을 위해 몇 가지 단계를 거쳐야 하지만 정치적 합의는 주요 개요가 이미 설정되었음을 의미한다.
유럽의 정책 입안자들은 법 집행과 물, 에너지와 같이 중요한 부문과 기업과 정부가 AI를 가장 위험한 용도로 사용하는 영역에 우선적 중점을 두었다.

ChatGPT 챗봇을 지원하는 시스템과 같은 최대 규모의 범용 AI 시스템 제조업체는 투명성이라는 새로운 요구사항에 직면하게 된다. EU 관계자와 법 초안에 따르면 ‘딥페이크'와 같이 조작된 이미지를 생성하는 챗봇과 소프트웨어는 이를 보고 있는 사람들이 AI에 의해 생성된 것임을 분명히 인지하도록 해야 한다.
경찰과 정부의 안면인식 소프트웨어 사용은 특정 안전 및 국가안보 면제를 제외하고는 규제를 받는다. 규정을 위반한 기업에는 전 세계 매출의 최대 7%에 해당하는 벌금이 부과될 수 있다.

이번 거래 협상을 도운 유럽 집행위원 티에리 브레통(Thierry Breton)은 성명을 통해 "유럽은 글로벌 표준 설정자로서의 역할의 중요성을 이해하면서 선구자로 자리매김했다"고 말한다.
그러나 이 법이 규제의 획기적인 발전의 첫걸음으로 호평을 받았음에도  이 법이 얼마나 효과적일지에 대한 의문은 여전히 남아 있었다.
정책의 여러 측면은 AI 개발에 상당한 시간인 12~24개월 동안 시행되지 않을 것으로 예상되었다. 그리고 협상의 마지막 순간까지 정책 입안자와 해당 국가는 언어를 놓고 혁신 육성과 가능한 피해로부터 보호해야 할 필요성 사이의 균형을 맞추는 방법을 놓고 싸우고 있었다.

브뤼셀에서 체결된 협상은 수요일 오후에 시작되어 목요일까지 연장된 최초의 22시간 세션을 포함하여 3일 간의 협상이 소요되었다. 기술적 세부 사항을 완료하기 위해 회담이 막후에서 계속될 것으로 예상되어 최종 합의가 지연될 수 있었기 때문에 최종 합의는 즉시 공개되지 않았다. 투표는 의회와 27개 회원국 대표로 구성된 유럽이사회에서 실시되어야 한다.

AI의 발전된 능력을 입증해 전 세계적으로 센세이션을 일으킨 ChatGPT가 지난해 출시된 이후 AI 규제가 시급해졌다. 미국에서는 바이든 행정부가 최근 AI의 국가 안보 효과에 부분적으로 초점을 맞춘 행정명령을 내렸다. 영국, 일본 및 기타 국가는 보다 비간섭적인 접근 방식을 취한 반면, 중국은 데이터 사용 및 추천 알고리즘에 일부 제한을 가했다.
AI가 세계 경제를 재편할 것으로 예상됨에 따라 추정 가치는 수조 달러에 달하게 된다. 프랑스 디지털 장관 장 노엘 바로(Jean-Noël Barrot)는 이번 주에 “기술적 지배가 경제적 지배와 정치적 지배에 우선한다”고 말했다.

유럽은 2018년에 AI 법이 제정될 작업을 시작하면서 AI 규제에서 가장 앞서 있는 지역 중 하나였다. 최근 몇 년 동안 EU 지도자들은 케어 또는 은행 산업에 대한 규제와 마찬가지로 기술에 대한 새로운 수준의 감독을 도입하려고 노력했다. 유럽지역은 이미 데이터 개인 정보 보호, 경쟁 및 콘텐츠 조정과 관련된 광범위한 법률을 제정했다.

AI법의 첫 번째 초안은 2021년에 발표되었지만, 그러나 정책 입안자들은 기술적 혁신이 등장하면서 법을 다시 작성하게 되었다. 초기 버전에서는 ChatGPT를 지원하는 것과 같은 범용 AI 모델에 대해 언급하지 않았다.
정책 입안자들은 정의된 애플리케이션 세트가 가장 큰 감독과 제한에 직면하는 AI를 규제하기 위해 "위험 기반 접근방식"이라고 부르는 것에 동의했다.

채용이나 교육 등 개인과 사회에 가장 잠재적인 해를 끼칠 수 있는 AI 도구를 만드는 회사는 규제 당국에 위험 평가 증거, 시스템 훈련에 사용된 데이터에 대한 분석, 소프트웨어가 수행한 보증을 제공해야 한다 ‘인종적 편견을 지속시키는 것과 같은 해를 끼치지 않도록 시스템을 생성하고 배포하는 데에도 사람의 감독이 필요하다’.
얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 무차별적으로 이미지를 긁어내는 것과 같은 일부 관행은 완전히 금지된다.

유럽연합(EU)의 논쟁은 논쟁의 여지가 많았는데, 이는 AI가 국회의원들을 어떻게 당황하게 했는지 보여주는 신호였다. EU 관계자들은 Google 및 OpenAI와 같은 미국 기업을 따라잡으려는 유럽 스타트업에 장애가 될 것을 우려하여 최신 AI 시스템을 얼마나 심도 있게 규제해야 하는지에 대해 의견이 분분했다.
이 법은 최대 규모의 AI 모델 제조업체가 시스템 작동 방식에 대한 정보를 공개하고 "시스템적 위험"을 평가해야 한다는 요구 사항을 추가했다고 Breton 씨는 말했다.

새로운 규정은 전 세계적으로 면밀히 관찰될 것이다. 이는 Google, Meta, Microsoft, OpenAI와 같은 주요 AI 개발자뿐만 아니라 교육, 의료, 은행과 같은 분야에서 이 기술을 사용할 것으로 예상되는 다른 비즈니스에도 영향을 미칠 것이다. 정부는 또한 형사와 사법 및 공공 혜택 할당에서 AI에 더 많은 관심을 기울이고 있다.

집행 여부는 여전히 불분명하다. AI법에는 27개국의 규제 기관이 참여하며 정부 예산이 부족한 상황에서 새로운 전문가를 고용해야 한다. 기업이 법정에서 새로운 규칙을 테스트함에 따라 법적 문제가 발생할 가능성이 높다. 일반 데이터 보호 규정(GDPR)으로 알려진 획기적인 디지털 개인 정보 보호법을 포함한 이전 EU 법률은 고르지 않게 시행 된다는 비판을 받아왔다.

AI법에 관해 유럽 국회의원들에게 조언을 해준 아일랜드 시민자유위원회의 크리스 슈리샤크 선임연구원은 “EU의 규제역량이 의문시되고 있다”고 다음과 같이 말한다. "강력한 집행 없이는 이번 거래는 의미가 없습니다."



<참조 기사>

중국과 미국 그리고 EU가 AI분야의 안전-팀워크 이정표 선언에 서명하다
출처: CGTN, 2023-11-02.

지난 수요일 영국에서 열린 세계 최초의 AI 안전 정상회의에서 미국, 유럽연합(EU) 및 기타 국가와 협력하여 인공지능(AI)으로 인한 위험을 공동으로 관리하기로 합의했다.

영국 중부 Bletchley파크에서 열린 정상회담 개막일에 영국은 '블렛츨리 선언(Bletchley Declaration) '을 발표했다.
AI 안전을 위한 글로벌 협력을 강화하기 위한 목적으로 28개국과 EU가 합의한 것이다.

영국은 선언문과 함께 별도의 성명을 통해 "선언문은 특히 더 큰 과학적 협력을 통해 최첨단 AI 안전 및 연구에 대한 국제 협력을 위한 위험, 기회 및 향후 프로세스에 대한 공유 합의와 책임을 확립하는데 있어 주요 정상회담의 목표를 달성했다"고 밝혔다.
이는 잠재적으로 유해한 기능을 측정, 모니터링 및 완화하기 위한 계획과 관련하여 최첨단 AI 기술을 개발하는 행위자의 투명성과 책임성을 장려한다.

영국총리 수낙은 "이것은 세계 최고의 AI 강국들이 AI의 위험을 이해하는 것의 시급성에 동의하고 우리 자녀와 손자의 장기적인 미래를 보장하는 데 도움이 되는 획기적인 성과이다."라고 말했다.

선언문은 공통 관심사의 위험을 식별하고 이에 대한 과학적 이해를 구축하는 것뿐만 아니라 이를 완화하기 위한 국가 간 정책을 구축하는 데 초점을 맞춘 두 가지 의제를 제시한다.
선언문에 따르면 "여기에는 첨단AI 역량을 개발하는 민간 행위자의 투명성 향상, 적절한 평가지표, 안전테스트 지침도구, 관련 공공부문 역량 및 과학 연구개발이 포함된다."


2023년 11월 1일 영국 블레츨리 파크의 풍경 /CFP 

왜 지금?

OpenAI가 ChatGPT를 대중에게 공개하면서 AI가 경제와 사회에 미칠 수 있는 영향에 대한 우려가 커졌다.
언어 처리도구를 사용하여 인간과 같은 대화를 만들어내는 것은 일부 AI 선구자들 사이에서 기계가 결국 인간보다 앞선 지능을 획득하여 무제한적이고 의도하지 않은 결과를 초래할 수 있다는 우려를 불러 일으켰다.

정부와 관료들은 이제 기술이 잠재력을 무제한적으로 발휘하기 전에 규제로 인한 부담을 두려워하는 AI기업과 협력하여 앞으로 나아갈 길을 모색하기 위해 노력하고 있다.
이미 일부 기술 경영진과 정치 지도자들은 AI의 급속한 발전이 통제되지 않으면 세계에 실존적 위협이 될 수 있다고 경고했으며, 이로 인해 정부와 국제기관 간의 보호장치와 규정의 설계경쟁이 촉발되었다.

도넬런(Michelle Donelan) 영국 과학·혁신·기술부 장관은 이번 정상회담이 이렇게 많은 핵심 인사들을 한자리에 모은 것이 큰 성과라고 말했다.
Donelan은 "처음으로 우리는 개별적으로뿐만 아니라 집단적으로 AI 주변의 위험을 살펴봐야 한다는데 동의하는 국가간 합의를 갖게 되었다."라고 말했다. 기술기업이 AI 분야에서 우위를 점하기 위해 경쟁하는 것처럼 정부도 규제를 주도하기 위해 경쟁하고 있다.

Donelan에 따르면 대한민국이 다음 글로벌 AI 안전 서밋을 6개월 후에 개최할 예정이며, 세번 째 회의는 1년 후에 프랑스에서 개최될 것이라고 덧붙였다.

주요 참여국인 중국

중국은 AI 개발에서 중국의 중추적인 역할을 감안할 때 올해 정상회담의 핵심 참가자이다.

안전한 개발을 관리하려는 서구의 노력에 처음으로 중국 관련차관이 영국의 제2차 세계대전 중 발명한 암호해독기의 본고장인 블레츨리 파크에서 미국과 유럽 연합의 지도자들과 Elon Musk 및 ChatGPT의 Sam Altman과 같은 기술 책임자들과 합류했다.

중국 과학기술부 차관인 우자 오후이(Wu Zhaohui)는 이틀간의 정상회담 개회식에서 중국이 국제 '거버넌스 프레임워크' 구축을 돕기 위해 AI 안전에 대한 협력을 강화할 준비가 되어 있다고 말했다.
중국 대표단은 이미 지난 10월 18일 베이징에서 열린 제3차 일대일로 국제협력 정상포럼에서 중국이 출범한 글로벌 인공지능거버넌스 이니셔티브를 홍보하고 관련 국가들과 양자 회담을 진행할 예정이라고 밝혔다.

대표단은 이번 정상회담이 AI 안전과 국제거버넌스 문제에 관해 국가 간 대화와 협력을 위한 중요한 플랫폼과 교류 및 협력 기회를 제공한다는 점을 강조했다.
Zhaohui는 "중국은 AI 안전에 관한 모든 측면과 대화와 의사소통을 강화하여 거버넌스 프레임워크에 전세계가 참여하는 국제 메커니즘에 기여할 의향이 있다"고 말했다.

모든 국가는 AI 기술을 개발하고 사용할 권리가 있다고 그는 말했다. "우리는 상호 존중, 평등, 상호 이익의 원칙을 지지한다. 규모와 규모에 관계없이 국가는 AI를 개발하고 사용할 동등한 권리를 갖는다”.”우리는 AI 지식을 공유하고 AI 기술을 오픈 소스 방식으로 대중에게 제공하기 위한 글로벌 협력을 촉구한다"고 덧붙였다.

미국, AI 위험에 대한 '전면적' 조치 촉구

수요일 카말라 해리스(Kamala Harris) 미국 부통령은 AI로 인한 위험으로부터 대중과 민주주의를 보호하기 위한 긴급 조치를 촉구하면서 기술에 대한 안전문제를 해결하기 위한 일련의 계획을 발표했다. 해리스는 런던주재 미국 대사관에서 한 연설에서 AI가 개인과 서구 정치 체제에 미칠 수 있는 위험에 대해 말했다.

이전에 본 어떤 것보다 더 큰 규모의 사이버 공격"이나 "수백만 명의 생명을 위험에 빠뜨릴 수 있는 AI기반 생물무기"를 만들 가능성이 있다고 말했다. 해리스는 "이러한 위협은 인류의 존재자체를 위협할 수 있기 때문에 종종 'AI의 실존적 위협'이라고 불린다"고 덧붙였다.

같은 날, 지나 라이몬도(Gina Raimondo) 미국 상무장관은 미국이 소위 '프론티어' AI 모델의 알려진 위험과 새로운 위험을 평가하기 위해 AI안전 연구소를 설립할 것이라고 말했다.
새로운 연구소는 영국이 계획하고 있는 AI안전 연구소를 포함해 국제적으로 동료 기관들과 정보를 공유하고 연구에 협력할 예정이다.

게다가 억만장자 기업가 엘론 머스크( Elon Musk)는 AI를 개발하는 기업을 감독하고 우려사항이 있을 경우 경고할 수 있는 '제3자 심판관' 설립을 제안했다.
"여기서 우리가 정말로 목표로 하는 것은 선도적인 AI 기업이 무엇을 하고 있는지 관찰하고 우려 사항이 있을 경우 최소한 경고를 울릴 수 있는 최소한 제3자 심판자, 즉 독립 심판자가 있도록 통찰력을 위한 프레임워크를 구축하는 것이다. "라고 머스크는 말했다.

영국, AI 슈퍼컴퓨팅에 투자

영국의 찰스 국왕은 수요일 국제 사회가 기후 변화와 마찬가지로 긴박감과 통합의식을 가지고 AI의 위험을 해결해야 한다고 말했다. 찰스 국왕은 정상회담에서 발표한 영상 메시지에서 “이것이 바로 국제사회가 기후변화에 대처하고 넷 제로를 향한 길을 밝히며 지구의 미래를 보호하기 위해 노력해 온 방법”이라고 말했다. 그는 “우리는 긴박감, 단결, 집단적 힘을 가지고 AI가 제시하는 위험을 마찬가지로 해결해야 한다”고 주장했다.
또한 영국은 수요일 첨단인공지능 모델을 안전하게 만드는 연구를 지원할 두 대의 슈퍼컴퓨터에 대한 자금을 늘릴 것이라고 밝혔다.
정부는 빠르게 진화하는 기술을 위한 안전한 길을 모색하기 위한 AI안전 정상회담에서 "AI 연구 자원"에 대한 자금이 이전에 발표된 1억 파운드에서 3억 파운드(약 3억 6357만 달러)로 늘어날 것이라고 밝혔다.

"프론티어 AI 모델이 기하급수적으로 강력해지고 있다"고 수낙 총리는 소셜미디어 플랫폼 X를 통해 다음과 같이 말했다. "이 투자는 영국의 과학적 재능이 가장 진보된 AI 모델을 안전하게 만드는 데 필요한 도구를 갖도록 보장할 것이다."

영국은 케임브리지에 1대, 브리스톨에 1대 등 두 대의 새로운 슈퍼컴퓨터를 통해 연구자들이 현재 영국 최대규모의 공공 AI 컴퓨팅 도구용량의 30배가 넘는 리소스에 접근할 수 있게 될 것이라고 밝혔다. 내년 여름부터 가동될 이 기계는 첨단 AI 모델을 분석해 안전기능을 테스트하고 신약 발견과 청정 에너지 분야의 혁신을 주도하는 데 사용될 것이라고 정부는 밝혔다.


[15. Dezember 2023]