AI의 개발에는 공적 책임을 부여해야 한다.

< AI의 개발에는 공적 책임을 부여해야 한다 >

기고: 클라우스 슈왑 & 캐시 리, : Klaus Schwab은 세계경제포럼의 창립자 겸 회장이며 캐시 리(Cathy Li)는 메타버스의 AI, 데이터 책임자이자 세계경제포럼 집행위원입니다.
출처: 프로젝크-신디케이트, 2023년 4월 23일자.
……

최근 몇 달 동안 ChatGPT 및 Midjourney와 같은 생성 AI 시스템이 광범위한 전문 활동 및 창의적인 프로세스를 빠르게 변화시키면서 인공지능의 개발이 상당히 가속화되었다. 따라서 위험을 최소화하고 이점을 극대화하는 방식으로 강력한 기술의 개발을 안내할 수 있는 기회의 창이 빠르게 닫히고 있다.
AI 기반 기능은 가장 발전된 범주에 속하는 GPT-4(ChatGPT의 최신 버전)와 같은 생성 AI 시스템과 함께 연속적으로 발전한다. 그러한 시스템이 가장 큰 가능성을 가지고 있는 동시에 가장 위험한 함정으로 이어질 수 있다는 점을 감안할 때, 특히 공공 및 민간 이해관계자가 이를 면밀히 조사할 가치가 있다
사실상 모든 기술 발전은 사회에 긍정적인 영향과 부정적인 영향을 모두 미쳤다. 한편으로 그들은 경제적 생산성과 소득 성장을 강화하고 정보통신 기술에 대한 접근성을 확대했으며 사람의 수명을 연장하고 전반적인 복지를 개선했다. 다른 한편으로는 노동자의 실직과 전업, 임금 정체, 불평등 심화, 개인과 기업 사이에 특정한 곳으로 자원의 집중이 이어졌다.
AI도 다르지 않다. 생성 AI 시스템은 제품 디자인, 콘텐츠 제작, 약물 발견 및 건강 관리, 맞춤형 교육, 에너지 최적화와 같은 분야에서 풍부한 기회를 열어준다. 동시에 그들은 우리 경제와 사회에 매우 파괴적이고 심지어 해로울 수도 있다.
고급 AI가 이미 제기한 위험과 향후 예측할 수 있는 위험은 상당하다. 노동 시장의 광범위한 방향 전환을 넘어 대규모 언어모델 시스템은 허위 정보의 확산을 증가시키고 유해한 편견을 영속화할 수 있다. 생성 AI는 또한 경제적 불평등을 악화시킬 위험이 있다. 이러한 시스템은 인류에게 실존적 위험을 초래할 수도 있다.

이것이 바로 일부 인사들이 AI 연구에 제동을 거는 이유이다. 지난 3월 Elon Musk에서 Steve Wozniak에 이르기까지 1,000명 이상의 AI 기술자는 AI 연구소가 최소 6개월 동안 GPT-4보다 더 강력한 시스템의 교육을 "즉시 중단"할 것을 권장하는 공개 서한에 서명했다. 이 기간 동안 그들은 "독립적인 외부 전문가가 엄격하게 감사하고 감독하는" 일련의 공유 안전 프로토콜을 고안하고 실천(강제)해야 한다고 주장한다.
공개 서한과 그로 인해 촉발된 열띤 토론은 이해관계자들이 고급 AI 개발 및 배포를 위한 강력한 공유 지침에 맞추기 위한 광범위한 선의의 프로세스에 참여해야 할 긴급한 필요성을 강조한다. 이러한 노력은 자동화 및 일자리 대체, 디지털 격차, 데이터 및 컴퓨팅 파워와 같은 기술 자산 및 리소스에 대한 통제 집중과 같은 문제를 설명해야 한다. 그리고 최우선 순위는 AI 교육에서 시스템 편향을 제거하기 위해 지속적으로 노력하여 ChatGPT와 같은 시스템이 결국 이를 재현하거나 악화시키지 않도록 하는 것이다.
미국과 유럽 연합을 포함하여 AI 및 디지털 서비스 거버넌스에 대한 제안이 이미 등장하고 있다. 세계경제포럼WEF과 같은 조직도 이에 기여하고 있다. 2021년 포럼은 디지털 안전을 위한 글로벌 연합(Global Coalition for Digital Safety)을 발족했다. 이 연합은 온라인에서 유해한 콘텐츠를 다루는 이해관계자를 통합하고 온라인 안전규제를 위한 모범 사례의 교환을 촉진하는 것을 목표로 한다. 이후 포럼은 AI와 같은 첨단 기술이 대중의 최선의 이익을 염두에 두고 개발될 수 있도록 디지털 신뢰 이니셔티브를 만들었다.
이제 WEF는 생성 AI의 출현에 따른 문제를 해결하고 기술 개발 및 배포를 위한 다음 단계에 대한 합의를 구축하기 위해 긴급한 민관협력을 촉구하고 있다. 진행을 촉진하기 위해 WEF는 공익에 중점을 둔 AI 실무자, 학계 및 NGO가 지원하는 비영리 조직인 AI Commons와 협력하여 4월 26일부터 28일까지 샌프란시스코에서 생성 AI에 대한 글로벌 정상 회담을 개최할 예정이다. 이해관계자들은 비즈니스, 사회 및 지구에 대한 기술의 영향에 대해 논의하고 부정적인 외부 효과를 완화하고 더 안전하고 지속 가능하며 공평한 결과를 제공하는 방법을 고안하기 위해 협력해야 한다.

생성 AI는 우리가 원하든 원하지 않든 세상을 바꿀 것이다. 기술 개발의 중추적인 순간에, 프로세스가 우리의 공통 관심사 및 가치와 일치하도록 하기 위해 우리가 할 수 있는 모든 일을 할 수 있도록 하는 협력적 접근 방식이 매우 필수적이다.


[23.April.2023]