미국, 유럽연합(EU), 한국, 중국 등 영국에서 개최된 영국 정상회담에 참석한 25개국 이상은 인공지능(AI) 통제에 대한 공통 접근 방식을 확립해야 한다는 선언에 서명했고, 중국 과학기술부 차관은 중국이 ‘국제 거버넌스 프레임 워크’ 구축을 돕기 위해 협력을 강화할 준비가 돼 있다고 밝혔다.

중국은 빠르게 진화하는 기술을 위한 안전한 길을 모색하기 위해 1일 영국 정상회담에서 미국, 유럽연합 및 기타 국가와 협력하여 인공지능(AI)으로 인한 위험을 공동으로 관리하기로 합의했다고 로이터 통신이 2일 보도했다.

일부 기술 경영진과 정치 지도자들은 AI의 급속한 발전이 통제되지 않으면, 세계에 실존적 위협이 될 것이라고 경고했으며, 이는 정부와 국제기관이 보호 장치와 규제를 설계하기 위한 경쟁을 촉발시켰다.

안전한 개발을 관리하려는 서방의 노력으로는 처음으로 중국 차관이 영국의 2차 세계 대전 암호 해독기의 본고장인 블레츨리 파크에서 미국과 유럽 연합의 지도자들과 일론 머스크 및 챗GPT(ChatGPT)의 샘 엘터만(Sam Altman)과 같은 기술 책임자들과 합류했다.

미국과 한국, 중국, 유럽연합(EU) 등 28개 국가가 참석해 국가들이 함께 협력하고, 관리 감독에 대한 공통 접근 방식을 확립해야 한다는 '블레츨리 선언(Bletchley Declaration)'에 서명했다.

선언문은 공통 관심사의 위험을 식별하고, 이에 대한 과학적 이해를 구축하는 동시에 이를 완화하기 위한 국가 간 정책을 개발하는 데 초점을 맞춘 두 가지 의제를 제시했다.

중국 과학기술부 차관 우자오후이(Wu Zhaohui)는 이틀간의 정상회담 개회식에서 중국이 “국제 거버넌스 프레임워크(international “governance framework)” 구축을 돕기 위해 AI 안전에 대한 협력을 강화할 준비가 되어 있다면서 “규모에 상관없이 모든 국가는 AI를 개발하고 사용할 동등한 권리를 갖고 있다”고 말했다.

AI가 경제와 사회에 미칠 수 있는 영향에 대한 두려움은 작년 11월 마이크로소프트가 지원하는 오픈 AI(OpenAI)가 챗GPT(ChatGPT)를 대중에게 공개하면서 시작됐다.

인간과 같은 대화를 만들기 위해 자연어 처리 도구를 사용하면 일부 AI 선구자들 사이에서 기계가 시간이 지나면 인간보다 더 큰 지능을 달성하여 무제한적이고 의도하지 않은 결과를 초래할 수 있다는 두려움을 불러일으켰다.

이제 정부와 관료들은 기술이 잠재력을 최대한 발휘하기 전에 규제로 인해 압박을 받는 것을 두려워하는 AI 기업들과 함께 앞으로 나아갈 길을 계획하려고 노력하고 있다.

억만장자 일론 머스크는 기자들에게 “반드시 공정한 규칙이 무엇인지는 모르지만, 감독을 하기 전에 통찰력부터 시작해야 한다”며 위험이 발생할 때, “제3자 심판(third-party referee)”이 경고음을 울리는 데 사용될 수 있다고 덧붙였다.

유럽연합(EU)이 AI 감독을 데이터 프라이버시 및 감시와 인권에 대한 잠재적 영향에 집중한 반면, 영국 정상회담에서는 “프론티어 AI(frontier AI)”라고 불리는 고성능 범용 모델의 실존적 위험을 검토하고 있다.

구글 딥마인드(Google Deepmind)의 공동 창업자인 무스타파 술레이만(Mustafa Suleyman)은 기자들에게 현재의 AI 개척 모델이 “심각한 재앙적 피해(significant catastrophic harms)”를 초래한다고 생각하지 않지만, 업계가 더 큰 모델을 훈련함에 따라 미리 계획을 세우는 것이 합리적이라고 말했다.

이번 정상회담은 미국, 중국, 유럽연합(EU) 경제 블록 사이의 중개자로서 영국의 브렉시트(Brexit) 이후 역할을 확립하고자 하는 리시 수낙 영국 총리가 고안한 것이다.

영국 디지털 장관 미셸 도넬런(Michelle Donelan)은 “이렇게 많은 주요 인사들을 한 방에 모은 것만으로도 성과”라면서 “AI 안전 정상회담을 6개월 후에 한국에서, 6개월 후에 프랑스에서 개최하는 등 두 번의 추가 AI 안전 정상회담”을 발표했다.

도넬런 장관은 기자들에게 “처음으로 국가들이 독립적으로 뿐만 아니라 집단적으로 최첨단 AI 주변의 위험을 살펴봐야 한다는 데 동의했다.”고 말했다. 기술 기업들이 AI 분야에서 우위를 점하기 위해 경쟁하는 것처럼 정부도 규제를 주도하기 위해 경쟁하고 있다.

중국은 AI 개발에 있어 중국의 역할을 고려할 때 이번 정상회담의 핵심 참가자이다. 그러나 일부 영국 국회의원들은 기술에 대한 중국의 개입과 관련하여 베이징, 워싱턴 및 많은 유럽 자본 사이의 낮은 신뢰 수준을 고려할 때, 그것이 거기에 있어야 하는지 의문을 제기했다.

* 아래는 “브레츨리 선언”의 주요 골자이다.

인공 지능(AI)은 엄청난 글로벌 기회를 제시한다. 즉, 인간의 복지, 평화 및 번영을 변화시키고 향상시킬 수 있는 잠재력을 가지고 있다. 이를 실현하기 위해 우리는 AI가 인간 중심적이고 신뢰할 수 있으며 책임감 있는 방식으로 안전한 방식으로 설계, 개발, 배포 및 사용되어야 함을 확인한다.

우리는 포용적인 경제 성장, 지속 가능한 발전과 혁신을 촉진하고, 인권과 기본적 자유를 보호하며, AI 시스템의 잠재력을 완전히 실현하기 위해 대중의 신뢰와 확신을 조성하기 위해 AI에 협력하려는 국제 사회의 지금까지의 노력을 환영한다.

AI 시스템은 이미 주택, 고용, 교통, 교육, 건강, 접근성, 정의 등 일상생활의 다양한 영역에 걸쳐 배포되어 있으며, 그 활용도는 더욱 늘어날 것으로 예상된다. 따라서 우리는 지금이 AI 의 안전한 개발과 AI의 변혁적 기회가 국가와 전세계에서 포용적인 방식으로 선과 모두를 위해 사용될 필요성을 행동하고 확인해야 할 특별한 순간임을 인식한다. 여기에는 보건, 교육, 식량안보, 과학, 청정에너지, 생물다양성, 기후 등의 공공 서비스, 인권 향유 실현, 유엔 지속가능발전목표 달성을 위한 노력 강화 등이 포함된다.

이러한 기회 외에도 AI는 일상생활 영역을 포함하여 상당한 위험을 초래한다. 이를 위해 우리는 기존 포럼 및 기타 관련 이니셔티브에서 AI 시스템의 잠재적 영향을 조사하고 해결하기 위한 관련 국제적 노력과 인권 보호, 투명성 및 설명 가능성, 공정성, 책임, 규제, 안전, 적절성 등에 대한 인식을 환영한다.

인간의 감독, 윤리, 편견 완화, 개인정보보호 및 데이터 보호가 해결되어야 한다. 또한 콘텐츠를 조작하거나 사기성 콘텐츠를 생성하는 능력으로 인해 예상치 못한 위험이 발생할 가능성이 있다는 점에도 주목한다. 이러한 모든 문제는 매우 중요하며, 우리는 이러한 문제를 해결해야 할 필요성과 시급성을 확인한다.

특정 안전 위험은 AI의 '최초'에서 발생한다. 이는 광범위한 작업을 수행할 수 있는 기반 모델을 포함하여 매우 유능한 범용 AI 모델과 다음과 같은 기능을 나타낼 수 있는 관련 특정 좁은 AI로 이해된다. 오늘날 가장 발전된 모델에 존재하는 기능과 일치하거나 그 이상이다. 잠재적인 의도적 오용이나 의도하지 않은 통제 문제로 인해 상당한 위험이 발생할 수 있다.

이러한 문제는 부분적으로 해당 기능을 완전히 이해하지 못해 예측하기 어렵기 때문에 발생한다. 우리는 특히 사이버 보안, 생명공학과 같은 영역의 위험과 최첨단 AI 시스템이 허위 정보와 같은 위험을 증폭시킬 수 있는 분야에 대해 우려하고 있다. 이러한 AI 모델의 가장 중요한 기능으로 인해 고의적이든 의도적이지 않든 심각하고 심지어 재앙적인 피해를 입힐 가능성이 있다. AI의 빠르고 불확실한 변화속도와 기술에 대한 투자가 가속화되는 상황에서 우리는 이러한 잠재적 위험과 이를 해결하기 위한 조치에 대한 깊은 이해가 특히 시급하다고 확신한다.

AI 로 인해 발생하는 많은 위험은 본질적으로 국제적이므로 국제 협력을 통해 가장 잘 해결될 수 있다. 우리는 기존 국제 포럼 및 기타 관련 이니셔티브를 통해 안전하고 모두의 이익을 지원하는 인간 중심적이고 신뢰할 수 있으며 책임감 있는 AI를 보장하기 위해 포용적인 방식으로 협력하고, 그렇게 함으로써 우리는 국가들이 AI와 관련된 위험을 고려하고 이익을 극대화하는 혁신을 지향하고 비례적인 거버넌스 및 규제 접근 방식의 중요성을 고려해야 함을 인식한다.

여기에는 적절한 경우 국가 상황과 적용 가능한 법적 체계를 기반으로 위험을 분류하고, 범주화하는 것이 포함될 수 있다. 우리는 또한 적절한 경우 공통 원칙 및 행동 강령과 같은 접근 방식에 대한 협력의 관련성에 주목한다. ‘프론티어 AI’와 관련하여 발견될 가능성이 가장 높은 특정 위험과 관련, 우리는 기존 국제 포럼 및 기타 관련 이니셔티브를 통해 협력을 강화 및 유지하고 더 많은 국가와의 협력을 확대하여 식별하고 이해하며 적절한 조치를 취할 것을 결의한다.

모든 행위자는 AI의 안전을 보장하는 데 역할이 있다. 국가, 국제 포럼 및 기타 이니셔티브, 기업, 시민 사회 및 학계가 함께 협력해야 한다. 포괄적인 AI의 중요성을 인식하고, 디지털 격차를 해소하면서, 우리는 국제 협력이 적절한 경우 광범위한 파트너를 참여시키고, 참여시키기 위해 노력해야 함을 재확인하며, 개발도상국이 AI 역량 구축 및 활용을 강화하는 데 도움이 될 수 있는 개발 지향적 접근 방식과 정책을 환영한다. 지속 가능한 성장을 지원하고 개발 격차를 해소하기 위한 AI 의 역할을 지원한다.

우리는 AI 수명주기 전반에 걸쳐 안전을 고려해야 하지만, 최첨단 AI 기능, 특히 매우 강력하고 잠재적으로 유해한 AI 시스템을 개발하는 행위자는 시스템을 포함하여 이러한 AI 시스템 의 안전을 보장할 특히 강력한 책임이 있음을 확인한다. 안전 테스트, 평가 및 기타 적절한 조치를 통해. 우리는 모든 관련 행위자가 특히 오용과 통제 문제 및 기타 위험의 증폭을 방지하기 위해 잠재적으로 유해한 기능과 나타날 수 있는 관련 효과를 측정, 모니터링 및 완화하기 위한 계획에 대해 상황에 맞는 투명성과 책임성을 제공할 것을 권장한다.

협력의 맥락에서 국내 및 국제 수준의 조치를 알리기 위해, 최전선 AI 위험을 해결하기 위한 우리의 의제는 다음 사항에 중점을 둘 것이다.

* AI가 우리 사회에 미치는 영향을 이해하기 위한 보다 폭넓은 글로벌 접근 방식의 맥락에서 공통 관심사인 AI 안전 위험을 식별하고, 이러한 위험에 대한 공유된 과학적, 증거 기반 이해를 구축하며, 역량이 지속적으로 증가함에 따라 이러한 이해를 유지한다.

* 그러한 위험에 비추어 안전을 보장하기 위해, 국가 전체에 걸쳐 각각의 위험 기반 정책을 구축하고, 국가 상황과 적용 가능한 법적 틀에 따라 우리의 접근 방식이 다를 수 있다는 점을 인식하면서 적절하게 협력한다. 여기에는 최첨단 AI 기능을 개발하는 민간 행위자의 투명성 향상, 적절한 평가 지표, 안전 테스트 도구, 관련 공공 부문 역량 및 과학 연구 개발이 포함된다.

이 의제를 촉진하기 위해 우리는 기존 국제 포럼 및 기타 관련 이니셔티브를 포함하여 기존 및 새로운 다자, 다자 및 양자 협력을 포괄하고 보완하는 국경 AI 안전에 대한 국제적으로 포용적인 과학 연구 네트워크를 지원하기로 결의한다. 정책 입안과 공익을 위한 최고의 과학이다.

AI의 변혁적이고 긍정적인 잠재력을 인식하고, AI에 대한 보다 폭넓은 국제 협력을 보장하는 일환으로 우리는 기존 국제 포럼 및 기타 관련 이니셔티브를 참여시키고 보다 광범위한 국제 논의에 개방적인 방식으로 기여하는 포괄적인 글로벌 대화를 유지하기로 결의한. 기술의 이점이 선과 모두를 위해 책임감 있게 활용될 수 있도록 최첨단 AI 안전에 대한 연구를 계속한. 2024년에 다시 만나기를 기대한다.