유럽연합(EU)은 8일 심야 인공지능(AI) 개발과 운용을 포괄적으로 규제하는 ‘AI법(Artificial Intelligence Act=AI Act)’ 최종 법안에서 큰 줄거리는 합의했다고 뉴욕타임스(NYT)등 복수의 외신들이 일제히 보도했다.

집행기관·유럽위원회 티에리 브루튼(Thierry Breton) 위원이 X(옛, 트위터)에서 '합의했다'고 발표했다. 세계 최초의 포괄적인 AI 규제안이 된다. 법안은 이르면 올해 안에 성립, 오는 2026년 시행될 전망이다.

법안은 곧 회원국과 유럽 의회가 승인 절차에 들어간다. 회원국으로 구성하는 EU이사회와 유럽의회, 유럽위원회가 지난 6일부터 ‘3자 협의’로 최종 조정을 진행해 왔다.

법안의 구체적인 내용은 밝혀지지 않았다. 3자 협의에서는, 생성 AI에 사용되는 “언어 모델”에의 강한 규제를 요구하는 유럽 의회와, 과도한 규제에 난색을 나타내는 EU 이사회와의 격렬한 대립이 있었던 것으로 알려졌다.

EU의 인공지능법(AI Act)은 AI를 규율하는 세계 최초의 포괄적인 규칙이 될 것으로 예상되며, 유사한 법을 통과시키기를 원하는 다른 지역의 벤치마크가 될 수 있다.

대체적은 내용을 보면, 위험 평가, 적대적 테스트, 사고 보고서 등과 같은 특정 기준을 충족하는 ‘영향력이 큰(high-impac)’ 범용 AI 시스템에 대한 의무를 확립했다. 또 기술 문서 작성과 ‘훈련에 사용된 내용에 대한 상세한 요약’을 포함하는 시스템에 의한 투명성을 의무화하는데, 이는 챗지피티(ChatGPT) 제조업체 오픈 AI(OpenAI)와 같은 회사들이 지금까지 거부해온 것이다.

또 다른 요소는 시민들이 AI 시스템에 대한 불만을 제기하고, 그들의 권리에 영향을 미치는 ‘고위험(high-risk)’ 시스템에 대한 결정에 대한 설명을 받을 권리를 가져야 한다는 것이다.

법안은 또 이 모든 것이 어떻게 작동하는지, 벤치마크가 무엇인지에 대해서는 자세히 언급되지 않았지만, 기업들이 이 규칙을 어길 경우 벌금을 부과할 수 있는 틀에 대해서는 언급했다. 이 규칙들은 기업의 위반행위와 규모에 따라 다르며, 3,500만 유로(세계 매출의 7퍼센트)에서 750만 유로(세계 매출의 1.5퍼센트)까지 다양할 수 있다.

한편, EU 의원들은 생체 인식 감시에서 인공지능의 사용을 완전히 금지하는 것을 추진했지만, 각국 정부들은 군사, 법 집행 및 국가 안보에 대한 예외를 추구했다. 생성 인공지능 모델의 제조업체가 자율 규제할 수 있도록 허용하려는 프랑스, 독일 및 이탈리아의 늦어진 제안도 지연에 기여한 것으로 보인다.