미국 하버드대 교수가 AI 산업의 경영진들이 인류를 “인간 공장식 축산”(factory farming of humans)의 미래로 몰아가고 있다고 경고했다.

하버드대 역사학자 질 레포어(Jill Lepore)는 전통적 국민 국가(traditional nation state)와 헌정 민주주의(constitutional democracy)를 대체하고 인간의 자율성을 말살하는 “인공 국가”(artificial state) 개념을 소개하며, 민주주의의 위기를 초래하면서, 이러한 변화가 특정 엘리트들의 영향력 아래 진행되고 있다고 말했다.

중국의 경우, 로봇과 AI를 통해 제조업을 혁신하고 있으며, 이는 인구 감소와 고령화 문제를 해결하려는 시도로 보이지만, 이러한 자동화가 노동 시장에 미칠 영향에 대한 우려도 존재한다.

* 인공지능이 인간을 ‘공장식 축산’처럼

하버드대 교수는 기술 엘리트들이 원하는 대로 된다면 인공지능이 “인간 공장식 축산”을 가능하게 하는 미래로 빠르게 나아가고 있다고 경고하고 나섰다고 퓨처리즘(Futurism)이 26일 전했다.

뉴욕 타임스의 팟캐스트 ‘하드 포크’(Hard Fork)의 새로운 에피소드에서 역사학자 질 레포어는 전통적인 국민 국가, 특히 헌정 민주주의를 대체하며 인간의 자율성을 말살하는 “인공 국가”라는 개념을 제시했다.

그녀는 팟캐스트에서 “이처럼 새롭게 부상하는 세계 질서에서 정부는 ‘국민의 동의가 아닌 기계가 결정을 내리는 방식’으로 운영된다”고 설명했다. 그리고 물론, 이러한 기계들은 기업들이 소유하고 있다.

레포어는 “우리가 아직 인위적인 국가에 완전히 살고 있는 것은 아니지만, 그러한 국가가 우리 주변에서 구축되고 현실화되고 있다”고 강조했다. 레포어는 이어 “그리고 결정적으로, 그것은 자신들의 권력이 실제 정부와 정부 운영 방식을 결정하는 유권자들을 능가해야 한다고 믿는 특정의 영향력 있는 엘리트들이 품고 있는 환상”이기도 하다고 말했다.

그러면서 “이 특정한 역사적 시점에서 나오는 수사들은 사실상 현대 자유민주주의, 즉 헌정 민주주의의 소멸에 관한 것”이라며, “이러한 수사를 부추기는 엘리트들은 국민이 원하는 것에는 관심이 없으며, 사실 국민이 원하는 것은 인공지능도, 데이터 센터도 없는 세상이다. 바로 그것이 위기”라고 강조했다.

레포어는 곧 출간될 그녀의 저서 “인공 국가의 흥망성쇠”(The Rise and Fall of the Artificial State.)에서 이 아이디어를 심도 있게 탐구했다. 그녀는 다음과 같은 단순한 질문에서 영감을 받았다. 예약 문의부터 웹사이트의 고객 지원 챗봇에 이르기까지, 답을 얻기 위해 인공지능과 대화해야 하는 오늘날의 세상에서 “누가 우리가 이런 식으로 살아야 한다고 결정했을까?”

‘인공 국가’란 일종의 ‘퇴보’를 의미하는데, 국가의 기능이 점점 더 많은 기업들에 의해 대체되고 있으며, 이 기업들은 우리의 디지털 통신 인프라를 소유하고 통제하고 있다. 우리가 뉴스를 접하고, 선거에 대한 정보를 얻고, 누구에게 투표해야 하는지 결정하는 모든 과정은 이러한 강력한 집단들에 의해 좌우된다. 과거에는 텔레비전과 라디오 같은 매체를 통해, 그리고 이제는 점점 더 지배적인 매체가 되어가는 소셜 미디어를 통해서 좌우돼 간다.

우리 삶의 중심이 된 “디지털 소통(digital communication)은 강력한 고립 효과”(a powerful isolating effect)를 낳는다. 2024년 뉴요커에 기고한 글에서 레포어는 “훗날 자신의 저서가 될 아이디어를 처음으로 제시하며, 인공 국가를 ‘공공 생활의 공장식 축산, 분류와 분열, 고립과 소외, 인간 공동체의 파괴”(factory farming of public life, the sorting and segmenting, the isolation and alienation, the destruction of human community)라고 묘사했다.

인공 국가 체제가 순전히 인공지능(AI)에 의해 주도되는 것은 아니지만, AI가 그 속도를 가속화하고 있는 것은 분명하다. 사람들은 이웃이나 지역 공무원, 전문가와 이야기하는 대신 챗지피티(ChatGPT)에 누구에게 투표해야 할지 묻고 있다. 그들이 접하는 정치적 메시지 또한 AI가 부분적으로 작성하고 있을 가능성이 높다. 모든 수준의 결정이 사고하는 기계의 도움을 받아 이루어지고 있다. AI는 또한 감시를 강화하고 있으며, 우리 모두에 대해 수집되는 엄청난 양의 데이터를 처리하고 있다.

실리콘 밸리에서 나오는 친(親)AI 담론의 악의적인 측면 중 하나는 AI를 필연적인 것으로 묘사한다는 점이다. 그러나 레포어는 이러한 운명론적 관점이 ’허구적인 전제‘(bogus premise)이다. 이 ’허구적인 전제‘는 “실리콘 밸리가 AI의 필연성을 강조하며, 규제를 피하려는 논리가 사실은 잘못된 가정, 즉 ’엉터리 전제‘ 위에 세워져 있다는 점을 비판하는 용어이다.

우리가 끊임없이 듣는 주장 중 하나는 규제가 혁신을 저해하므로 정부가 AI 개발에 제동을 걸어서는 안 된다는 것이다. 또 다른 주장은 기술이 항상 민주주의를 발전시킨다는 것인데, 이는 AI가 현재 민주주의에 제기하는 모든 실질적인 위협이 마법처럼 저절로 해결될 것이라는 확신을 준다.

레포어는 ”그 둘 다 사실이 아니며, 최근 과거에 비슷한 기술들에 대해 어떤 약속들이 오갔는지 살펴보면 알 수 있다“면서 ”이제 AI 전문가들은 인터넷, 즉 개인용 컴퓨터, 인터넷, 소셜 미디어에 대해 제기했던 것과 똑같은 주장을 펼치고 있다.“고 말했다.