디지털 감옥 시대

조지 오웰의 1984. 가상의 전체주의 국가를 배경으로 ‘빅 브라더’라는 독재적 지도자가 통치하며, 텔레 스크린과 사상경찰을 통해 국민들을 철저히 감시하고 통제하는 사회에서 주인공 윈스턴 스미스가 겪는 사건들을 중심으로 이야기가 전개된다.

기술 발전과 함께 소설 속 상황들이 현실화 속으로 치닫고 있다. 텔레 스크린, 디지털카메라 등 그 도구가 무엇이든 무고한 수많은 사람들을 감시하며 통제하는 사회가 디지털의 발달로 더욱 심화되어 가고 있다.

일방적, 독단적, 파쇼적 성향의 도널드 트럼프 미국 대통령은 정부 권력(government power)과 민간 감시 기술(surveillance tech)을 융합해 중앙 집중식 국가 시민 데이터베이스를 구축하려는 계획을 가지고 있다고 한다.

미국을 입헌 공화국에서 알고리즘과 책임을 질 수 없고 전지전능한 인공지능(AI)으로 무장한 디지털 독재 국가(digital dictatorship)로 변모시켜 보려는 마지막 단계에 트럼프는 눈길을 주고 있다는 주장이 미국에서 나오고 있다.

트럼프의 그 같은 계획은 ‘국가 안보’가 아니라 ‘국민 감시 통제’에 관한 일이다. 보도에 따르면, 트럼프 정부는 억만장자 피터 티엘(Peter Thiel)이 공동으로 창립한 데이터 마이닝 거대기업인 “팔란티어 테크놀로지스”(Palantir Technologies)와 조용히 협력해, 미국인의 개인 정보에 대한 단일 무기화된 데이터베이스로 생체 인식, 행동 및 지리적 위치 데이터를 통합하는 정부 차원의 중앙 집중식 감시 시스템을 구축하고 있다.

당연히 이건 ‘자유 보호’가 아니라 ‘자유 속박(freedom restriction), 혹은 자유 폐기 처분“(freedom disposal)이라 할 수 있다. 이것은 분명 미국이 ’디지털 감옥‘(digital prison)으로 변하는 모습이다.

수감자들에게는 자유롭다고 하면서 모든 움직임, 모든 말, 모든 생각이 감시되고 기록되며, 새로운 복종 계층에서 우리의 위치를 ​​결정하는 ’위협 점수‘(threat score)가 부여된다.

이러한 모든 것을 감시하는 감시 체제를 가능하게 하는 도구는 새로운 것이 아니지만, 트럼프의 지시에 따라, 이러한 도구는 전례 없는 방식으로 결합되고 있으며, 팔란티어는 이 디지털 저인망식 감시(digital dragnet)의 중심에 있다.

오랫동안 ICE(이민 및 세관 집행국, Immigration and Customs Enforcement)의 급습과 예측적 경찰 활동을 뒷받침하는 역할로 비판받아 온 팔란티어는 이제 트럼프의 감시 체제의 두뇌가 될 태세를 갖추고 있다.

’데이터 통합‘(data integration)과 ’공공 안전‘(public safety)이라는 명분 아래, 이 공공-민간 파트너십은 AI가 강화된 시스템을 구축, 얼굴 인식 피드와 차량 번호판 판독기부터 소셜 미디어 게시물과 휴대폰 메타데이터까지 모든 것을 꼼꼼히 살펴보고, 이를 모두 교차 참조하여 국가에 대한 개인의 위험을 평가한다는 것이다.

트럼프의 미국에서는 법 집행 기관과 군 기관에서 사용하는 팔란티어의 군사 정보기관용 데이터 분석 툴(tool), 고담 플랫폼(Gotham platform)은 오랫동안 실시간 추적 및 예측 분석의 중추 역할을 해왔다. 이제 트럼프의 지원을 등에 업고 디지털로 강화된 권위주의의 중추 신경계가 될 위기에 처해 있다는 게 전문가들의 비판이다.

팔란티어가 인정했듯이, 회사의 사명은 ”인간의 의사 결정을 강화하는 것“이다. 실제로 이는 잠재적 원인을 확률 점수로, 법정을 코드로, 적법 절차를 데이터 파이프라인으로 대체하는 것을 의미한다.

이 새로운 체제에서는 사람들의 결백은 아무런 의미가 없을 것이다. 알고리즘이 사람들이 누구인지 결정할 것이다.

이 순간의 위험성을 완전히 이해하려면 코인텔프로(COINTELPRO=Counter Intelligence Program)와 미국 애국법(USA PATRIOT Act)과 같은 비밀 정보 프로그램에서 데이터 융합 센터가 구현한 오늘날의 AI 기반 디지털 포위망에 이르기까지 정부 감시의 긴 궤적을 추적해야 한다. 코인텔프로는 ’미국 내부의 저항 정치 조직을 조사하여, 파괴하려는 목적을 가지고 설립한 프로그램‘을 말한다.

이러한 역사적 남용의 토대를 바탕으로 정부는 전략을 발전시켜 인간 정보원을 알고리즘으로, 도청을 메타데이터로 대체했으며, 범죄 발생 전 예측이 기소로 처리되는 시대를 열었다.

IP 네트워크를 통해 특정한 호스트가 얼마 만에 도달할 수 있는지를 테스트하는 프로그램인 스마트폰 핑(smartphone ping), GPS 좌표(GPS coordinate), 얼굴 스캔, 온라인 구매, 소셜 미디어 활동 등 모든 것이 ’디지털 배기가스‘(digital exhaust)의 일부가 된다. 이는 정부가 행동 프로필을 구축하는데 사용하는 메타데이터의 흔적이다. FBI는 이를 ”오픈소스 정보“(open-source intelligence)라고 부른다. 그러나 실제로는 이는 저인망식 감시이며 근본적으로 위헌이다.

이미 정부 기관에서는 이 데이터를 분석하여 ’생활 패턴‘을 분석, 실시하고, ’급진화된‘ 개인을 표시하고, 단순히 정부에 반대하는 견해를 공유하는 사람들을 사전 조사하고 있다. 이건 법 집행이 아니다. 기계에 의한 사고 감시이며, 반대 의견을 범죄화하고 알고리즘을 통해 표적 조사를 하는 시스템의 논리적 결과이다.

수십 년 동안 연방 정부는 ”메인 코어“(Main Core)라는 이름의 극비 데이터베이스를 유지해 온 것으로 알려졌는데, 이는 국가 안보에 잠재적 위협이 된다고 여겨지는 미국인에 대한 정보를 수집하고 저장하도록 설계된 것이라고 한다. 이 ’메인 코어‘는 국가적 재앙, 헌법 정지 또는 계엄령 선포 시 군에서 사용하도록 설계된 비상 내부 보안 데이터베이스 시스템이다.

트럼프가 팔란티어를 채택하고 감시 피드, 소셜 미디어 메타데이터, 공공 기록, AI 기반 예측을 결합하는 탁월한 능력을 보여준 것은 위험한 진화를 의미한다. 즉, 디지털화, 중앙 집중화, 완전 자동화된 메인 코어의 현대적 부활이다.

한때 은밀했던 비상 계획이 이제는 적극적인 정책으로 바뀌고 있다. 과거 정권이 꿈꾸었던 것보다 훨씬 더 광범위한 감시 모델이 등장했다. 모든 시민을 끊임없이 감시하고 모든 움직임을 정부 데이터베이스에 기록하는 디지털 감시 체계이다. 인간이 아니라 양심도 없고, 연민도 없고, 헌법적 한계도 없으며, 시간적 제약도 받지 않는 기계가 감시한다. 공상과학소설에 나오는 이야기가 아니라 현실 속의 미국 이야기라고 존 화이트헤드(John W. Whitehead)는 주장한다.

이러한 기술적 폭정이 확대됨에 따라, 자의적 권력에 대한 보루라고 여겨지는 헌법의 기본적 안전장치가 조용히 무효화되고 있으며, 헌법의 보호장치는 무의미해지고 있다.

영장 없이 당신의 삶 전체를 수색하고, 분류하고, 점수를 매길 수 있는 세상에서 수정 헌법 제4조는 무슨 의미일까? 반대 의사를 표명하는 것만으로 극단주의자로 낙인찍힐 수 있다면 수정 헌법 제1조는 무슨 의미일까? 알고리즘이 유죄를 판단할 때 무죄 추정의 원칙은 무슨 의미일까?

헌법은 기계의 통치가 아닌 인간을 위해 작성됐다. 권리를 무시하고, 책임을 회피하고, 폭정을 자동화하도록 훈련된 예측 분석과 경쟁할 수 없다. 그리고 그것이 바로 종착점이다. 권위주의의 자동화(automation of authoritarianism)이다. 적법 절차를 무용지물로 만들고 반대 의견을 치명적으로 만드는, 눈 하나 깜짝하지 않는 AI 기반 감시 체제이다.

하지만 저항하기에는 너무 늦지 않았다. 하지만 저항하려면 인식, 용기, 그리고 우리 자신을 포로로 만드는 기계 장치에 맞서려는 의지가 필요하다. 어느 정부나 정부는 이런 문제에 있어 당신의 편이 아니다. 이 ’디지털 감옥‘을 짓는 기업들도 마찬가지로 당신의 편이 아니다. 그들은 당신의 데이터, 당신의 두려움, 그리고 ”당신의 침묵“을 통해 번영해 나갈 것이다.

저항하려면 먼저 우리에게 대항하여 사용되고 있는 무기화된 AI 도구 를 이해해야 한다. 우선 투명성을 요구하고, 데이터 수집에 제한을 가하고, 예측적 프로파일링을 금지하고, 이 기계에 전력을 공급하는 핵융합 센터를 해체해야 한다는 게 기본 인권과 개인 정보를 철저히 지키려는 사람들의 생각이다.

AI 감시를 할 때에는 비밀경찰에 대해 품었던 것과 같은 의심의 눈초리로 대해야 한다. AI 기반 거버넌스가 비밀경찰로 변질되었기 때문이다. 인간 비밀경찰과 디지털 비밀경찰의 한판승부(a one-off match)가 펼쳐지려 하고 있다.

디지털 감옥 시스템에서는 ”자유는 조건부이고, 권리는 철회가 가능한 것이며, 정의는 법전에 따라 결정되는 세상“이 바로 디지털 감옥 세상이다. 인류는 적확히 판단해 행동해야 할 시간이다. 침묵 속에서 디지털 감옥 시대의 디지털 세상을 수용할 것인가 ?

아니면, 이러한 디지털 강제 수용소를 해체에 나설 것인가, 혹은 인간 스스로 노예화하는 기반 설을 계속 건설해 나갈 것인가?