인공지능(AI) 안전 분야 책임자가 지난 9일(현지시간) 공개된 서한을 통해 앤트로픽사(Anthropic)에서 사임한다고 발표한 므리난크 샤르마(Mrinank Sharma)는 자신의 도덕성에 부합하는 일을 하기 위해 회사를 떠난다고 밝혔다.

샤르마 이외에도 최근 몇 달 동안 ‘앤트로픽’의 다른 직원 몇 명이 회사를 떠났다고 비즈니스 인사이더가 이날 보도했다.

므리난크 샤르마는 퇴임 편지에서 “세상이 위함에 처해 있다(world in peril)”는 생각에 회사를 떠난다고 밝혔다.

앤트로픽에서 안전장치 연구팀을 이끌었다고 밝힌 므리난크 샤르마는 이날 동료들에게 보낸 퇴사 서한을 공개하고, 그는 편지에서 “인공지능 회사를 떠나는 이유”와 향후 계획을 설명했다.

그는 “여기서 내가 원했던 모든 것을 이루었다”면서, 인공지능을 이용한 생물테러 위험을 줄이기 위한 방어 체계 개발 프로젝트와 인공지능이 인류에 미치는 영향을 이해하기 위한 최종 프로젝트 등을 예로 들었다.

그는 또 인공지능, 생물무기, 그리고 “바로 이 순간 펼쳐지고 있는 일련의 상호 연관된 위기들”이라는 위험에 끊임없이 직면하고 있기 때문에, 이제는 다른 길로 나아가야 할 때라라고 말하고, “우리가 세상을 변화시킬 수 있는 능력만큼 지혜도 함께 성장해야 하는 문턱에 다다른 것 같다. 그렇지 않으면 그에 따른 결과를 직면하게 될 것”이라고 썼다.

그러면서 그는 “이곳에 있는 동안, 우리의 가치가 행동을 좌우하도록 진정으로 노력하는 것이 얼마나 어려운 일인지 거듭 목격했다. 이는 내 자신에게서도, 가장 중요한 것을 제쳐두도록 끊임없이 압력을 받는 조직 내부에서도, 그리고 더 나아가 사회 전반에서도 마찬가지”라며, 이제부터는 자신의 청렴성에 부합하는 일을 추구하고, 시(詩) 창작 학위를 취득하며, 용기 있는 발언에 헌신할 계획이라고 밝혔다.

이 매체는 샤르마와 앤트로픽 측 모두 논평 요청에 즉시 응답하지 않았다면서, 샤르마는 앤트로픽에서 퇴사를 공개적으로 발표한 가장 최근의 직원이라고 소개했다.

연구 개발 부서에서 근무했던 하르시 메타(Harsh Mehta)와 저명한 AI 과학자 베남 네이샤부르(Behnam Neyshabur)는 지난주 X(엑스. 옛 트위터) 포럼 게시글을 통해 앤트로픽을 떠나 “새로운 시작을 하겠다”고 밝히면서도, 앤트로픽의 뛰어난 인재와 탄탄한 기업 문화를 칭찬했다. 앤트로픽에서 AI 안전 연구원으로 근무했던 또 다른 딜런 스칸디나로(Dylan Scandinaro)는 최근 오픈AI에 재난 대비 책임자로 합류했다.

인공지능 기업 앤트로픽은 새로운 투자 유치를 위해 협상을 진행 중이며, 이를 통해 회사 가치가 3,500억 달러에 달할 수 있을 것으로 예상된다. 최근 앤트로픽은 사무 생산성과 코딩 성능을 향상시키도록 설계된 업그레이드 모델인 클로드 오푸스 4.6(Claude Opus 4.6)을 출시했다. 이 모델은 더 큰 컨텍스트 창을 통해 한 번의 세션에서 더 긴 문서와 더 복잡한 작업을 처리할 수 있다.

샤르마는 자신이 앤트로픽에서, 그리고 AI의 알고리즘이 구체적으로 어떻게 세상을 위험에 빠뜨리는 문제에 대해서는 언급하지 않았다.

아래는 므리난크 샤르마의 퇴임 편지 전문이다.(한글본+영문 원본)

동료 여러분께,

저는 앤트로픽을 떠나기로 결정했습니다. 제 마지막 근무일은 2월 9일입니다. 감사합니다.

이곳에는 저에게 영감을 주는 것들이 너무나 많습니다.

몇 가지 예를 들자면, 어려운 상황 속에서도 진심으로 참여하고, 높은 도덕성을 바탕으로 의미 있는 기여하고자 하는 열망, 어려운 결정을 내리고 옳다고 생각하는 것을 위해 굳건히 나서는 용기, 놀라운 지적 능력과 결단력, 그리고 무엇보다 우리 문화에 스며든 따뜻한 친절함입니다.

저는 이곳에서 제가 원했던 것을 이루었습니다. 2년 전 박사 학위를 마치고 AI 안전 분야에 기여하고 싶다는 생각으로 샌프란시스코에 왔습니다. 이곳에서 제가 기여할 수 있었던 것들을 생각하면 정말 행운이라고 생각합니다.

AI의 아첨(Al sycophancy)과 그 원인을 이해하고, AI를 이용한 생물테러(bioterrorism)의 위험을 줄이는 방어책을 개발하고, 실제로 그 방어책을 상용화하고, 최초의 AI 안전 사례 중 하나를 작성했습니다.

특히 내부 투명성 메커니즘을 통해 우리 회사의 가치를 실현하는 데 기여한 최근의 노력과 AI 비서가 어떻게 우리를 덜 인간적으로 만들거나 인간성을 왜곡할 수 있는지에 대한 연구 프로젝트를 매우 자랑스럽게 생각합니다. 저를 믿어주셔서 감사합니다.

그럼에도 불구하고, 이제는 앞으로 나아가야 할 때가 왔다는 것이 분명합니다. 저는 끊임없이 우리의 상황을 되짚어보고 있습니다. 세계는 위험에 처해 있습니다.

인공지능이나 생화학 무기뿐만 아니라, 바로 이 순간 펼쳐지고 있는 일련의 상호 연결된 위기들로부터 말입니다. 우리는 세상을 변화시킬 수 있는 능력만큼 ‘지혜’(wisdom)도 함께 성장해야 하는 문턱에 다다른 것 같습니다.

그렇지 않으면 그에 따른 결과를 직면하게 될 것입니다. 나아가, 이곳에 있는 동안 저는 진정으로 우리의 가치관에 따라 행동하는 것이 얼마나 어려운지 거듭 목격했습니다. 제 자신에게서도, 가장 중요한 것을 제쳐두도록 끊임없이 압박받는 조직 안에서도, 그리고 더 나아가 사회 전반에서도 이러한 모습을 보았습니다.

이 상황을 있는 그대로 받아들이고 최대한 경청하는 과정을 통해 제가 해야 할 일이 명확해집니다. 저는 제 진정성을 온전히 발휘할 수 있는 방식으로, 그리고 저만의 개성을 더욱 드러낼 수 있는 방식으로 기여하고 싶습니다. 제게 진정으로 중요한 질문들, 데이비드 화이트가 “사라질 권리가 없는” 질문들, 릴케가 우리에게 “살아가라”고 간청하는 질문들을 탐구하고 싶습니다. 저에게 있어 이는 떠나는 것을 의미합니다.

앞으로 무슨 일이 일어날지는 저도 모르겠습니다. “모르는 것이 가장 친밀한 것이다”라는 유명한 선(禪) 명언이 떠오릅니다. 저는 지난 몇 년간 저를 얽매어왔던 틀을 내려놓고, 그 빈틈에서 무엇이 나타날지 살펴볼 공간을 만들고 싶습니다.

저는 우리가 처한 현실을 깊이 있게 다루고, 시적 진실과 과학적 진실을 동등하게 유효한 인식 방식으로 인정하는 글을 쓰고 싶습니다. 두 방식 모두 새로운 기술을 개발하는 데 필수적인 기여를 한다고 믿기 때문입니다. 시 관련 학위를 취득하고 용기 있는 발언을 실천하는 데 전념하고 싶습니다.

또한 퍼실리테이션(facilitation), 코칭, 커뮤니티 구축, 그룹 활동 분야에서 제 역량을 더욱 발전시키고 싶습니다. 앞으로 어떤 일들이 펼쳐질지 지켜보겠습니다.

감사합니다, 그리고 안녕히 계세요. 이곳에 있으면서 정말 많은 것을 배웠습니다. 여러분의 앞날에 좋은 일만 가득하길 바랍니다. 제가 가장 좋아하는 시 중 하나인 윌리엄 스태포드의 “있는 그대로”(The Way It Is )를 마지막으로 들려드리겠습니다.

행운을 빌어요,

므리난크.

-----------

“있는 그대로”

삶에는 어떤 흐름이 있어. 그걸 따라 흘러야 해.

변하는 것들 속에서 흐르지만, 그것은 변하지 않지.

사람들이 너에게 뭘 추구하냐고 묻는다면,

그 흐름에 관해 이야기할 수 있어야 해.

눈에 보이지 않는 그것에 관해 말이야.

그 흐름과 함께 흐른다면, 길을 잃지 않을 거야.

삶에 비극이 일어나고, 사람들이 상처를 입거나 죽어가고,

네가 고생하다가 늙어간다 해도,

그 흐름을 멈출 수 없어.

그 흐름을 놓치지 마.

윌리엄 스태포드.