대화형 생성 인공지능(AI) 챗GPT(chatGPT) 개발 서비스 업체인 미국 오픈AI(Open AI)가 부당하게 개인정보를 수집했다며 미국 이용자들이 이 회사를 상대로 집단소송을 제기했다고 비즈니스 인사이더, ZDNet 등이 29일(현지시간) 보도했다.

집단소송을 제기한 이용자들은 “서비스의 일시적인 정지나 수집한 데이터의 삭제, 손해배상 등”을 요구하고 있다.

제안된 집단 소송은 오픈 AI CEO인 샘 알트맨(Sam Altman)의 회사가 챗봇이 인간의 언어를 복제할 수 있도록 대규모 언어 모델을 훈련하기 위해 “비밀리에 데이터를 수집했다(secretly harvested data)고 주장했다.

이들의 주장은 “개인 정보의 구매 및 사용에 대한 확립된 프로토콜에도 불구하고, 피고인들은 ‘절도(theft)’라는 다른 접근 방식을 취했다고 소장에서 주장했다. 또 이들은 오픈AI의 ‘AI 소유 개인 데이터 모음’인 WebText2는 Reddit 게시물과 링크된 웹 사이트에서 엄청난 양의 데이터를 스크랩했다고 소송에서 주장했다.

접속해 훔쳐간 데이터에는 “개인 정보 및 사적인 대화, 의료 데이터, 어린이에 대한 정보(기본적으로 인터넷에서 교환되는 모든 데이터)가 포함되어 있다. 이러한 데이터의 소유자 또는 사용자에 대한 통지 없이, 누구의 허락도 없이 오픈AI가 수집해 갔다는 주장이다.

또 이번 소송은 “우리는 이익을 추구하는 수십억 달러 기업의 손에 의해 우리 사회 구조 자체가 무너지는 임박하고 불합리한 위험에 직면해 있다”고 밝히고, “비길 데 없는 고도로 집중된 기술 역량으로 무장한 유력 기업들이 '기술 발전'이라는 이름으로 인류에 대한 파국적 위험을 외면한 채 인공지능 기술 출시에 무모하게 뛰어들었다”고 지적하기도 했다.

캘리포니아 주 법원에 제출된 소장에 따르면, 제소는 28일자로 제소로 오픈AI가 챗GPT 개발을 위해 인터넷상에서 개인정보를 허가 없이 수집해 사생활을 침해한 것으로 알려졌다.

오픈AI와 제휴하고 있는 마이크로소프트도 소송 대상에 포함됐다. 소장에 기재된 원고는 20명 남짓이지만 앞으로 더 늘어날 가능성이 있다.

챗GPT로 대표되는 생성 AI를 둘러싸고는 개인정보나 저작권 등의 취급에 문제가 있다며 유럽을 중심으로 규제 검토가 진행되고 있다.

한편, 이탈리아는 지난 3월 개인정보보호 문제로 인해 ChatGPT에 대한 액세스를 일시적으로 금지한다고 발표했다. ChatGPT 이면의 알고리즘을 훈련시키는 데 사용되는 “개인 데이터의 대량 수집 및 저장”을 정당화할 법적 근거가 없다고 주장했다.

아마존 그리고 마이크로소프트과 같은 일부 기업들은 직원들에게 챗봇에 기밀 정보를 입력하지 않도록 지시했다. 한편, 한국 삼성은 직원들을 생성 AI로부터 접근 금지했다.