인공지능(AI)을 개발해 내놓은 미국의 ‘오픈 AI(Open AI)’는 5일(현지시간) 고도의 언어 능력을 가지는 AI의 안전 시책을 발표했다.

외부 전문가나 이용자 목소리를 섞어 동작 감시하고 개선하는 것 외에도 AI 훈련에 사용하는 데이터에서 개인정보를 최대한 삭제할 것 등을 내걸었다.

사생활 침해를 둘러싸고 미국과 유럽에서 비판과 우려의 목소리가 강해지고 있는 것에 대응했다.

사람과 자연스러운 대화를 할 수 있는 서비스 “Chat GPT(챗GPT)”와, 그것을 움직이기 위한 기반이 되는 최신 기술 “GPT-4”에 관한 시책을 발표했다.

GPT-4는 종전의 8배인 2만5000단어까지 문장을 다룰 수 있게 돼 있어, 미국 사법시험 모의고사에서는 상위 10% 정도의 성적으로 합격하는 성능을 자랑한다.

하지만 어떻게 데이터를 모으고 있는지 불투명해 이탈리아 당국이 개인정보보호법령을 위반한다고 보고 한시적으로 금지했었다.

오픈AI는 가능할 경우 AI를 훈련하는 데이터에서 개인정보를 삭제한다는 방침이다. 외부에서 개인정보 삭제 요청이 있을 경우에도 응함으로써 프라이버시 침해를 최소화한다는 것이다.

또 동작에 대해서는 외부 전문가나 이용자의 목소리를 반영해 개선하고 감시하는 구조를 만들어 나갈 방침이다.

API라고 불리는 외부 소프트웨어와의 연계 기능을 통해 실제 서비스의 사용 방법을 확인함으로써 부정사용을 막도록 한다는 것이다.

오픈AI는 채팅 GPT 등에 대해 "위험이 따른다는 것을 인식하고 있으며, 모든 수준에서 안전성을 확보할 수 있도록 하겠다"고 말했다.

실제로 안전성 우려에 대응해 나가는 효과적인 방법은 "많은 시간과 자원을 소비하는 것"이라며, 앞으로도 이용자나 이해관계자와의 대화를 계속해 나가겠다고 주장했다.

지금까지의 노력으로 GPT-4 공개 전에는 6개월 이상 안전성 등을 확인하는 작업을 실시해 사실을 응답하는 정확성도 종전보다 40% 향상됐다고 밝혔다.

이어 혐오표현이나 폭력, 성인콘텐츠와 같은 부적절한 콘텐츠에 응답할 가능성을 82% 낮췄다고 설명했다. 말만 입력하면 뭐든지 대답하거나 그림을 그리는 고급 AI는 빠르게 성능이 향상되고 있다.

오픈AI에는 미국 마이크로소프트가 거액 투자를 하고 있고, 미국 구글도 대화형 AI 서비스인 Bard(바드)를 선보여 개발 경쟁이 치열해지고 있다.

한편, 고도의 AI는 기본이 되는 데이터의 부정한 수집, 차별이나 가짜 정보의 조장, 사이버 공격에의 악용이라고 하는 과제를 안고 있다. 이탈리아의 일시 금지를 비롯해 개인 데이터 보호 법제가 엄격한 유럽에서 규제 강화가 진행될 가능성이 있다.

미국에서는 비영리단체 등이 더욱 고도의 AI 개발 위험성을 지적하며, 서명 활동을 하고 있는 것 외에 당국에 서비스 금지를 요구하는 움직임도 있다.