“아마존 AI비서 뒤에 사람 있다…수천명이 음성기록 분석”

블룸버그통신은  AI 스피커 에코가 잡아낸 음성 파일들을 아마존 직원들이 듣고 검토하는 작업이 존재한다고 이 일에 참여한 관계자 7명의 설명을 인용해 보도했다.

음성 기록은 직원들의 주석 작업을 통해 알렉사가 인간의 말을 이해하는데 있어 오류를 제거하고 음성 명령에 더 잘 반응하도록 개선하는 데 활용된다.

관계자들에 따르면 외부 계약 직원과 아마존 정규 직원들이 섞여 팀을 구성하고 있으며 이들은 이 프로그램에 대한 기밀유지 협약에 서명하고 미국 보스턴에서 코스타리카, 인도, 루마니아에 이르기까지 세계 곳곳에서 활동하고 있다.

루마니아 사무실에서 일하는 직원들은 한 차례 근무할 때마다 많게는 1천건의 음성 기록을 분석했다고 전했다.

대부분 작업은 직원이 음성 데이터를 듣고 이 말이 무엇을 가리키는지 주석을 다는 식으로 일상적으로 처리된다.

그러나 간혹 샤워실에서 들려오는 엉망진창의 노랫가락처럼 사용자들이 사적으로만 들리기를 바랄 법한 음성도 들어오며, 범죄가 의심되는 상황이 녹음된 파일도 있는 것으로 전해졌다.

몇몇 직원들은 이런 경우 대응 지침을 요청하자 개입하는 것이 아마존의 일은 아니라는 취지의 답변을 들었다고 주장했다.

블룸버그는 아마존이 자주 묻는 질문(FAQ)에 “우리는 여러분이 알렉사에게 한 요청을 우리의 언어 인식과 자연어 이해 시스템 훈련에 사용한다”고 적시했을 뿐 알렉사가 녹음한 음성을 사람이 들을 수 있다고 명시하지 않고 있다고 지적했다.

다만 아마존은 알렉사의 사생활보호 설정에서 사용자들에게 음성 기록을 신기능 개발을 위해 활용하는 것을 해제하는 옵션을 제공한다.

아마존 대변인은 이메일 성명에서 “우리는 고객의 개인정보 보안과 프라이버시를 심각하게 다룬다”며 “고객 응대 개선을 위해 극히 적은 알렉사 음성 기록 샘플에 주석을 달 뿐”이라고 말했다.

그는 이어 “우리는 엄격한 기술·운영상 안전장치와 시스템의 오용에 대한 무관용 정책을 갖고 있다”며 “직원들은 작업 중 (해당 고객의) 신상이나 계정을 파악할 정보에 직접 접근할 수 없으며 모든 정보는 고도의 기밀유지 상태로 다뤄진다”고 주장했다.