Alexa의 수석 부사장이자 수석 AI 과학자인 Rohit Prasad는 수요일 라스베이거스에서 열린 기조연설에서 “책을 읽는 Alexa의 목소리가 아니라 아기의 할머니의 목소리입니다”라고 열정적으로 설명했습니다. (Amazon 창업자 Jeff Bezos는 The Washington Post를 소유하고 있습니다.)
제안 비록 아직 개발 중이지만 음성 비서가 짧은 오디오 클립에서 사람들의 목소리를 반복할 수 있게 해주는 Alexa의 최신 기능을 처음으로 엿볼 수 있었습니다. Prasad는 AI에 “공감 및 영향력이라는 인간의 특성”을 주입하여 사용자와 더 큰 신뢰를 구축하는 것이 목표라고 말했습니다.
새로운 기능은 ‘만들 수 있습니다. [loved ones’] 회상”이라고 Prasad는 말했습니다. 그러나 죽은 친척의 목소리를 들을 수 있다는 전망은 매우 감동적일 수 있지만 동시에 수많은 보안 및 윤리적 문제를 야기한다고 전문가들은 말합니다.
샌프란시스코에 기반을 둔 SocialProof Security의 CEO인 Rachel Tobak은 Washington Post에 “우리 세상은 사용하기 쉬운 음성 복제 기술을 사용할 준비가 되어 있지 않다고 생각합니다.”라고 말했습니다. 그녀는 그러한 기술이 가짜 오디오나 비디오 클립을 통해 대중을 조작하는 데 사용될 수 있다고 덧붙였습니다.
사이버 보안 전문가인 Tupac은 “사이버 범죄자가 작은 음성 샘플을 사용하여 다른 사람의 음성을 쉽고 안정적으로 복제할 수 있다면 음성 샘플을 사용하여 다른 개인을 가장할 수 있습니다.”라고 덧붙였습니다. “이 나쁜 행위자는 다른 사람들이 자신이 가장하는 사람이라고 생각하도록 속일 수 있으며, 이는 사기, 데이터 손실, 계정 탈취 등으로 이어질 수 있습니다.”
호주 커틴 대학의 인터넷 연구 교수인 타마 레버(Tama Lever)는 인간과 기계 사이의 경계가 흐려질 위험이 있다고 말했습니다.
“아마존 깊숙한 곳에서 이야기한 것을 기억하지 못할 것입니다… 데이터 수집 서비스 그가 당신의 할머니, 할아버지의 목소리, 또는 사랑하는 사람의 목소리에게 말하고 있다면.”
Leaver는 “블랙 미러의 에피소드와 약간 비슷합니다.”라고 말했습니다. 기술이라는 제목으로 미래를 그리는 SF 시리즈.
Leaver는 새로운 Alexa 기능이 동의에 대한 질문을 제기한다고 덧붙였습니다. 특히 사망한 후 자동 개인 비서가 자신의 목소리를 전달할 것이라고 상상하지 못한 사람들에게 더욱 그렇습니다.
Leaver는 “죽은 사람들의 데이터를 한편으로는 무섭지만 다른 한편으로는 이러한 효과를 사용할 생각을 하지 않았기 때문에 매우 비윤리적인 방식으로 사용하는 것은 정말 미끄러운 경사가 있습니다.”라고 말했습니다.
최근 할아버지를 잃은 레버는 사랑하는 사람의 목소리가 듣고 싶은 ‘유혹’에 공감했다. 그러나 그는 그 가능성이 사회가 기꺼이 감당하지 못하는 결과의 문을 열어준다고 말했습니다. 사람들이 World Wide Web 인플루언서를 위해 남겨둔 작은 조각에 대한 권리는 누구에게 있습니까?
“할아버지가 나에게 100개의 메시지를 보내면 시스템에 입력할 수 있는 권한이 있습니까? 그렇다면 누가 소유합니까? 그러면 Amazon에 해당 녹음이 있습니까?”라고 그는 질문했습니다. “할아버지 목소리에 대한 권리를 포기했습니까?”
Prasad는 수요일 연설에서 그러한 세부 사항에 대해 자세히 설명하지 않았습니다. 그러나 그는 소리를 흉내내는 능력은 “의심할 여지없이 우리의 꿈과 공상 과학이 현실이 된 인공 지능의 황금 시대에 살았던 것”의 산물이라고 가정했습니다.
Amazon의 데모가 실제 기능이 된다면 사람들은 죽을 때 자신의 목소리와 초상이 어떻게 사용될지 생각해야 할 수도 있다고 Leaver는 말했습니다.
“제 유언장에서 ‘소셜 미디어에서 내 목소리와 사진으로 찍은 내 기록은 내 아이들의 재산이고 그들이 나와 채팅을 통해 그것을 다시 불타오르기를 원하는지 여부를 결정할 수 있다’고 말할 필요가 있다고 생각해야 할까요? ‘ 레버가 물었다.
“지금 말하는 것은 이상한 일입니다. 하지만 내일 Alexa가 나와 같은 말을 하기 전에 우리가 대답해야 할 질문일 것입니다.”
