〔음성인식〕구글의 ★듀플렉스 / 비서 예약서비스

〔음성인식〕구글의 ★듀플렉스 / 비서 예약서비스

http://biz.chosun.com/site/data/html_dir/2018/05/24/2018052400120.html

 

알아서 미용실 예약도 척척… 사람 같은 구글 인공지능

"음…으흠?" 말투·억양 똑같아… 직원과 예약 시간 협상하기도,

MS·아마존·애플도 개발

보이스피싱 등 악용 우려도… 정부·기업, 대비책 마련 나서

 

인공지능(AI)의 아버지로 불리는 영국 수학자 앨런 튜링(1912~1954)은 1950년 '계산기계와 지능'이라는 논문을 발표했다. 튜링은 이 논문에서 "상대가 누군지 모른 채 질문을 던지고 답을 받았을 때 컴퓨터인지 사람인지 구분할 수 없다면 컴퓨터가 지능을 가진 것으로 봐야 한다"는 튜링 테스트(Turing test)를 제안했다.

 

튜링의 논문 이후 68년이 지난 이달 초 등장한 인터넷 기업 구글의 AI 예약 서비스 '듀플렉스(Duplex)'가 전 세계적인 논란을 낳고 있다. 듀플렉스가 사람과 너무 똑같아서 구분하기 힘들다는 것. 튜링 테스트의 취지를 완전히 충족하는 듀플렉스에 대해 외신과 학계에서는 비윤리적이라는 비판이 쏟아지고 있다. AI를 연구하는 과학자와 기업들의 궁극적인 목표는 사람과 비슷하거나 사람을 뛰어넘는 AI를 개발하는 것이다. 이런 목표에 충실한 듀플렉스는 왜 논란의 대상이 된 것일까.

 

 

◇20대 여성인가, 인공지능인가… 물음표 던진 구글

 

순다르 피차이 구글 최고경영자(CEO)는 이달 8일(현지 시각) 미국 캘리포니아주 마운틴뷰에서 열린 개발자대회 '구글IO'에서 "듀플렉스가 누구의 도움도 받지 않고 스스로 예약을 잡는 장면"이라며 한편의 동영상을 공개했다. 동영상에서 20대 여성의 목소리를 가진 듀플렉스가 "고객을 대신해 미용실 예약을 잡으려고 해요. 5월 3일에 가능할까요"라고 묻자, 미용실 측에서는 "잠시만 기다려주세요"라고 답했다. 듀플렉스는 "음… 으흠?"이라며 사람이 고민하는 것처럼 반응했다.

 

듀플렉스는 미용실과 예약 시간을 두고 협상하기도 했다. 미용실에서 "오후 1시 15분이 가장 빠른 시각"이라고 하자 듀플렉스는 "그럼 오전 10시부터 낮 12시 사이는 안 되느냐"고 묻고 "일단은(for now), 머리만 자르면 된다"고도 했다. 미용실 직원은 오전 10시에 예약을 확정하고 전화를 끊는 순간까지 전화 상대가 사람이라고 믿은 것으로 전해졌다.

 

구글의 순다르 피차이 최고경영자(CEO)가 미국 마운틴뷰에서 개최한 연례 개발자대회 ‘구글IO’에서 올해 선보일 신기술을 발표하고 있다. 이번 행사에서 구글이 공개한 인공지능(AI) 예약 서비스 ‘듀플렉스’는 사람과 구분할 수 없는 목소리와 말투를 내면서 윤리 논란에 휩싸였다. 

 

 

▲ 구글의 순다르 피차이 최고경영자(CEO)가 미국 마운틴뷰에서 개최한 연례 개발자대회 ‘구글IO’에서 올해 선보일 신기술을 발표하고 있다. 이번 행사에서 구글이 공개한 인공지능(AI) 예약 서비스 ‘듀플렉스’는 사람과 구분할 수 없는 목소리와 말투를 내면서 윤리 논란에 휩싸였다. /구글

 

청중은 듀플렉스에 환호를 보냈지만, 곧바로 비판이 제기됐다. 기계음이 아니라 사람과 같은 목소리와 억양을 가진 AI가 스스로를 숨기고 대화하는 것이 정당하냐는 것이다. 또 이런 AI를 활용해 보이스피싱 같은 사기 범죄에도 쓸 수 있다는 주장도 나왔다.

 

블룸버그통신은 "사람을 속일 만큼 똑똑한 AI의 실제 목소리 주인공이 누구인지 공개해야 한다"면서 "이 기능은 현재 기술 기업들이 직면한 프라이버시나 개인 정보 보호 문제를 해결하는 데 전혀 도움이 되지 못한다"고 평가했다.

 

구글은 "예약 서비스를 할 때 상대방이 AI라는 것을 알면 곧바로 끊어버릴 것"이라며 사람 목소리와 닮은 AI의 필요성에 대해 항변했다. 하지만 논란이 확산되자 "가게와 통화할 때 로봇이라는 것과 대화 내용을 녹음한다는 사실을 먼저 공지하겠다"고 입장을 바꿨다.

 

기업들은 이런 논란에도 불구하고 여전히 '사람과 구분할 수 없는 AI' 개발에 막대한 돈을 쏟아 붓고 있다. 최대한 자연스럽게 인간 생활에 AI가 녹아 들도록 해야 한다는 것이다.

 

마이크로소프트(MS)는 21일 미국 버클리에 있는 AI 스타트업 시맨틱 머신즈를 인수한다고 밝혔다. 시맨틱 머신즈는 문맥을 이해하고 자연스러운 대화를 할 수 있는 AI 기술을 개발하는 곳이다. MS는 이번 인수를 통해 자사의 AI 비서인 코타나의 기술력을 대폭 끌어올릴 계획이다. 듀플렉스처럼 사람과 비슷하게 대화하는 AI를 개발하겠다는 것이다. AI 비서 시장을 선도하는 미국의 아마존, 애플 등도 지금보다 더 자연스러운 AI 개발에 총력을 다하고 있다.

 

 

◇AI 윤리헌장부터 위원회까지… AI 윤리성 정립 나선 정부·기업들

 

듀플렉스의 사례처럼 AI의 발전 속도가 예상을 뛰어넘으면서 세계 각국에서는 AI 윤리와 관련된 지침 마련을 서두르고 있다. 가장 앞서 있는 곳은 유럽연합(EU)이다. EU는 상용화된 AI에 적용할 수 있는 윤리 지침을 논의하고 있다. AI에 인권을 부여할 수 있는지, 법적인 책임은 어디까지 물을 수 있을지가 주요 화두이다.

 

구글과 MS, 페이스북 등은 AI의 윤리 문제에 대한 해결책을 연구하는 비영리단체 '파트너십 온 AI'라는 단체를 만들었다. 이 단체는 인간과 AI가 협업할 수 있는 시대를 대비한 연구를 지원하고, AI가 인류·사회에 어떤 영향을 미치는지 토론한다.

 

MS는 이와 별개로 최근 'AI 윤리위원회'라는 조직도 신설했다. 이 조직은 MS의 법무 책임자인 브래드 스미스가 지휘한다. 한국에서는 카카오가 지난 1월 '알고리즘 윤리 헌장'을 발표하면서 "AI를 개발하는 단계부터 차별을 막고, 무분별하게 데이터를 수집하지 않으며 사용자들과 AI에 대해 적극 소통해 윤리성을 지켜나가겠다"고 밝혔다.

 

IT 업계 관계자는 "AI의 윤리에 대한 고민은 아직 제대로 심사숙고 해보지 못한 영역"이라며 "정부부터 기업까지 각자 대비책을 마련하고는 있지만 향후 오랜 시간 동안 상당한 논란, 사회적 갈등과 이를 고쳐나가는 과정을 겪어야 할 것"이라고 말했다.

 

 

☞튜링 테스트

기계·컴퓨터가 지능을 가졌는지를 판단하는 테스트로 영국 수학자 앨런 튜링이 1950년 철학 학술지 ‘마인드’에 발표한 논문에서 제안했다. 대화 상대가 사람인지 컴퓨터인지 구분할 수 없다면 지능이 있다고 봐야 한다는 논리이다. 2014년 우크라이나의 인공지능 프로그램 ‘유진 구스트만’이 64년 만에 처음으로 테스트를 통과했지만, 입력되지 않은 질문에 딴청을 피우는 등 꼼수를 썼다는 비판을 받았다.

 

입력 : 2018.05.24

박건형 기자 강동철 기자