AI 인공지능 스피커는 우리 말을 엿듣고 있을까?

AI 인공지능 스피커는 우리 말을 옅듣고 있을까?
Pexel image

AI 인공지능 스피커는 우리 말을 엿듣고 있을까?

그러고 보니, 얘가 틀어준 노래, 내가 아까 옷 입으면서 흥얼거린 노래였어!

콧노래도 듣는 인공지능 스피커

막내는 이번 생일 선물로 AI 인공지능 스피커를 받았다. 처음 며칠간, 엉뚱한 대답을 하곤 하는 인공지능 스피커의 재롱에 온가족이 흠뻑 빠졌었다. 그런데, 누가 한마디 했다. “걔, 안듣는척 하면서 다 듣고 있다. 다 저장해서 데이터베이스로 모아놓는거야.” 막내가 소스라쳤다. “헉! 그러고보니, 얘가 틀어준 노래, 내가 아까 옷 입으면서 흥얼거린 노래였어!”

우리는 으례 ‘헤이, 카카오!’ 또는 ‘오케이 구글!’ 하면서 말을 걸어야 듣는 것으로 생각하지만, 사실 그렇지 않을 수 있다. 계속 우리 말을 듣고 있다. 그렇지 않고서야 우리가 부르는 말에 어떻게 응답하겠는가.

‘한숨도 못 잤어요’ 호소한 헨나 호텔 손님

일본의 유명한 로봇 호텔은 밤새도록 쉬지 않고 반응하는 인공지능 로봇 때문에 한숨도 못 잤다고 손님들이 항의하기도 했다1.

알파고든 우리집 스피커든 인공지능이 똑똑해지기 위해서는 딥 러닝 deep learning이 필요하다. 빅 데이터 없는 인공지능은 있을 수 없다. 그 빅 데이터는 어디에서 오나?

사적대화를 녹음해 남에게 보내버린 알렉사

미국 오리건주 포틀랜드. 어떤 부부는 자기들의 대화 녹취파일이 친구 손에 들어간 것을 친구로부터 전해 듣고 기함했다. 아마존 대변인의 말에 의하면, 알렉사가 ‘알렉사’와 ‘메시지 전송’ 비슷한 말을 듣고 ‘누구에게 보낼까요’라고 질문했을 때 마침 부부가 연락처에 있는 친구 이름을 말했을 것이라고 한다2.

비슷하지만 다른 예가 있다. 한 독일인이 아마존에서 자기 개인정보를 다운로드 했더니 아마존은 1700여개의 알렉사 음성녹음을 보냈다. 문제는 이것이 자료를 요청한 본인 것이 아니라 다른 사람 것이라는 점이다3. 로이터 에 따르면, 아마존은 이것 역시 사람의 실수(the result of human error) 라고 답했다고 한다. 사생활 침해만으로 끝날까.

1984, 빅 브라더는 망상에 지나지 않을까

물론 아마존이나 구글, 네이버 같은 기업들은 이런 사고가 다시 일어나지 않도록 하기 위해 애쓸 것이다. 하지만 그것으로 끝인가? 문제는 사고가 일어나는 것도 문제지만, 더 큰 문제는 내가 자의로 인공지능 스피커에게 말을 걸어 시작된 대화가 아닌 사람끼리 하는 사적 대화도 녹취되어 파일로 저장되고 있다는 점이다. 도청과 무엇이 다른가. 도청은 불법 아니었나.

지금은 그런 데이터들이 기업의 이윤 추구에 사용되고 있다. 누군가 다른 목적을 가지고 이런 데이터에 접근한다면 어떨까. 사람들을 감시하고 통제하는데 사용하지 못할 것은 뭔가.

CCTV가 처음 외진 골목마다 등장했을 때, 사람들은 자유를 침해당할 것이라고 반대했다. 범인을 검거하고 범죄 예방에 효과를 보이자 침묵하게 되었다. 지금은 인공지능 스피커가 주는 재미와 편리함이 부각되고 그 이면은 무시되고 있다. 인공지능이 아직 완벽하지 않은 점이 더욱 만만히 느끼도록 하는 것 같다.

이렇게 되면 스피커로 끝나지 않는다. 사물인터넷 기술 IoT 이 더해져 다양한 분야로 응용될 것이다. 작년 여름, 이미 화면이 달린 인공지능 스피커 가 등장했다. 곧 카메라도 달릴 것이다. 스피커에 부착된 마이크로 사적 대화가 파일로 저장된다. 카메라가 달리면 시키지 않아도 일거수 일투족을 찍어 동영상 파일로 저장할 것이다. 그러지 않는다고 보장할 수 있나.

재미와 편리함에 취해 자유를 저당잡히고 있는 것은 아닌지 걱정된다. 쓸데 없는 걱정이었으면 좋겠지만 그렇게 되지는 않을 것 같다. 상상한 것들이 언젠가 이뤄지는 것을 우리는 계속 보아왔다. 조지 오웰의 1984는 모든 주민이 감시당하고 통제되는 세상을 소름끼치도록 그렸다. 빅 브라더는 망상에 지나지 않을까. 그렇게 되길 바란다. 어렵겠지만.


당신의 스마트폰이 듣고 있다. 과대망상이 아니야

Buy Me a CoffeeBuy Me a Coffee

Footnotes

  1. 로봇직원 절반 해고한 日 유명 호텔…“로봇도 고용불안”
  2. AI 스피커가 대화를 엿듣고 남들에게 보냈다
  3. The Next Privacy War Will Happen in Our Homes

열매맺는나무

'마음으로 믿어 의에 이르고 입으로 시인하여 구원에 이르느니라(로마서 10:10)' 고백의 기쁨을 함께 누리고자 글을 씁니다.

2 Responses

  1. 이카루스 댓글:

    저는 SF영화를 좋아 하는데요 그 중에서 인공지능 뇌 선과 악이 싸우는 것을 본 적이 있어요..
    어떻게 보면 우리의 미래일 수도 있는데 재미가 있으면서도 이것이 우리 앞으로 다가오면 많이 혼란이 올 것 같습니다

    • 영화로 보면 흥미진진한데 실생활로 들어오면 또 얘기가 달라지지요.
      만약 제 이야기가 된다면 큰 일이구요. 막내도 요즘은 쓸 때 외에는 전원 끄고 다닙니다. ^^

반갑습니다. 댓글 고맙습니다.