로그인이 필요해요

썰리

이전 페이지로 이동
전체보기

믿었던 AI 스피커에게 통수 맞은 사연

2018.06.02
speaker
  • 나도 드디어 장만했다 AI 스피커!!
  • 얼리어답터 ㅇㅈ????
  • 헤이 카카오~
  • 크게보기 쫄귀탱 카카오 미니 [카카오]
speaker
  • 엥 이제서야??
  • 미국에서 난리난거 모르냥??
speaker
  • 갑자기..?
  • 크게보기 ???
speaker
  • 아마존에서 만든 스피커 '에코' 알지?
speaker
  • ㅇㅇ 거기 탑재된 인공지능 비서가 알렉사자나
  • 먼 난리가 났는데?
  • 크게보기 방귀소리를 음성인식해 보았다
  • 이런 건가?
speaker
speaker
  • 집에서 한 개인적인 대화를
  • 아무한테나 보내버렸다고??
speaker
  • 메시지를 받은 동료가 당장 알렉사 끄라고
  • 해킹 당했다고 알려주고 나서야 알아차렸대
speaker
  • ㅁㅊ 그렇게 쉽게 해킹이 된다거??
  • 집에서 별거 별거 다하는데
  • 나도 쓰기 무서워짐ㅠㅠ
speaker
  • 아마존피셜 해킹이 아니라구 함
speaker
  • 그럼 뭐야.. AI의 반란이 시작된 건가?
  • 크게보기
speaker
  • 아마존에서 내놓은 답변은 이럼
  • 부부가 대화를 하면서
  • ‘알렉사’랑 비슷한 말을 해서 알렉사가 깨어났어
speaker
  • ㅇㅇ 그거야 뭐 그럴 수 있지
speaker
  • 그 다음 대화를 알렉사가 ‘메시지 전송’이라고 인식했고
speaker
  • 그것도 대화 중에 비슷한 말을 했으면
  • 가능한 것 같고?
speaker
  • 여기서부터가 중요
  • 알렉사가 ‘누구에게?’라고 소리내서 말했고
speaker
  • 엥 그걸 부부는 못들었고?
speaker
  • ㅇㅇ 알렉사는 또 부부의 대화를 연락처에 있는 동료의 이름으로 인식한거야
speaker
  • 우연에 우연에 우연이 겹쳤다고?
speaker
  • 그게 다가 아님
  • 알렉사가 또 ‘(동료의 이름) 맞나요?’라고 물었고
  • 대화를 ‘맞다’라고 인식ㅋ
speaker
  • 크게보기
  • 인공지능이라면서 그렇게 말귀를 못알아들어서야;;
  • 믿을 수가 없자나
speaker
  • 3월에도 비슷한 일이 있었지
speaker
  • 뭐였더라?
speaker
  • 다른 단어를 '알렉사 웃어'라고 착각해서
  • 시도 때도 없이 웃는 버그가 있었어
  • 귀신들린 스피커라고ㅋㅋㅋㅋㅋ
speaker
speaker
  • 그 일이 있고나서 명령어를 '알렉사, 웃어'가 아니라
  • '알렉사, 너는 웃을 수 있니?'로 바꾸고
  • 오해가 발생할 수 있는 짧은 명령어는 뺀다고 했는데..
  • 알렉사가 또..
speaker
  • 이건 그냥 귀신드립으로 끝날게 아니라
  • 신뢰도가 엉망진창와진창 된 거자나ㅠㅠㅠㅠㅠㅠ
speaker
  • 아마존은 프라이버시를 아주 중요하게 생각한다며
  • 이번 일은 '아주 드물게 발생하는 사고'고
  • 앞으로 일어나지 않도록 조치하겠대
speaker
  • 이제 더 많은 사람들이 인공지능 스피커를 사용할텐디
  • 보안이나 사생활 침해 문제가 더 걱정이 된답

어렵다고? 더 요약한다!

  • 아마존의 인공지능(AI) 스피커 에코에 탑재된 AI 비서 알렉사가 미국 한 부부의 사적인 대화를 임의로 녹음해 제3자에게 잘못 전송하는 일이 일어남
  • 알렉사는 부부의 대화 중 '알렉사'와 비슷한 말 때문에 깨어났고, 뒤이은 대화를 메시지 보내기 요청으로 인식해 사용자의 연락처 목록 중 한 사람에게 발송한 것
  • 최근 AI 음성인식 기기를 생활에서 활용하는 사람들이 늘어나는 가운데 보안과 사생활 침해 우려가 더욱 커지고 있음

믿었던 AI 스피커에게 통수 맞은 사연