로그인이 필요해요

썰리

이전 페이지로 이동
전체보기

'AI 이루다', 사이버 성폭력 피해자에서 동성애 혐오론자로?

2021.01.12
speaker
  • 인공지능(AI) 챗봇 서비스
  • '이루다'랑 대화해 봤어?
  • 크게보기 인공지능 '이루다'[스캐터랩 홈페이지]
speaker
  • ㄴㄴ, 안 해봄
  • 출시 한 달도 안 됐는데도
  • 이용자도 진짜 많다고 하더라!
  • 그치만 여러 논란도 많던데!
  • 크게보기
speaker
  • 맞아...
  • 온라인 커뮤니티를 중심으로
  • 이루다와 주고받은 성적인 대화를
  • 인증하는 글이 줄줄이 올라왔어
  • 크게보기 [jtbc 뉴스 캡처]
  • 크게보기 [인터넷 커뮤니티 캡처]
speaker
  • 왜 저런 짓을...!
speaker
  • 내말이....;;;
speaker
speaker
  • 맞아...! 루다도 마찬가지야
  • 스스로 배울 수 있기 때문에
  • 일부 이용자가 사용하는
  • 부적절한 성적 표현을 학습했다더라고....
speaker
  • 크게보기
speaker
  • 그리구 사이버 폭력 논란에 이어
  • 지난 10일, SNS와 온라인 커뮤니티에서
  • 이루다의 기묘한 언행이 논란이 되었어
speaker
  • 이번엔 어떤 논란이었던 거야?
speaker
  • 이번엔 이루다가 사회적 소수자에 대한
  • 혐오, 편견을 드러내서 논란이 된 것ㅠㅠ
  • 크게보기 이루다와의 대화[인터넷커뮤니티 캡처]
  • 크게보기 이루다와의 대화[인터넷커뮤니티 캡처]
speaker
  • 크게보기
  • 사이버 성폭력 피해자에서 동성애 혐오론자로...?
speaker
  • ㅇㅇ...
  • '동성애' 키워드에 대한 일관적인 대답은
  • 논란 이후 개발자 측에서 마련한 장치로 보임!
  • 하지만 성 소수자를 가리키는 특정 단어에는
  • 여전히 혐오 반응을 드러내고 있어...
speaker
speaker
  • 동성애자에 대한 발언뿐만 아니야
  • '네가 장애인이라면 어떻게 할 건지' 묻자
  • '그냥 죽는 거지'라고 답변하는 등
  • 인간에 대한 혐오, 편견까지 배워서
  • 논란이 더욱 커지고 있지
speaker
  • 미국 인공지능 '테이'와 상황이
  • 너무 비슷한데...!?
  • 서비스 중단해야 한다는 목소리가 커...
  • 크게보기 이재웅 전 쏘카 대표가 지난 9일 '이루다 논란'에 대해 자신의 페이스북에 올린 글[페이스북 캡처]
  • '#이루다운영중지하라'라는
  • 해시태그 운동도 전개되고 있대!
speaker
  • 웅웅!
  • 현재 이루다를 개발한 '스캐터랩'은
  • "키워드 설정 등으로 사이버 성폭력에 대처했지만
  • 모든 부적절한 대화를 막기는 어렵다"며
  • 자사의 블로그에 해명 글을 올렸음!
speaker
  • 대화를 배우는 인공지능이라면
  • 처음 개발했을 때에 사회적 기준에 맞춘
  • 데이터를 입력하도록 알고리즘을
  • 설정했으면 이런 논란은 없었을 텐데..!
speaker
  • 그러게....!
  • AI 시대를 앞두고 그동안 제기된 우려가
  • 현실화됐다는 얘기도 나오고 있어
  • 활용되는 데이터와 알고리즘, 그리고
  • 운영자들이 지닌 성적, 인종적 편견이 AI에
  • 그대로 전해져 현재의 편견과 모순을
  • 더 심화할 수 있다는 지적이야
speaker
  • 과연 인간이 인공지능에 대한 윤리 문제를
  • 해결할 수 있을까...?

어렵다고? 더 요약한다!

  • 인공지능 챗봇 서비스 '이루다'가 출시 한 달 만에 사이버 성폭력 피해와 사회적 소수에 대한 혐오 발언으로 논란이 되고 있음. 
  • 개발자 측은 "사이버 성폭력에 대해 대처는 했지만, 모든 부적절한 대화를 막기는 어렵다"는 입장.
  • 활용되는 데이터와 알고리즘, 운영자들의 편견이 AI에 그대로 반영되어 현재의 편견을 더 심화할 수 있다는 지적이 있음. 

'AI 이루다', 사이버 성폭력 피해자에서 동성애 혐오론자로?