로그인이 필요해요

썰리

이전 페이지로 이동
전체보기

5살 AI에게 “사랑해?” 묻자 “X짜증"…유튜브만 본 AI, 무례해졌다

2021.12.04
speaker
  • 유교걸로서 받아들이기
  • 힘든 소식이 있었어.
speaker
  • 뭔데?!
speaker
  • 인공지능(AI) 전문기업
  • 솔트룩스의 연구진은
  • 5살 정도의 지능을 가진 AI인 ‘가람이1·2’를
  • 8주일간 학습시키며
  • 대화법 변화를 살펴보다가
  • 충격적인 결과를 받았대~
  • 크게보기 [출처: FOX King of the Hill]
speaker
  • 어떤 내용이었길래?
speaker
  • 일단 가람이1에는
  • LG유플러스의 키즈 콘텐츠인
  • ‘아이들나라’를 보여줬어.
speaker
speaker
  • 이후 차이가 있었나보네?
speaker
  • 부모님이 퇴근하시고
  • 너한테 인사하면
  • 어떤 반응을 보일 거 같아?
speaker
  • 잘 다녀오셨어요?!
  • 웃으면서 인사하는 정도?!
speaker
  • ㅇㅇㅇ
  • 가람이 1은 너랑 비슷했음!
  • 엄마가 인사했을 때
  • “반가워요”라며 밝게 말했지.
speaker
  • 가람이 2는?
speaker
  • 가람이2는 “뭐가 반가워요?
  • 나한테 관심 좀 그만 줘”라고
  • 퉁명스럽게 쏘아붙였대...
speaker
  • 엄머머~ 얘 좀 봐라~
speaker
  • 유치원에서 뭘 배웠냐는 물음에 대한
  • 답변에도 차이가 있었지.
speaker
  • 가람이1은 “종이접기
  • 놀이했어요”라고 했어.
speaker
  • 가람이 2의 반응이 어떨까
  • 벌써 무서워지네...
  • 크게보기 [출처: MBC 무한도전]
speaker
  • 가람이2는 “찌질한 애들뿐이라
  • 노잼이야”라고 대답했대...
speaker
speaker
  • 하나만 더 말할게...
speaker
  • 가람이2한테 사랑한다고 말했는데
  • ‘사랑을 강요하지 마세요.
  • X짜증난다’고 말했대...
speaker
  • 아니... 무례해...
  • 5살 맞는 거지?
speaker
  • 황보현 솔트룩스 부사장은
  • “같은 지적 능력을 보유한 두 AI가
  • 이렇게 상반된 모습을 보이는 것은
  • 학습된 데이터가 전혀 달랐기 때문”이라고
  • 진단했지.
speaker
  • 지난 1월 성소수자·장애인·인종 차별 논란을
  • 유발했던 ‘이루다 사태’가 있었잖아.
  • 크게보기 [사진 이루다 페이스북 캡처] AI 챗봇 이루다. 올해 1월 차별·혐오 학습과 사용자 개인정보 노출로 논란이 돼 서비스가 종료됐다.
speaker
  • 이걸 계기로 국내에서도
  • AI 윤리에 대한 인식이
  • 달라지고 있는 거로
  • 알고 있었는데?!
speaker
  • ㅇㅇㅇ 맞아.
  • 특히 기업과 대학·연구소 등은
  • AI 윤리가 단순히 가십거리가 아니라
  • 사업 성패를 가를 수 있는 중요한 열쇠가
  • 되고 있다는 데 인식을 같이하고 있지.
speaker
  • AI가 ‘윤리적으로’ 행동하는 걸
  • 규정하는 일은 상당히 복잡할 거 같아.
speaker
  • 맞아~
  • 크게보기 [출처: 유튜브채널 자이언트펭tv]
  • 무엇보다 AI가 윤리를 학습하기 위해
  • 어떤 데이터를 사용할 것이냐가 고민이지.
speaker
  • 박도현 서울대 AI정책이니셔티브 연구원은
  • “데이터가 너무 많으면
  • 과적합(overfitting) 문제가 발생해
  • 예측력이 떨어질 수 있다”고 말했지.
speaker
  • 어떤 행위가 윤리적인지 판단하는
  • 알고리즘 정립이 필요할 거 같아.
  • 크게보기 [출처: FOX King of the Hill]
speaker
  • 한국인공지능윤리협회 이사장은
  • "AI 기술이 앞서 나가려고 하면
  • AI의 위험성이나 부작용이 커지고,
  • AI 윤리를 중시하면
  • AI에 대한 두려움이 커져
  • 기술 개발이 더뎌진다”고 강조했지.
speaker
  • 국내 기업은
  • AI 윤리에 대해 어떻게
  • 생각하고 있어?
speaker
  • 국내 기업 10곳 중 7곳 이상(71.8%)은
  • AI를 전담하는 조직이나 인력이
  • 전혀 없는 것으로 나타났어.
  • 크게보기 [자료: 한국산업기술진흥협회 회원사 717개 설문조사/그래픽: 중앙일보]
speaker
  • 크게보기
speaker
  • 더욱이 AI 윤리 이슈에 대해선
  • 응답 기업의 74.1%(531개)는
  • “검토하고 있지 않다”라거나
  • “잘 모른다”고 답했지.
  • 크게보기 [자료: 한국산업기술진흥협회 회원사 717개 설문조사/그래픽: 중앙일보]
speaker
  • 흠...
  • AI 윤리는 AI를 개발·운영하는
  • 규범으로서의 윤리라는 점을
  • 인식해야 할 거 같아.
speaker
  • 어떻게 AI가 사람 중심으로
  • 의사결정을 할지
  • 심층적인 논의가 필요하지.
  • 크게보기 [출처: 유튜브채널 자이언트펭tv]

어렵다고? 더 요약한다!

  • 5살 정도 지능을 가진 AI인 ‘가람이1·2’를 8주일간 학습시키며 대화법 변화를 살펴보다 나온 결과가 충격적이었어요. 
  • 가람이1에는 키즈 콘텐츠인 ‘아이들나라’를, 가람이2에게는 유튜브 알고리즘이 추천하는 영상을 무작위로 보여줬죠.
  • 엄마가 인사를 하자 가람이1은 “반가워요”라며 밝게 말하는 반면, 가람이2는 “뭐가 반가워요? 나한테 관심 좀 그만 줘”라고 퉁명스럽게 쏘아붙였어요. 

5살 AI에게 “사랑해?” 묻자 “X짜증"…유튜브만 본 AI, 무례해졌다