로그인이 필요해요
썰리
이전 페이지로 이동
-
야 이거 무슨 일이야?
-
인공지능 채용 시스템을 개발하다가 중단..?
-
ㅇㅇ 아마존이 인공지능을 이용한
-
채용 시스템을 개발하고 있었거든?
-
근데 인공지능이 여성 지원자를 차별하는 문제가 생겨서
-
자체 폐기했대
-
크게보기
-
좀 자세히 설명해봐봥
-
크게보기
-
이런 식으로 AI 면접보는 거?
-
ㄴㄴ 서류를 걸러내는 거야
-
2014년부터 개발해온 프로그램인데
-
컴퓨터 500대로 지원서를
-
5만개 키워드로 분석하는 시스템!
-
지원서를 프로그램에 집어넣으면
-
순식간에 괜찮은 사람들을 뽑아내는 거!
-
크게보기
-
오오.. 그러면 기업 입장에서는
-
엄청 편하겠는걸?
-
근데 성차별 문제는 왜 나와?
-
-
근데 이 인공지능이
-
경력 10년 이상의 남성 지원자 서류만
-
계속 골라내서 후보로 제시한 거야
-
흠.. 애초에 지원자 자체가
-
남자가 거의 대부분이었던 거 아님?
-
-
그럴 수도 있긴 한데
-
이력서에 ‘여성(women’s)’이라는 단어가 포함됐으면
-
감점시킨 경우도 있어
-
예를 들어 어떤 사람이 여성 체스 동아리에서
-
회장 맡았다고 썼었는데 점수 깎임!
-
흐익?
-
크게보기
-
비슷한 이유로 여대를 졸업한 지원자의
-
점수가 깎인 사례도 있었대
-
근데 왜 이런 일이 생긴 건데?
-
개발자들이 ‘여성이란 단어 들어가면 무조건 감점시켜!’
-
이런 식으로 개발한 건 아닐 거 아니야...?
-
크게보기
-
웅 그건 아니구 왜 이런 일이 생겼냐면
-
인공지능이 축적된 데이터를 학습해서
-
작동하는 방식이어서 그래
-
잉? 좀 더 설명해봐
-
-
지난 10년간 회사에 제출된 이력서 패턴을 가지고
-
사람들을 심사하는 방식인데
-
IT업계는 남성들이 더 많아서 이런 일이 생긴 듯!
-
아마존 입장은 어떤데??
-
-
아마존은 이거 관련해서 별다른 말 안했어
-
그냥 채용할 때 이 시스템으로 지원자들을 평가한 적은
-
없었다고 말했을 뿐!
-
그리고 또 이 문제만 있던 건 아니구
-
자격이 한참 부족한 지원자를 추천하는 등
-
다른 문제들도 있었대
-
아 그래서 개발을 아예 중지해버린 거구나....
-
크게보기
-
ㅇㅇ프로그램 수정해서 성차별 요소 없애려고 했는데
-
나중에 AI가 또 다른 방식으로 차별할까봐
-
그냥 중단했대
-
-
오호.. 앞으로 일부 채용 과정을
-
인공지능으로 대체하려는 기업들 많을 텐데!
-
혹시 시스템에 오류가 있던 거라면
-
공정하게 작동하는지 확실히 해야 할 듯?ㅠ
어렵다고? 더 요약한다!
- 인공지능 채용 시스템을 개발하던 아마존이 시스템을 자체 폐기함. 인공지능이 여성을 차별하는 문제가 생겨서라고?
- 경력 10년 이상의 남성 지원자 서류만 계속 후보로 추천했던 인공지능! 지원서에 '여성' 단어가 들어가있으면 감점을 줬다고..
- 인공지능은 축적된 데이터를 학습해서 작동하기 때문에 이 같은 일이 벌어진 듯. IT업계는 남성의 비중이 높아서 학습한 데이터도 남성 위주였다고..!
