로그인이 필요해요

썰리

이전 페이지로 이동
전체보기

실제와 똑같은 가짜 … 새로운 방식으로 범죄에 악용되는 ‘AI 피싱’

2023.08.04
speaker
  • 진로 고민은 좀 해결됐니?
speaker
  • 크게보기 [MBC 무한도전]
  • 오자마자 이게 뭔 소리야 ㅋㅋ
  • 썰리 너 대뜸 말하는 거 잘한다;
speaker
  • 아놩 비꼬지 말고 (´>∀<`)
  • 진지하게 하는 이야기라구~♡
  • 크게보기 [King of the Hill]
speaker
  • 크게보기 [giphy.com]
  • 요즘 AI 쪽이 아무래도 핫하니
  • 그런 쪽으로 가볼까 고민 중!
speaker
  • 오오 AI 좋지~ 그럼 너 그거 알아?
  • 얼마 전 세계 최대 보안 컨퍼런스에서
  • 암호학자이자 보안 기술 전문가인
  • 브루스 슈나이어가 한 말인데!
  • 크게보기 [짱구는 못말려]
speaker
  • 호오 갑자기 흥미로운데?
  • 바로 오늘 주제가 시작됐군
  • 크게보기 [에비츄]
speaker
  • 너가 관심 있는 주제 같길래
  • 정성스레 가져왔지~ 그가 말하길
  • AI 해커의 시대가 도래했다는 거야
  • 크게보기 [Pixabay]
speaker
  • 허거덩 어제는 지구 열대화 시대라더니
  • 왜 이렇게 많은 시대가 열리는 거야
  • 따라가질 못 하겠네~ 천천히 열려라 좀
  • 크게보기 [하이킥! 짧은 다리의 역습]
speaker
  • AI 해커는 전례 없는 속도, 규모, 범위로
  • 모든 종류의 사회, 경제, 정치 시스템에서
  • 취약점을 발견할 거라는 거야. 무섭지?
  • 크게보기 [짱구는 못말려]
speaker
  • 우웅.. 뭔가 공상 영화 같고 그렇다
  • 요즘 딥페이크다 뭐다 말 많던데
  • 다 같은 맥락인 거야? 잘 모르게써
speaker
  • 훔 내가 차근차근 설명해 줄게
  • 우선 이런 이야기를 꺼낸 이유는
  • 세계 각지에서 AI를 이용한 새로운
  • 방식의 'AI 피싱' 사기가 횡행해서야!
speaker
  • 헐 보이스피싱도 무서워 죽겠는데
  • AI 피싱이라니.. 그만 좀 발전해라!!
  • 크게보기 [전자신문]
speaker
  • 그건 너무 무시무시한 말인걸...?
  • 어쨌든 이게 어떤 거냐면, 네가 아까 말한
  • 딥페이크도 있고 딥보이스와 같은 AI
  • 기술에 기반해 얼굴과 음성을 지인으로
  • 변조한 뒤 속여서 돈을 가로채는 거야!
  • 크게보기 [짱구는 못말려]
speaker
  • 헐 요즘 딥페이크 기술이 발전해서
  • 진짜인지 가짜인지 구분조차 힘들다더니
  • 막상 내가 받으면 꼼짝없이 당하겠는걸
  • 크게보기 [Nicki Minaj]
speaker
  • 그러니까 말이야. 생성 AI가 이렇게
  • 새로운 방식의 해킹에 활용될 가능성이
  • 매우 높아진 상태야! 인공 합성을 넘어
  • 사람 목소리도 영상도 만들어내는데
  • 피싱 범죄에 악용되는 건 시간 문제지
  • 크게보기 [Fall On Tonight]
speaker
  • 흐앙 무서워~ 섬뜩해~
  • 일반 어플도 자연스러운데
  • 전문 기술 사용하면 진짜..
  • 실제랑 구분하기 힘들 듯ㅠ
speaker
  • 크게보기 [Stay Informed Group]
  • 안 그래도 소개해 줄 실험이 하나 있어
  • 영국 유니버시티 칼리지 런던 (UCL)에서
  • 영어와 중국어 딥페이크 음성을 들려주고
  • 진짜와 가짜를 찾아내는 실험을 했거든
speaker
  • 헉 어땠는데?
  • 사람들이 잘 찾든?
  • 크게보기 [The Simpsons]
speaker
  • 아~니! 놀랍게도 참가자들은 딥페이크
  • 음성의 27%를 구분해 내지 못했다고 해
  • 이 연구 결과를 봐도 딥페이크 음성이나
  • 이미지의 위협에 대응하기 위한 전략이
  • 얼마나 필요할지를 알 수가 있다구
  • 크게보기 [그것이 알고싶다]
speaker
  • 크게보기 [Thinking Emoji]
  • 딥페이크가 정확히 어떤 원리인 거지
  • 그냥 포토샵 합성 이건 아닐 거 아냐
speaker
  • 우웅.. 그건 아니겠지 ㅋㅋㅋㅋ
  • 자 이걸 읽어보면 이해할 거야!
  • 크게보기 [키워드 썰리]
speaker
  • 호오... 생성형 AI 기술이 발달하고
  • 누구나 사용할 수 있게 되면서
  • 확실히 그 위험도 따라 커진 거 같네
  • 크게보기 [sesame street]
speaker
  • 그래서 정부와 기관들은 이런 기술이
  • 남용되지 않기 위해 대처 전략을
  • 개발해야겠지. 왜냐면 딥페이크로 인해
  • 사회, 국가적 혼란이 초래될 수 있거든
  • 크게보기 [HyperX]
speaker
  • 초상권 침해 이런 문제들이려나?
  • 그 예시를 좀 들어주라 썰리!
speaker
  • 지난달 러시아 국경 지역에서 푸틴의
  • 계엄령 선포 연설이 방송돼 전 세계가
  • 혼란에 빠졌던 거 기억 안 나? 그것도
  • AI를 통한 해킹이었거든. 인근 지역은
  • 한동안 전쟁에 대한 공포로 마비됐지
speaker
  • 헐.. 무서워 ㅠㅠ
  • 나 같아도 무섭겠다
  • 크게보기 [스폰지밥]
speaker
  • 심지어 AI 영역은 아동 성 착취물로
  • 번지기도 해서 문제였지.. 얼마 전에
  • 이미지 생성 인공지능을 활용해
  • 아동 성 착취물을 제작한 40대 남성이
  • 구속 기소된 것만 봐도 심각한 문제야
  • 크게보기 [조선일보]
speaker
  • 크게보기 [civil war]
  • 아무리 가상 인물이라지만
  • 이건 진짜 실제 아동 출연과 같은
  • 아청법 위반을 적용하는 게 맞는 듯..
speaker
  • 그치 아무리 가상의 이미지라 해도
  • 실제 아동으로 명백하게 인식될
  • 표현물이 등장했고, 이런 제작물이
  • 아동을 상대로 한 비정상적인 성적
  • 충동을 일으키기에 충분하다고 본 것!
  • 크게보기 [인사이드 아웃]
speaker
  • 왜 그러는 거야.. 진심..
  • 성 착취물이 진짜 AI 열풍 이후
  • 손쉽게 제작하고 배포하는 도구가
  • 되어버린 현실이 너무 안타까워!!!
  • 크게보기 [Saving Private Ryan]
speaker
  • 인공지능에 기반한 딥페이크 기술은
  • 개인의 인권침해를 넘어 전 세계를
  • 혼란으로 빠트릴 수 있으니 기술적,
  • 제도적 대응으로 악용을 방지해야 해!
  • 크게보기 [Dr. Squatch: Organic Soap]
speaker
  • 눈에는 눈, 이에는 이처럼
  • AI 악용은 AI로 막는 건 어때??
  • 크게보기 [tenor.com]
speaker
  • 그런 걸 가리키는 말도 있어
  • 바로 '긍정적 AI'라고 해. AI for Good!
  • 사회 문제를 해결하고 인류 행복에
  • 기여하는 AI 활용 프로젝트인 거지
  • 크게보기 [This Might Get]
speaker
  • 그런 기술은 좋다! 솔직히 말이야
  • 기술 자체가 잘못되었다고는
  • 생각하지 않아.. 왜냐하면 기술이
  • 인류를 혁명으로 이끌었고
  • 삶을 윤택하게 만들었으니까..
  • 크게보기 [시크릿가든]
speaker
  • 그치 근데 그 기술을 악용하는 게
  • 문제라고 할 수 있겠지요~ 그래서!!
  • 기술을 이해하고 올바르게 활용하고
  • 부작용을 최소화하기 위해 노력하장!
  • 크게보기 [shaun the sheep]
speaker
  • 크게보기 [카카오 이모티콘샵]
  • 아좌좌 화이팅이얏!!

어렵다고? 더 요약한다!

  • 급증하는 사이버 사고부터 개인적 인권 침해까지, 세계 각지에서는 AI를 이용한 새로운 방식의 AI 피싱 사기가 번지고 있습니다.
  • 딥페이크는 딥러닝과 페이크를 합성한 말로, 인공지능을 기반으로 얼굴 생김새나 음성 등을 실제처럼 조작한 영상 등을 통칭합니다.
  • AI를 활용한 딥페이크 콘텐츠의 상당수가 성산업이나 범죄에 활용되어 관련 기술을 규제하려는 노력이 필요합니다.

실제와 똑같은 가짜 … 새로운 방식으로 범죄에 악용되는 ‘AI 피싱’