텔레그렘 딥페이크 - 그룹뉴스- 이투데이

디지털성범죄 대한 포괄적 공조 방안 모색 텔레그램, 일주일간 75건 디지털성범죄정보 삭제 방송통신심의위원회(방통심의위)는 텔레그램과 실무협의를 가진다고 11일 밝혔다. 회의에선 현안인 딥페이크 등 디지털성범죄영상물에 대한 포괄적 공조 방안을 논의한다. 방통심의위는 경찰 등 관계 기관과의 협의 가능성도 타진할 수 있을 것으로 본다. 방통심의위는 핫라인 채널로 텔레그램 측에 요청하는 딥페이크 등 디지털성범죄영상을 텔레그램이 100% 삭제하고 있다고 전했다. 방통심의위는 텔레그램이 5일부터 지금까지 총 75건의 디지털성범죄정보를 삭제했

2024-09-11 17:37

與 딥페이크 특위 “성 착취물 소지·2차 가해 처벌 추진”

국민의힘 딥페이크 디지털 성범죄 대응 특별위원회가 딥페이크 성 착취물 소지와 2차 가해 행위에 대한 처벌 방안을 마련하겠다고 밝혔다. 또 딥페이크 영상물에 대한 워터마크 표시 의무화가 시급하다고 강조했다. 특위 위원장인 안철수 의원은 11일 오전 국회에서 열린 특위 첫 회의에서 “딥페이크 범죄를 막기 위한 입법을 추진하고, 피해자 지원을 위한 실효성있는 조치가 이루어지도록 할 것”이라고 말했다. 안 위원장은 “딥페이크 성범죄는 차원이 다른 심각한 범죄”라며 “인공지능(AI) 기술로 적은 비용으로 빠르게 많은 콘텐츠 만들어서 일상과

2024-09-11 13:37

방통위-방심위, 12일 딥페이크 성범죄 대응 정책 토론회

방송통신위원회와 방송통신심의위원회가 12일 오후 딥페이크 성범죄 대응 논의를 위한 정책 토론회를 연다. 방통위는 이날 오후 3시 방심위, 시청자미디어재단과 함께 방송회관 3층 회견장에서 '딥페이크 성범죄영상물 현안 진단과 대책 모색'을 주제로 '딥페이크 성범죄영상물 대응 전문가 토론회'를 공동으로 개최한다고 11일 밝혔다. 토론회에는 정부부처, 학계, 산업계, 유관기관 등 국내 관련 전문가가 참석해 인공지능의 역기능과 폐해 그리고 법제도 개선방향, 딥페이크 성범죄영상물 대응전략 등 딥페이크 성범죄영상물 근절을 위한 현황을 진단하고

2024-09-11 10:39

밸류파인더 "크라우드웍스, 딥페이크 탐지 AI 학습용 데이터 구축"

밸류파인더는 11일 크라우드웍스에 대해 동사의 인공지능(AI) 데이터 라벨링 기술이 국내에서 독보적인 지위를 가지고 있고, 딥페이크 관련 범죄가 성행하면서 주목 받고 있다고 분석했다. 크라우드웍스는 AI 학습용 데이터 라벨링 및 거대언어모델(LLM) 구축 서비스를 제공한다. '데이터 라벨링'이란 AI를 학습하는 데 필요한 텍스트, 음성, 이미지, 영상 등의 데이터를 기계가 인식할 수 있는 형태로 변환, 판별하는 작업을 의미한다. 최근 AI 산업 고성장에 따라 관련 수요가 급증하고 있다. 이충헌 밸류파인더 연구원은 "크라우드웍스가

2024-09-11 08:04

쏟아지는 AI 딥페이크 방지법...국회선 5년전 AI 정의 답습

22대 발의 9개 AI법, 20대와 유사 고위험 AI규제 항목 기재했지만 딥페이크 등 고위험 분류 안해 정쟁격확 따른 법안 추진 파행 탓 인공지능(AI) 기반 딥페이크 성범죄가 사회 문제로 대두되면서 ‘딥페이크 방지법’ 발의가 빗발치고 있다. 그러나 정작 AI에 대한 기본적인 법적 정의조차 없어, 해당 법안의 실효성을 갖기 어렵다는 한계가 제기되고 있다. 특히 현재 발의된 AI 기본법의 인공지능의 법적 정의 또한 불명확하다는 지적이다. 10일 국회 의안정보시스템에 따르면, 22대 국회 개원 이후 발의된 인공지능(AI) 기본법은 총

2024-09-11 05:00

오세훈, 검·경·교육청과 함께 아동·청소년 딥페이크 공동대응 나선다

서울시·서울중앙지검·서울경찰청·서울시교육청 공동협력 ‘스쿨핫라인’으로 학교 내 피해 확인 시 신속 삭제 지원 최근 딥페이크 성범죄가 심각한 사회문제로 떠오르고 있는 가운데 서울시가 서울중앙지검, 서울경찰청, 서울시교육청과 공조해 예방 교육부터 피해 영상물의 신속한 삭제와 차단, 피해자의 일상회복까지 ‘원스톱 지원’에 나선다. 오세훈 서울시장은 10일 서울시청에서 서울중앙지방검찰청(이창수 서울중앙지방검찰청 검사장), 서울특별시경찰청(김봉식 서울경찰청장), 서울특별시교육청(설세훈 서울시 교육감 권한대행)과 ‘아동‧청소년 딥페이크 공동

2024-09-10 10:00

오세훈 시장, 아동·청소년 딥페이크 공동대응 나선다

딥페이크 성범죄가 심각한 사회문제로 떠오른 가운데 서울시가 서울중앙지검, 서울경찰청, 서울시교육청과 공동대응에 나선다. 오세훈 서울시장은 10일 서울시청에서 이창수 서울중앙지방검찰청 검사장, 김봉식 서울경찰청장, 설세훈 서울시 교육감 권한대행과 아동·청소년 딥페이크 공동대응을 위한 업무협약을 체결했다. 딥페이크 가해자와 피해자 상당수가 10대라는 점에서 행정, 사법, 교육, 수사기관이 긴밀히 협력해 아동·청소년 보호와 지원을 강화하고자 한다고 서울시는 설명했다. 실제 최근 2년 새 서울 디지털 성범죄 안심지원센터에 접수된 딥페이크

2024-09-10 10:00

학교 딥페이크 누적 피해 434건 접수…수사의뢰 350건

교육당국에 400여 건에 달하는 학생·교원 '딥페이크(허위합성물)' 피해 신고가 접수됐다. 이번 조사결과 발표는 지난달 27일 1차 조사결과에 이은 두 번째로, 6일까지의 피해 현황을 집계한 결과이다. 교육부는 9일 이 같은 내용의 ‘학교 딥페이크 성범죄 피해 현황 2차 조사 결과’를 발표했다. 조사 결과에 따르면, 올해 1월부터 6일까지의 피해신고는 434건이고 이 중 수사의뢰 건수는 350건, 삭제지원 연계는 184건, 피해자는 617명(학생 588명, 교사 27명, 직원 등 2명)이었다. 2차 조사기간의 피해신고 건수는 총

2024-09-09 12:00

與, ‘딥페이크 성범죄 대응 특위’ 구성…위원장에 안철수

국민의힘은 6일 딥페이크 성범죄 대응을 위한 특별위원회를 구성하고 위원장에 안철수 의원을 임명했다. 추경호 원내대표는 이날 국회에서 열린 원내대책회의에서 “최근 딥페이크 기술을 이용한 허위 영상물 유포 등으로 인한 디지털 성범죄 피해가 급증하고 있다”며 “디지털 성범죄에 적극적으로 대처하고자 특위를 구성했다”고 말했다. ‘딥페이크 디지털 성범죄 대응 특위’는 안 위원장을 포함해 관련 국회 상임위원회 소속 의원 및 전문가 등 총 12명으로 구성됐다. 국회 여성가족위원장인 이인선 의원이 수석부위원장을, 조은희(행정안전위원회 간사)·최

2024-09-06 14:09

네이버 방문한 김태규 "딥페이크 등 조작 정보, 적극 자율규제 해달라"

김태규 방송통신위원회 위원장 직무대행은 5일 네이버에 사회적 책임을 제고하기 위해 딥페이크 등 조작 정보에 대한 자율 규제에 적극 나서달라고 당부했다. 김 직무대행은 이날 네이버 1784인 제2사옥을 방문해 유봉석 네이버 대표 등 주요 관계자들과 간담회를 개최하고 플랫폼 기업의 사회적 책임성 제고방안 등 주요 통신정책 현안을 논의했다. 김 직무대행은 통신정책에 대한 높은 국민적 관심과 플랫폼의 중요성을 느끼고 있다면서도 불법·허위정보의 유통, 알고리즘의 편향성 등 역기능에 대한 우려도 함께 커지고 있어 적극적인 대응이 필요하다고 강

2024-09-05 14:29

“딥페이크 온상지는 텔레그램인데”…국내 플랫폼 역차별 우려

딥페이크 근절 법안 잇따라 발의 플랫폼 사업자에 책임 부과 의견도 'N번방 사건'때도 국내업체 역풍 인공지능(AI)을 이용한 딥페이크(불법 합성물) 성범죄 확산으로 플랫폼 사업자에 책임을 강화해야 한다는 움직임이 본격화하고 있다. 이에 딥페이크의 온상지인 텔레그램 등 해외 사업자는 규제하지 못하고 딥페이크 방지에 힘써온 국내 사업자에만 규제가 강화되는 등 역차별로 작용할 것이라는 우려가 나온다. 4일 관련업계에 따르면 딥페이크 근절을 위한 법안들이 쏟아지고 딥페이크 근절을 위해 플랫폼 사업자에 책임을 부과해야 한다는 주장이 나온다

2024-09-05 05:00

오세훈 “딥페이크 영상물 삭제 주체 국가→지자체로 확대해야”

딥페이크 디지털성범죄 토론회 참석 서울시, 방심위와 협력해 핫라인 가동 오세훈 서울시장이 딥페이크 디지털 성범죄와 관련해 “신속한 피해자 지원을 위해 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼 삭제 지원의 주체를 국가에서 지방자치단체로 확대하는 법령 개정이 필요하다”고 강조했다. 오 시장은 3일 국회에서 열린 '딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회'에 참석해 “딥페이크 영상은 제작까지 단 7초밖에 걸리지 않고, 제작부터 유포까지 너무나 쉽게 가담할 수 있는 구조 때문에 누구나

2024-09-03 13:20

경찰청장, 딥페이크 성범죄 관련 "보안 메신저 큰 문제...방조 혐의 적용 검토"

조지호 경찰청장은 2일 딥페이크 성범죄 문제와 관련해 "보안 메신저에 대해 직접적으로 방조 혐의를 적용해 수사하는 방안을 검토하고 있다"고 말했다. 조 청장은 이날 국회 행정안전위원회 전체회의에서 조은희 국민의힘 의원의 딥페이크 디지털성범죄 검거율이 50% 이하로 떨어진 이유에 관련된 질의에 답하는 과정에서 이같이 밝혔다. 조 청장은 "가장 큰 문제는 보안 메신저"라며 "보안 메신저를 통해 수사하는 것이 완전히 불가능하지는 않지만, 우회 경로를 활용하면 시간이 너무 오래 걸리고 수사에 어려움을 겪는다"고 했다. 실제로 경찰청 국가

2024-09-02 15:23

경찰, '딥페이크 성범죄 방조 혐의' 텔레그램 내사 착수

경찰이 '딥페이크 성범죄 방조 혐의'와 관련해 텔레그램 법인에 대한 내사에 착수했다. 2일 연합뉴스에 따르면 우종수 경찰청 국가과학수사본부장은 정례 기자간담회에서 "프랑스에서 했듯이 서울경찰청이 텔레그램 법인에 대한 입건 전 조사(내사)에 착수했다"며 "혐의는 허위영상물 등 범죄 방조에 대한 것"이라고 설명했다. 우 본부장은 "텔레그램이 계정정보 등 수사 자료를 우리뿐 아니라 미국 등 다른 국가 수사기관에도 잘 주지 않는다"면서도 "텔레그램을 이용한 범죄를 그동안 전혀 검거하지 못한 것은 아니다. 저희 나름대로의 수사기업이 있어

2024-09-02 13:13

미국 캘리포니아, ‘딥페이크 아동 성 착취물’ 규제 법안 추진

미국 캘리포니아주가 최근 전 세계적 현안으로 대두된 ‘딥페이크’를 규제하는 법안을 처리했다. 1일 연합뉴스에 따르면 캘리포니아 주의회는 지난달 31일(현지시간) 인공지능(AI) 기술을 이용한 딥페이크를 규제하는 법안을 통과시켰다. 캘리포니아 주의회가 개리 뉴섬 주지사에게 송부한 법안에 따르면 ‘AI로 미성년자를 성 착취하는 내용의 딥페이크’는 제작 자체가 금지된다. 현행법은 미성년자를 대상으로 딥페이크 성 착취물을 제작하더라도 이를 불법으로 규정하지 않고 있다. 딥페이크 속 인물이 실존하는 인물이 아니라면 기소와 처벌이 불가능하다

2024-09-01 20:31

"딥페이크 성범죄 끝내자" 강력 수사 촉구 집회

서울 도심 곳곳서 딥페이크 성범죄 강력수사 촉구 집회 서울 도심 곳곳에서 딥페이크 불법 합성물을 규탄하고, 신속한 수사를 촉구하는 집회가 열렸다. 진보당은 31일 오후 6시께 서울 종로구 영풍문고 인근에서 당원과 시민 등 50여 명이 참가한 가운데 '딥페이크 성범죄 강력수사 촉구' 집회를 개최했다. 홍희진 진보당 딥페이크 성범죄 대응 태스크포스(TF) 공동단장은 "피해 학교로 언급되는 곳만 500곳이 넘는다"며 "이런 전국적 규모의 딥페이크 성범죄는 결코 하루아침에 생긴 것이 아니다"고 말했다. 이어 "정부가 디지털 성범죄를 대수롭

2024-08-31 19:18

[이법저법] 불법 영상물도 여전한데…딥페이크 성착취물까지

박민규 법무법인(유한) 안팍 대표 변호사 법조 기자들이 모여 우리 생활의 법률 상식을 친절하게 알려드립니다. 가사, 부동산, 소액 민사 등 분야에서 생활경제 중심으로 소소하지만 막상 맞닥트리면 당황할 수 있는 사건들, 이런 내용으로도 상담 받을 수 있을까 싶은 다소 엉뚱한 주제도 기존 판례와 법리를 비교‧분석하면서 재미있게 풀어 드립니다. 불법 영상물도 여전한데, 딥페이크 성착취물까지 정말 심각한 상황입니다. 결국 검찰총장까지 나서 전국 일선청에 강력 대응을 지시하기에 이르렀습니다. 음성물 문제는 도대체 근절할 수 없는 건가요?

2024-08-31 08:00

JYP, 트와이스 딥페이크 영상물 강력 대응…"명백한 불법, 선처 없을 것"

그룹 트와이스가 딥페이크(AI 기반 이미지 합성)와 관련해 강력 대응에 나선다. 30일 트와이스의 소속사 JYP엔터테인먼트는 트와이스 FANS 어플을 통해 “최근 당사 아티스트를 대상으로 한 딥페이크 영상물이 확산되고 있는 상황에 대해 매우 심각하게 받아들이고 있다”라며 이같이 알렸다. 소속사는 “이는 명백한 불법 행위이며, 현재 관련 자료를 모두 수집하고 있다”라며 “전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중”이라고 밝혔다. 이어 “아티스트의 권익을 침해하는 모든 행위를 절대 좌시하지 않고, 끝까지 단호하게 대

2024-08-30 22:57

기자협회 "정부, 언론인 향한 딥페이크 성범죄 강력한 법적 조치 취하라"

한국기자협회는 딥페이크를 악용한 성폭력 범죄가 언론인에게까지 확산되고 있다며 이같은 범죄에 대해 더 처벌을 강화해야 한다고 촉구했다. 기협은 30일 '언론인에 대한 디지털 성범죄는 언론자유를 위축시키는 폭력행위'라는 제목의 성명서를 통해 이 같이 밝혔다. 기협에 따르면 최근 개설된 텔레그램 '기자 합성방'에는 "기자들도 당해봐야 헛소리 작작 쓰지. ○○○ 기자님부터 지능(지인능욕) 해줘야되나. 사진만 구하면 바로 제작 들어간다. 남자라고 (능욕) 못할 것도 없지. 남녀평등"이라는 글과 함께 특정 언론사 기자 이름을 콕 집어 거론하

2024-08-30 15:17

檢, ‘서울대 N번방’ 공범 징역 5년에 항소…“사회적 인격 살인”

“허위 영상물 상습 제작‧유포…무거운 처벌 필요” 검찰이 이른바 ‘서울대 N번방’ 사건의 공범에게 징역 5년을 선고한 1심 판결이 너무 가볍다며 항소했다. 서울중앙지검 공판4부(김은미 부장검사)는 30일 상습적으로 허위 영상물을 제작‧반포한 박모(28) 씨에게 더 무거운 형을 선고해달라는 취지로 항소를 제기했다고 밝혔다. 박 씨는 2020년 7월부터 올해 4월까지 허위 영상물 400여 개를 제작하고 1700여 개를 유포한 혐의 등으로 기소돼 28일 징역 5년을 선고받았다. 검찰 구형은 징역 10년이었다. 검찰은 “다수의 피해자를

2024-08-30 15:03

"딥페이크? 호들갑 떤다" 유튜버 뻑가 발언 결과는 수익 창출 정지?

텔레그램 딥페이크 사태를 두고 여성들을 향해 "호들갑을 떤다"고 발언한 '사이버 레커(렉카)' 뻑가가 유튜브 수익 창출에 문제가 생겼다. 뻑가는 구독자 수 119만 명의 유튜버다. 30일 현재 뻑가의 유튜브는 멤버십 가입 버튼과 실시간 후원금인 '슈퍼챗'이 불가하다. 또 26일 올렸던 '중고대학생' 동영상 콘텐츠를 유튜브에서 사라지는 등 유튜브를 통한 수익 창출에 제약이 생긴 것으로 보인다. 앞서 뻑가는 26일 영상에서 텔레그램 딥페이크 명단 등의 논란에 최근 여성들이 사회관계망서비스(SNS)를 통해 '인스타그램에서 얼굴 사진을

2024-08-30 08:41

당정 “딥페이크 성범죄 처벌, 7년까지 강화해야...텔레그램과 ‘핫라인’ 추진도”

국무조정실 딥페이크 성범죄 컨트롤타워 설치해야 당정은 ‘딥페이크 성범죄’ 대응과 관련, 주된 유포 경로인 텔레그램과 ‘핫라인’을 확보해 자율규제를 할 수 있도록 하겠다고 밝혔다. 또 허위 영상물 처벌을 현행 징역 5년에서 불법영상물과 같은 수준인 징역 7년까지 확대할 필요가 있다는 지적도 나왔다. 정부와 국민의힘은 29일 오전 국회에서 관련 부처들의 긴급 현안 보고 형식으로 ‘딥페이크 성범죄’ 대응과 피해 지원 방안을 논의하는 회의를 열고, 이같이 논의했다. 이날 회의에는 한동훈 국민의힘 대표와 추경호 원내대표, 김상훈 정책위의장

2024-08-29 09:53

김한규 "딥페이크 성범죄 처벌 범위 확대 법안 냈다…인식 개선 필요해"

김한규 더불어민주당 의원이 "인식 개선을 위해 '딥페이크 성범죄' 처벌 범위를 확대하는 법안을 발의했다"고 말했다. 김 의원은 29일 MBC라디오 '김종배의 시선집중'에서 "지금 논란이 되는 '딥페이크 성범죄'는 정확하게 현황을 파악하기가 어렵다. 텔레그램이 외국에 서버를 두고 있어 공식적으로 자료를 요청할 수도 없고 대화방도 이미 너무 많다"며 "여성가족부에 신고된 올해 사례가 781건 정도 있다. 아마 피해자도 모르는 범죄까지 합친다면 이보다 더 많이 벌어지고 있을 것"이라고 심각성을 정리했다. 중·고등학교에서도 이런 범죄가

2024-08-29 09:29

당정 ‘딥페이크’ 긴급 대책회의...한동훈 “집중 해결해야”

추경호 “당정이 신속하게 근절에 앞장서야” 한동훈 국민의힘 대표는 29일 ‘딥페이크 성범죄’ 대응 당정 회의에서 “딥페이크 범죄가 최근 청소년까지 대상으로 확대한 것이 드러나고 있어 많은 국민들에 충격을 주고 있다”며 “이 문제를 저희가 집중적으로 해결하고 넘어가야 한다”고 강조했다. 정부와 국민의힘은 이날 오전 국회에서 관련 부처들의 긴급 현안 보고 형식으로 ‘딥페이크 성범죄’ 대응과 피해 지원 방안을 논의하는 회의를 열었다. 한 대표는 “오늘 긴급보고는 유관 부처들로부터 현안과 대응상황을 확인하기 위해서”라며 “21대 국회에서

2024-08-29 09:14

텔레그램 딥페이크 피해학교 지도 나왔다…'딥페이크 맵' 살펴보니

불특정 다수 여성 얼굴에 음란물을 합성한 '딥페이크' 성범죄물이 텔레그램 단체대화방에서 유포되며 피해가 잇따르자 피해 학교를 찾을 수 있는 사이트까지 등장했다. 27일 '팀 데이터스택'은 최근 X(엑스·옛 트위터) 등에서 확산되고 있는 '딥페이크 피해학교 목록'을 기반으로 해당 학교를 온라인으로 확인할 수 있는 '딥페이크 맵' 사이트를 제작했다. 해당 이용자는 딥페이크 피해학교 관련 이메일 제보 등을 통해 파악된 정보를 바탕으로 지도를 제작하는 것으로 알려졌다. 해당 지도에는 전국 초·중·고등학교 약 550곳이 지도에 표시됐다.

2024-08-29 09:12

“딥페이크 피해 신고하세요”…네이버, 신고채널 개설

네이버가 최근 사회 전방위로 퍼진 ‘딥페이크’ 피해와 관련해 신고 접수 등 대응에 나섰다. 방송통신심의위원회가 국내 플랫폼 기업에 방심위 전용 신고 배너 설치 협조를 요청하자 네이버가 즉각 대응에 나선 것이다. 네이버는 28일 고객센터 공지사항을 통해 “만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하셨다면 아래의 신고 채널을 통해 접수해 주시기 바란다”고 밝혔다. 그러면서 “딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다. 타인의 콘텐츠를 단

2024-08-28 21:24

여교사 2명 ‘딥페이크’ 성범죄물 제작·유포한 고교생 붙잡혀

여교사들의 얼굴을 나체 사진에 합성한 후 사회관계망서비스(SNS)에 유포한 고등학생이 경찰에 붙잡혔다. 28일 연합뉴스에 따르면 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 고등학생인 10대 A군을 수사하고 있다고 이날 밝혔다. A군은 지난달 인공지능(AI)을 이용한 ‘딥페이크’ 기술로 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 SNS에서 유포한 혐의를 받고 있다. 경찰은 앞서 피해 여교사 2명의 진정서를 접수하고 수사를 통해 성범죄물 제작·유포자로 A군을 특정했다. 현재 경찰은 A군이 주로 텔레그

2024-08-28 21:06

서울시-방심위, ‘딥페이크’ 성범죄 피해 대응…영상 삭제 ‘핫라인 시스템’ 구축

市-방통위, 24시간 신고 시스템 구축 딥페이크 SOS 전용 상담 창구 신설 서울시와 방송통신심의위원회가 최근 텔레그램을 통한 딥페이크 성범죄 피해에 대해 영상물 신속 삭제 지원 등 대응에 나선다. 오세훈 서울시장과 류희림 방송통신심의위원회 위원장은 28일 서울시청 시장실에서 딥페이크 영상물을 신속하게 삭제하기 위해 핫라인을 구축하는 것을 내용으로 하는 협약을 체결했다. 우선 폐쇄형 소셜미디어(SNS) 내에 있는 딥페이크 불법영상물이 성인사이트 등 공개사이트에 유포될 경우 24시간 이내에 신속하게 모니터링 및 삭제·차단될 수 있도

2024-08-28 17:28

[글로벌 딥페이크 음란물 공포] 범죄와의 전쟁 선포한 선진국들...법으로 막을 수 있을까

美, 주마다 제각각…연방 차원서 규제책 마련 부심 영국, 딥페이크 공유 불법화 이어 제작 불법화 추진 호주선 딥페이크 음란물 제작·공유 시 최대 7년형 인공지능(AI) 딥페이크 음란물 법 제정에 방아쇠를 당긴 것은 올해 초 세계적인 팝스타 테일러 스위프트의 가짜 음란 딥페이크 이미지가 온라인상에서 확산하면서부터다. 전 세계 팬들이 공분했고 관련 규제의 필요성이 강하게 제기됐다. 선진국들은 부랴부랴 대응에 나서는 분위기지만, 얼마나 실효성이 있을지에 대해서는 의견이 분분하다. 27일(현지시간) 미국 온라인매체 쿼츠에 따르면 미국의

2024-08-28 17:24

[글로벌 딥페이크 음란물 공포] “가상의 총기나 마찬가지…온라인 접속 무서워진 10대 소녀들”

딥페이크 포르노 수 1년 새 464%↑ 사진 한 장으로 손쉽게 음란물 만들어 가짜 사진이 진짜 피해 유발…신체 안전 해칠 수도 “반 친구일 줄이야”…배신감에 더 충격 #지난해 10월 미국 뉴저지주 웨스트필드의 한 고등학교에 다니는 소녀는 남학생들이 평소보다 조용하거나 속삭이는 듯한 이상 행동을 감지했다. 여학생들은 이러한 남학생들의 태도에 질문을 쏟아내기 시작했다. 며칠 뒤 한 남학생이 여학생 몇 명에게 사실을 털어놨다. 적어도 한 명의 학생이 온라인에서 찾은 여학생들의 사진을 이용해 음란물을 만들어 그룹 채팅에 공유했다는 것이다

2024-08-28 17:23