일요일, 3월 3, 2024
사업AI 딥페이크 누드 서비스 인기 급증: 연구

AI 딥페이크 누드 서비스 인기 급증: 연구

소셜미디어 분석업체 그라피카(Graphika)는 ‘AI 옷벗기’ 활용이 늘어나고 있다고 밝혔다.

이 관행에는 사용자가 제공한 이미지에서 옷을 제거하도록 정밀하게 조정된 생성 인공 지능(AI) 도구를 활용하는 것이 포함됩니다.

그것에 따르면 보고서Graphika는 합성 NCII 서비스를 제공하는 34개 웹사이트와 52개 텔레그램 채널에 대한 추천 링크가 포함된 Reddit 및 X의 댓글과 게시물 수를 측정한 결과, 올해 지금까지 32,100개 이상이었던 것에 비해 2022년 총 1,280개로 총 2,408% 증가했습니다. 매년.

합성 NCII 서비스는 인공 지능 도구를 사용하여 NCII(비동의 친밀한 이미지)를 생성하는 것을 의미하며, 묘사된 개인의 동의 없이 노골적인 콘텐츠를 생성하는 경우가 많습니다.

Graphika는 이러한 AI 도구를 통해 많은 제공업체가 대규모로 현실적이고 노골적인 콘텐츠를 더 쉽고 비용 효율적으로 생성할 수 있다고 말합니다.

이러한 공급자가 없으면 고객은 맞춤형 이미지 확산 모델을 직접 관리해야 하는 부담에 직면하게 되며, 이는 시간이 많이 걸리고 비용이 많이 들 수 있습니다.

Graphika는 AI 옷 벗기 도구의 사용이 증가하면 가짜 노골적인 콘텐츠가 생성될 수 있고 표적 괴롭힘, 성착취, 아동 성적 학대 자료(CSAM) 제작과 같은 문제가 발생할 수 있다고 경고합니다.

옷을 벗는 AI는 일반적으로 사진에 초점을 맞추지만, AI는 YouTube 유명인인 Mr. Beast와 할리우드 배우 Tom Hanks를 포함한 유명인의 초상을 사용하여 비디오 딥페이크를 만드는 데에도 사용되었습니다.

영국에 본사를 둔 인터넷 감시 회사인 인터넷 감시 재단(IWF)은 10월에 별도의 보고서를 발표했습니다. 유명한 단 한 달 만에 단일 다크웹 포럼에서 20,254개 이상의 아동 학대 이미지를 발견했습니다. IWF는 AI가 생성한 아동 포르노가 인터넷을 “압도”할 수 있다고 경고했습니다.

생성 AI 이미징의 발전으로 인해 IWF는 딥페이크 포르노와 원본 이미지를 구별하는 것이 더욱 어려워졌다고 경고합니다.

6월 12일 보고서에서 유엔은 인공 지능으로 생성된 미디어가 특히 소셜 미디어에서 정보 무결성에 대한 “심각하고 긴급한” 위협이라고 불렀습니다. 유럽의회와 이사회 협상가들은 12월 8일 금요일에 유럽연합 내 AI 사용을 관리하는 규칙에 합의했습니다.

RELATED ARTICLES

회신을 남겨주세요

귀하의 의견을 입력하십시오!
여기에 이름을 입력하십시오.

가장 인기 있는