소아성애자 집단이 AI를 사용해 아동 포르노물을 만들고 있다고 영국 단체가 경고

AI로 만들어진 아동 포르노를 사용하는 소아성애자 반응, 영국 단체 경고

IWF는 AI로 생성된 아동 성학대 자료가 어려운 법 집행 노력을 야기하고 있다고 경고합니다.

영국 소재의 인터넷 감시 단체인 인터넷 감시 제단(이하 IWF)은 가디언 기사에 따르면 온라인에서 AI로 생성된 아동 성학대 자료(CSAM)의 양이 급증하고 있다고 경보를 울렸습니다.

 

인터넷 감시 재단(IWF)의 감시는 더욱 엄격해 집니다.

인터넷 감시 재단(IWF)은 소아를 대상으로 하는 아동 성학대 콘텐츠를 모니터링하는 비영리 단체로, 특히 어린이를 대상으로 하는 콘텐츠를 모니터링하고 있습니다.

이미지: 인터넷 시계 재단

 

"IWF의 CTO인 Dan Sexton은 가디언에게 말했습니다. "피해자 공간 내에 기술 커뮤니티가 있으며, 특히 다크 웹 포럼에서 이 기술을 논의하고 있습니다. 그들은 이미지를 공유하고 AI 모델을 공유하고 안내서와 팁을 공유하고 있습니다."

 

가짜 CSAM의 확산은 현재의 집행 방법을 복잡하게 만들 것입니다.

Sexton은 이전 IWF 보고서에서 다음과 같이 말했습니다. "만약 AI 이미지가 아동 성학대와 구별하기 어려운 정도로 실제 이미지와 똑같이 보인다면, IWF 분석가가 실제로 존재하지 않는 어린이를 식별하고 법 집행 기관에 도움을 제공하려고 소중한 시간을 낭비할 수 있는 위험이 있습니다."

 

사이버 범죄자들은 생성 AI 플랫폼을 사용하여 모든 종류의 가짜 콘텐츠 또는 딥 페이크를 만들고 있습니다.

생성 AI 플랫폼을 사용하여 아동포르노물 제작이 급증하고 있습니다.

 

법 집행 기관과 정책 결정자들에게는 AI로 생성된 딥 페이크가 커지고 있는 문제입니다. 딥 페이크는 인공 지능으로 생성된 동영상, 이미지 또는 사람, 장소 및 사건을 조작하는 것입니다.

 

미국에서는 일부 사람들에게도 이 문제가 주요 관심사입니다. 7월에 루이지애나 주지사인 John Bel Edwards는 미성년자를 묘사하는 불법 딥페이크 이미지를 만들거나 배포 또는 소유한 사람을 유죄 판결로 처벌하는 법안 SB175에 서명했습니다. 최대 $10,000의 벌금 또는 둘 다를 포함하여 최소 5년에서 20년의 징역형을 선고할 것입니다.

 

AI로 생성된 딥페이크가 2024년 미국 대통령 선거에 영향을 미칠 수 있을 것이라는 우려로, 입법자들은 그 실천을 막기 위한 법안을 준비하고 있습니다.

 

화요일에 미국 상원의원 Amy Klobuchar (D-MN), Josh Hawley (R-MO), Chris Coons (D-DE), 및 Susan Collins (R-ME)은 AI 기술을 사용하여 속임수 캠페인 자료를 만드는 것을 막기 위한 Protect Elections from Deceptive AI Act를 소개했습니다.

 

AI 플랫폼을 악용하는 범죄자를 식별하기 위해 은행업계에서 사용되는 Know Your Customer 정책과 유사한 정책을 사용하는 것을 제안한 것은 Microsoft의 CEO Brad Smith입니다.

 

Smith는 다음과 같이 말했습니다. "우리는 그것을 지지해 왔습니다. 따라서 시스템을 남용하는 경우 AI 서비스를 제공하는 회사가 그것을 하는 사람을 알고 있으며 그것을 멈출 수 있는 더 나은 위치에 있을 것입니다." 

 

결론

AI가 아동 성학대 자료를 생성하는 데 사용되는 사례가 늘어나고 있으며, 이는 아동 성학대와 실제 이미지 간의 구별이 어려워질 수 있음을 의미합니다. 이러한 문제로 인해 IWF 및 기타 단체는 이러한 현상을 감시하고 방지하기 위해 노력하고 있습니다. 법 집행 기관과 입법자들은 또한 이 문제에 대응하기 위한 법률을 개정하고 제정하고 있으며, AI를 남용하는 범죄자를 식별하고 처벌하기 위한 방법을 모색하고 있습니다. 

 

가디언(Guardian) 언론사 원문 보기 : https://www.theguardian.com/society/2023/sep/12/paedophiles-using-open-source-ai-to-create-child-sexual-abuse-content-says-watchdog

Paedophiles using open source AI to create child sexual abuse content, says watchdog

 

AI를 사용하여 아동 성적 학대 이미지를 만드는 소아성애자 뉴스 : https://youtu.be/mG1HKp9_UFc

AI를 사용하여 아동 성적 학대 이미지를 만드는 소아성애자 뉴스

 

자주 묻는 질문

1. AI로 생성된 딥페이크가 어떻게 작동하나요?

    AI로 생성된 딥페이크는 인공 지능 알고리즘을 사용하여 기존 영상이나 이미지를 수정하거나 새로운 가짜 콘텐츠를 생성하는 것입니다.

 

2. AI로 생성된 아동 성학대 자료를 어떻게 식별할 수 있나요?

   - AI로 생성된 아동 성학대 자료를 식별하기 위해서는 전문적인 감시와 기술적인 도구가 필요합니다. 이러한 기술은 자동화된 탐지와 협력을 통해 개발될 수 있습니다.

 

3. AI를 사용하여 범죄를 예방하는 방법은 무엇인가요?

   - AI를 사용하여 범죄를 예방하기 위해서는 기술 기반의 방법과 정책적인 조치가 필요합니다. 범죄자를 식별하고 범죄를 방지하기 위한 기술을 개발하고 법률을 개정하여 범죄 행위를 처벌할 수 있도록 하는 것이 중요합니다.

 

4. 미국의 AI 관련 법안은 어떤 내용을 포함하고 있나요?

   - 미국의 AI 관련 법안은 AI 기술을 남용하여 속임수 캠페인 자료를 만드는 것을 금지하고 처벌하는 내용을 포함하고 있습니다.

 

5. IWF는 어떤 역할을 하고 있나요?

   - IWF는 인터넷에서 아동 성학대 콘텐츠를 감시하고 식별하여 삭제하고 법 집행 기관에 보고하는 비영리 단체입니다.

 

AI의 피해사례가 본격으로 나타나고 있네요. 미국은 아직도 AI 및 OTT 기업과 배우, 스탭들간의 분쟁이 아직도 끝나지 않고 있습니다. 그런와중에 소아성애자의 이런 불법적인 행위가 이루어지고 있다는 것이 충격적이네요. .·´¯`(>▂<)´¯`·. 

AI시대를 살아야가하는 시점에 들어섰지만 해결해야 할것들고 동시에 많아지고 있어 관계들의 고심이 많을듯 합니다.

😢😵‍💫