Meta, AI 생성 아동 성적 학대 이미지가 포함된 광고 게재

한 줄 요약

지난 9개월간 AI 생성 아동 성적 학대물(CSAM) 과 성적으로 암시적인 문구를 담은 유료 광고 수십 건이 Facebook·Instagram·Messenger·Threads의 심사를 통과해 노출됨

핵심 내용

• 지난 9개월간 AI 생성 아동 성적 학대물(CSAM) 과 성적으로 암시적인 문구를 담은 유료 광고 수십 건이 Facebook·Instagram·Messenger·Threads의 심사를 통과해 노출됨

• Tech Transparency Project(TTP)는 Meta 광고 라이브러리에서 문제 광고 50건 이상을 발견했으며, 일부는 누디파이 앱으로 연결되고 미국·영국과 유럽 12개국 이상을 대상으로함

• 대다수 광고의 도달 범위는 작았지만 최소 한 건은 유럽에서 2,563개 계정에 도달했으며, Meta가 문의받은 뒤에도 약 30건이 추가로 발견되고 일부는 당시 실제 노출 중이었음

• Meta는 광고를 삭제하고 지난해 아동 성착취 콘텐츠 3,600만 건 이상을 제거했다고 밝혔지만, 사전 광고 심사와 새 AI 탐지 기술을 거친 뒤에도 위반 광고가 통과함

• 반복 게시되는 동일 광고, 종료된 광고를 신고할 수 없는 광고 라이브러리, 새 계정과 도메인을 계속 만드는 광고주 때문에 개별 삭제와 법적 대응만으로는 누디파이 광고 생태계를 차단하기 어려움

왜 중요한가

Tech Transparency Project(TTP)는 Meta 광고 라이브러리에서 문제 광고 50건 이상을 발견했으며, 일부는 누디파이 앱으로 연결되고 미국·영국과 유럽 12개국 이상을 대상으로함 대다수 광고의 도달 범위는 작았지만 최소 한 건은 유럽에서 2,563개 계정에 도달했으며, Meta가 문의받은 뒤에도 약 30건이 추가로 발견되고 일부는 당시 실제 노출 중이었음 Meta는 광고를 삭제하고 지난해 아동 성착취 콘텐츠 3,600만 건 이상을 제거했다고 밝혔지만, 사전 광고 심사와 새 AI 탐지 기술을 거친 뒤에도 위반 광고가 통과함

참조한 것 · 가져온 것

• 원문: https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/

• GeekNews: https://news.hada.io/topic?id=32211