Apple과 Google이 AI ‘Nudify’ 앱 출시에 대한 요구에 부딪혔습니다.

WIRED에 따르면, 샌프란시스코 시 검사는 동의하지 않은 누드 이미지를 생성할 수 있는 AI "얼굴 교환" 앱 13개를 제거하라고 요구하는 정지 편지를 Apple과 Google에 보냈습니다.

목요일에 보낸 편지는 앱 스토어의 8개 앱과 플레이 스토어의 5개 앱을 표적으로 삼았습니다. 이 앱은 얼굴 교환 도구로 홍보되지만 실제 사람들의 사진을 "옷을 벗기는 데 사용됩니다." 변호사 사무실은 두 회사가 개발자와의 관계를 끊고 인앱 결제 삭감을 중단하기를 원하며 노골적인 딥페이크 이미지 판매를 효과적으로 "지원하고 방조"하고 있다고 주장합니다. 변호사는 이러한 관행이 "불법적이고 해로우며 완전히 용납될 수 없다"고 말하며 애플과 구글이 해당 앱으로부터 수백만 달러의 수수료를 징수했다고 믿고 있습니다.

두 회사 모두 음란물에 대한 개발자 규칙을 갖고 있으며 과거에 연구원이 신고한 후 누드화 앱을 일괄 제거했습니다. 구글 대변인은 WIRED에 편지에 언급된 5개를 포함하여 정책 위반으로 누드 기능이 있는 "수백"개의 앱을 삭제했다고 말했습니다. 지난 6월, Apple은 이미 포르노 콘텐츠에 대한 개발자 책임에 대한 App Store‌ 지침 언어를 강화한 것으로 나타났습니다.

참고: 이 주제에 관한 토론의 정치적 또는 사회적 성격으로 인해 토론 스레드는 정치 뉴스 포럼에 있습니다. 모든 포럼 회원과 사이트 방문자는 스레드를 읽고 팔로우할 수 있지만 게시는 게시물이 100개 이상인 포럼 회원으로 제한됩니다.