Apple이 미국 상원의원에게 보내고 NBC News($)에서 입수한 서한에 따르면, Apple은 지난 1월 Elon Musk의 xAI 회사에 회사가 챗봇의 누드 및 성적인 딥페이크를 중단하지 않는 한 App Store에서 Grok 앱을 제거하겠다고 개인적으로 경고했습니다.
올해 초 Grok의 AI 기능은 X 사용자가 이 앱에서 생성한 여성과 어린이의 합의되지 않은 성적인 이미지를 공유한 후 정밀 조사를 받았습니다. 이 이미지 중 다수는 실제 사람의 사진을 기반으로 했습니다.
뒤이어 Grok에 대한 조정 변경 사항이 혼란스럽게 출시되었으며, 그 중 일부는 쉽게 우회할 수 있었습니다. 공개적으로, 애플은 당시 논란에 대해 언급하지 않았지만, 반응했고, 실제로 변화의 선동자였습니다. 내부적으로 회사는 X와 Grok이 모두 App Store 지침을 위반한 것을 발견하고 개발자에게 콘텐츠 조정 계획을 제출하도록 요구했다고 서한에서 밝혔습니다.
편지에 따르면, 애플은 "변경 사항이 충분히 진행되지 않았다"며 xAI의 초기 수정이 불충분하다고 거부했으며, 추가 변경이 필요하지 않으면 Grok이 제거될 것이라고 경고했습니다. 그러나 더 많은 논의 끝에 Apple은 결국 앱을 나중에 제출하면 승인될 만큼 충분히 개선되었다는 결론을 내렸습니다.
이번 공개는 론 와이든(Ron Wyden), 벤 레이 루한(Ben Ray Luján), 에드워드 마키(Edward Markey) 상원의원이 1월에 보낸 서한에서 촉발된 것으로 보입니다. 이들은 해당 이미지가 공격적, 성적, 착취적 콘텐츠를 금지하는 앱 스토어 규칙을 위반했다고 주장하며 애플과 구글에 두 앱을 모두 철회할 것을 촉구했습니다.
상원의원들은 또한 애플의 반응이 자체 주장을 테스트할 것이라고 말했습니다. 왜냐하면 회사는 검토 프로세스가 사용자를 더 안전하게 유지한다고 주장함으로써 오랫동안 자체 앱 스토어를 방어해 왔기 때문입니다. 그들은 Grok이 이런 종류의 이미지를 계속 생성하도록 놔두면 대중과 법정에서 그 사건이 훼손될 것이라고 주장했습니다.
NBC News가 보고서를 발표한 후 X는 플랫폼에 다음 성명을 게시했습니다.
"우리는 사용자가 동의하지 않은 명시적인 딥페이크를 생성하고 우리 도구를 사용하여 실제 사람의 옷을 벗는 것을 엄격히 금지합니다. xAI는 이러한 오용을 방지하기 위해 공개 사용에 대한 지속적인 모니터링, 실시간 회피 시도 분석, 빈번한 모델 업데이트, 프롬프트 필터 및 추가 보호 장치와 같은 광범위한 보호 장치를 갖추고 있습니다."
"우리는 사용자가 동의하지 않은 명시적인 딥페이크를 생성하고 우리 도구를 사용하여 실제 사람의 옷을 벗는 것을 엄격히 금지합니다. xAI는 이러한 오용을 방지하기 위해 공개 사용에 대한 지속적인 모니터링, 실시간 회피 시도 분석, 빈번한 모델 업데이트, 프롬프트 필터 및 추가 보호 장치와 같은 광범위한 보호 장치를 갖추고 있습니다."
Grok이 만들어 X에 게시한 성적인 딥페이크의 양은 크게 감소한 것으로 보이지만 NBC News에서는 Grok이 여전히 유사한 이미지를 생성할 수 있으며 일부 사용자는 안전 장치를 우회하기 위해 신속한 전술을 업데이트한 것으로 보입니다. 이 링크를 따라가면 해당 보고서 전체를 읽을 수 있습니다.
참고: 이 주제에 관한 토론의 정치적 또는 사회적 성격으로 인해 토론 스레드는 정치 뉴스 포럼에 있습니다. 모든 포럼 회원과 사이트 방문자는 스레드를 읽고 팔로우할 수 있지만 게시는 게시물이 100개 이상인 포럼 회원으로 제한됩니다.