The Information에 따르면 Apple은 훨씬 더 큰 AI 모델을 iPhone에서 직접 실행하기 위해 스타트업의 기술을 사용할 수 있는 방법에 대해 PrismML과 회의를 가졌습니다.
보고서에 따르면 PrismML은 Alibaba의 오픈 소스 대형 언어 모델 Qwen 3.6을 축소하여 iPhone 17 Pro에서 완전히 실행될 수 있었습니다. 이 모델에는 270억 개의 매개변수가 있는데, 이는 200억 개의 매개변수가 있는 Apple의 온디바이스 AFM 3 Core Advanced 모델보다 더 큰 수치입니다. Apple의 모델은 iPhone 17 Pro 및 iPhone Air 모델에서 Siri AI의 더욱 풍부한 표현력의 음성과 개선된 시스템 전체 받아쓰기 등 iOS 27의 향상된 기능을 지원합니다.
AFM 3 Core Advanced와 달리 Qwen 3.6의 모든 매개변수는 동시에 활성화될 수 있습니다.
보고서는 AFM 3 Core Advanced와 관련하여 "하나의 새로운 온디바이스 Apple 모델에는 200억 개의 매개변수가 있지만 소위 희소 아키텍처를 사용하여 한 번에 10억~40억 개의 매개변수만 활성화됩니다"라고 밝혔습니다. "PrismML의 온디바이스 모델의 경우 270억 개의 매개변수가 모두 동시에 활성화됩니다."
iPhone에서 직접 실행되는 대형 모델을 사용하면 Apple의 프라이빗 클라우드 컴퓨팅 서버 대신 기기에서 더 많은 Apple Intelligence 기능을 실행할 수 있어 Apple의 비용을 절감하고 사용자 개인 정보 보호를 더욱 강화할 수 있습니다.