파이낸셜 타임스(The Financial Times)에 따르면 Apple은 AI가 환각한 가짜 버그에 대한 보고서가 증가함에 따라 보안 연구원이 버그 바운티 프로그램에 제출할 수 있는 취약점의 수를 제한했습니다.
Apple은 자사의 버그 검토 시스템에서 AI를 사용하여 취약점을 찾는 아마추어 버그 사냥꾼의 품질이 낮은 제출이 대량으로 확인되고 있다고 밝혔습니다. 어떤 경우에는 실제 취약점이 없으며 실제 제출물이 홍수로 인해 손실됩니다.
Financial Times는 사이버 보안 스타트업인 Bynario가 ChatGPT를 사용하여 3주 만에 50개 이상의 macOS 버그를 찾은 후 이러한 한계를 알게 되었습니다. Bynario는 공격자가 Mac에 무제한으로 액세스할 수 있는 권한 상승 익스플로잇을 발견했지만 Apple이 Bynario가 제출할 수 있는 버그 보고서 수를 제한했기 때문에 이를 보고할 수 없었습니다. Bynario는 2025년에 8개의 보고서를 Apple에 보냈고, 제한 사항이 적용되기 전인 2026년에 5개의 보고서를 추가로 보냈습니다.
Bynario의 창립자는 기업들이 "엄청난 양의 버그로 넘쳐나고 있기 때문에" 업계에서 매우 어려운 시기라고 말했습니다. Apple은 이후 Bynario와 접촉하여 회사의 제출물을 검토하고 있습니다.
Apple에는 이제 연구원이 제출할 수 있는 공개 제출 수에 제한이 있지만 연구원은 Apple 보안 팀이 중요한 취약점을 놓치지 않도록 증가를 요청할 수 있습니다.
AI는 주로 인간을 사용하여 보고서를 확인하기 때문에 Apple을 압도했지만, Apple 역시 제출된 내용을 분석하기 위해 AI로 전환했습니다. AI는 또한 Apple이 엄청난 수의 버그를 찾는 데 도움을 주었습니다. Apple의 최근 iOS 26.6 업데이트는 거의 90개의 보안 취약점을 수정했으며, 그 중 일부는 Anthropic의 Claude 및 OpenAI의 Codex Security에 기인합니다.
Apple의 버그 현상금 프로그램은 정교한 실제 공격에 사용되는 익스플로잇 체인에 대해 최대 200만 달러의 보상을 제공하며, 보상을 500만 달러 이상으로 늘릴 수 있는 보너스도 제공합니다. Apple은 베타에서 발견된 버그와 잠금 모드를 우회하는 버그에 대한 보상 총액을 늘립니다.