메모리 가격은 두 배로 올랐고, Mac과 iPad도 올랐으며, iPhone도 뒤따를 것으로 예상됩니다. Where's Your Ed At 뉴스레터를 작성하고 Better Offline 팟캐스트를 진행하며 Politico에서 AI 붐의 가장 "악성 개똥벌레"로 묘사한 Ed Zitron은 이러한 비용을 초래하는 구축이 결코 스스로 비용을 지불하지 못할 것이라고 수년 동안 주장해 왔습니다.
우리는 그에게 만약 그가 옳다면 애플은 어떻게 되는지 물었습니다.
당신은 AI가 유행하기 전부터 AI를 거품이라고 불러왔습니다. 주로 ChatGPT 또는 iPhone의 Apple Intelligence로 알고 있는 MacRumors 독자들에게 LLM 산업의 경제에 대해 실제로 깨진 점은 무엇입니까?
근본적으로 대형 언어 모델의 비용은 기본적으로 모든 소프트웨어 판매 모델과 상반됩니다.
소비자와 기업 모두 서비스에 대해 월별 요금을 지불하도록 교육받았습니다. 이러한 서비스에는 제한이나 제약이 있을 수 있지만 기본적으로 소프트웨어를 구입하는 사람 중 어느 누구도 측정되고 비용을 측정하기 어려운 서비스는 물론이고 측정된 서비스를 기대하지 않습니다.
LLM은 원하는 응답을 얻었는지 여부 또는 요청한 대로 수행되는지 여부에 관계없이 백만 단위로 토큰을 소각합니다. 코딩 에이전트에게 일종의 소프트웨어 작업을 요청했는데 시스템이 꺼지고 루프에서 바퀴를 돌리는 경우에도 관계없이 토큰 비용을 지불하게 됩니다.
AI 회사는 소비자가 AI 서비스의 실제 비용을 결코 지불하지 않을 것이라는 점을 알고 있었기 때문에 대부분 구독 비용보다 훨씬 더 많은 토큰을 소모할 수 있도록 모호한 요율 제한이 있는 월간 구독을 판매했습니다. SemiAnalytic은 월 20달러 구독으로 수백 달러, 월 200달러 구독으로 수천 달러를 태울 수 있다는 사실을 발견했습니다. AI 부스터는 이들 회사가 "토큰에 대해 70%의 총 마진"을 가지고 있다고 주장하지만 이것이 사실이라는 증거는 거의 없으며 내 보고에 따르면 OpenAI는 2025년 매출 130억 7천만 달러에 209억 달러의 손실을 입었습니다.
이는 매우 기본적인 경제학이 무너졌다는 것을 의미합니다. Anthropic과 OpenAI가 고객이 실제로 AI 토큰의 실제 비용을 지불할 것이라고 믿었다면 가입자에게 토큰 금액의 20~40배를 줄 필요가 없었을 것입니다.
한편, 올해 3월에는 두 회사 모두 기업 고객을 토큰 기반 청구로 전환했습니다. 몇 주 안에 Uber는 전체 연간 토큰 예산을 분기 단위로 지출했다는 사실이 밝혀졌고, Uber의 COO는 AI 비용을 실제 유용한 기능 배송까지 추적하기가 어렵기 때문에 AI 비용을 "정당화하기가 점점 더 어려워지고 있다"고 말했습니다. Sam Altman은 결국 이것이 "큰 문제"라고 말했지만 어떻게 해결될지는 밝히기를 거부했습니다.
이는 기본적으로 백만 개당 토큰 요율을 지불해야 하는 모든 AI 기반 스타트업의 문제입니다. Perplexity, Cursor, GitHub Copilot(6월에 토큰 기반 청구로 전환) – 모든 AI 스타트업은 사용자가 AI의 실제 비용을 지불하기를 원하지 않기 때문에 수익성이 없습니다.
또 다른 문제는 AI 서비스가 그다지 유용하지도, 차별화되지도 않는다는 것이다. 사람들은 AI 생성 코드에서 일종의 이점을 얻지만, 이러한 도구는 실제로 코드를 느리게 만들고 코드베이스를 엉터리로 가득 채우게 됩니다. 그렇지 않으면 LLM은 LLM입니다. 생성, 요약, 검색 등이 가능합니다. 이는 모든 AI 서비스가 사실상 동일하다는 것을 의미합니다. 그렇기 때문에 모든 AI 수익의 89%가 Anthropic 및 OpenAI이며, 모든 AI 스타트업이 "연간 수익"(월 x 12)이라는 용어로 이야기하는 이유는 실제 수익이 매우 우울하기 때문입니다. 그럼에도 불구하고 대부분은 연간 1억 달러에 불과합니다.
그 다음에는 데이터 센터가 있습니다. AI 데이터 센터는 구축하는 데 매우 비용이 많이 들고 18~36개월이 걸리며 수십억 달러의 비용이 듭니다. 즉, 실제로 구축하는 사람은 부채를 늘리고 고객이 입주한 후에만 비용을 지불하게 됩니다… 단, Anthropic 및 OpenAI 이외의 AI 데이터 센터에 대한 고객은 실제로 없습니다. 둘 다 너무 수익성이 낮아 Microsoft, Google 및 Amazon이 모든 인프라를 구축한 경우에도 수천억 달러를 조달해야 했습니다.
모두가 이에 대해 놀라지 않는 유일한 이유는 실제로 AI 수익을 공유하는 하이퍼스케일러가 아무도 없음에도 불구하고 AI 관련 주식이 좋은 성과를 거두었기 때문입니다.
당신은 AI의 수요 스토리가 본질적으로 신기루라고 주장했습니다. 데이터 센터 용량의 대부분이 OpenAI와 Anthropic 자체에 의해 흡수되고 있으며, 이는 실제 기업 수요의 부재를 가리고 있습니다. 그렇다면, 이 모든 일이 풀릴 때 실제로 그 비용은 누가 부담할 것이라고 생각하시나요?
솔직히 말해서 많은 민간 신용 기금이 필요할 것입니다. 왜냐하면 그들은 데이터 센터에 자금을 지원하고 SF 교사 기금이나 CalPERS와 같은 연금 기금으로 자금을 조달하기 때문에 체계적인 전염이 정말 걱정됩니다.
사람들은 이것이 구제금융이 있을 것이라는 뜻이라고 주장하겠지만 실제로는 구제금융이 가능한 것은 아니다. 이러한 데이터 센터는 프로젝트 파이낸싱으로 자금을 조달합니다. 즉, 기본적으로 돈이 없어지고 "전체로 만드는" 유일한 방법은 부채를 사거나 수익을 제공하는 것입니다. 이론적으로는 이러한 SPV(특수 목적 차량)를 구제할 수 있지만 그렇게 하면 수천억 달러의 비용이 들고 정치적 암이 될 것입니다.
나는 또한 기본적으로 Oracle이 OpenAI에 의해 죽는다고 믿습니다. 수익은 20년 동안 정체되어 있었고, 그것이 물 위로 유지될 수 있는 유일한 방법은 850억 달러 이상의 인수였으며, 그때에도 그것은 상황을 평탄하게 유지했습니다. AI 데이터 센터에 대한 투자(3,400억 달러 이상, 수천억 달러의 부채)를 통해 OpenAI는 2030년까지 세계에서 가장 크고 수익성이 높은 회사가 되어야 합니다. 그러지 않으면 Oracle은 자금이 부족해집니다. 래리에게 행운을 빌어요.
붕괴로 인한 실제 전염은 널리 퍼질 것이다. TWSE는 AI 서버 판매로 수익이 증가한 Quanta 및 Hon Hai(Foxconn)와 같은 대만 ODM에 크게 의존하고 있습니다. 나는 이것이 이들 회사를 죽이지는 않을 것이라고 생각하지만(특히 Hon Hai가 Apple로부터 많은 돈을 벌고 있기 때문에), 주가를 하락시킬 것이고, 이는 결국 투자하는 사람들의 생계를 삭감할 것입니다. KOSPI에 대한 한국 투자자들, 그리고 결국 AI 버블 때문에 전적으로 운영되는 다양한 하이퍼스케일러 및 반도체 회사에 대한 미국 투자자들에게도 마찬가지입니다.
정말 짜증나네요.
나는 그들 중 누구도 이익을 얻지 못할 것이라고 생각합니다.
하이퍼스케일러는 2022년부터 1조 달러 이상의 자본 지출을 지출했습니다. 그 중 절반이라도 AI 데이터 센터라고 가정한다면, 이러한 지출을 정당화하려면 매출이 아닌 실제 이익에 달하는 브랜드 비용으로 1조 5천억 달러 이상을 벌어야 합니다.
그리고 그렇습니다. 우리 모두는 거대 기술 분야의 모든 사람들이 미쳐서 가능한 한 많은 데이터 센터를 구축하기를 원한다는 것 외에는 아무런 이유 없이 물건에 더 많은 비용을 지불하고 있습니다. 나는 이에 대해 Hater's Guide To The Memory Crisis에 썼습니다.
하이퍼스케일 업체들은 올해 AI 인프라에 총 6,500억 달러 이상을 지출하고 있는 반면, Apple은 약 140억 달러를 지출하고 있습니다. 마치 Cupertino가 Gemini가 Siri를 실행하고 기기에서 할 수 있는 작업을 수행하도록 Google에 연간 약 10억 달러를 지불함으로써 AI를 상품으로 취급하는 것과 같습니다. 이 회사는 이전에 AI에 있어서 위험할 정도로 뒤처져 있는 것으로 알려졌습니다. 더 이상 그렇지 않은 것 같지만, 동시에 생존할 수 없다고 말하는 바로 그 회사에 의존하는 것이 정말 더 현명합니까?
그래서 저는 Apple Intelligence가 AI 버블에 관한 한 Apple에 일어난 최악의 일이자 최고의 일이라고 생각합니다.
이는 AI에 맞서 사용자를 대량으로 급진화한 것이었습니다. 아무도 요청하지 않았지만 거의 기능하지 않는 일련의 추가 기능을 가장 눈에 띄는 방식으로 집어넣으려는 시도였습니다. 요약은 거의 즉각적으로 밈으로 바뀌었고, 새로운 Siri는 이전 Siri보다 더 나빴습니다.
그리고 내 생각엔 그것이 애플에게 브레이크를 밟으라고 말한 것 같다. Capex 비용은 거의 지출되지 않았습니다. AI로는 거의 아무것도 하지 않았습니다. "뒤쳐지고 있다"고 주장하는 헤드라인이 연달아 있음에도 불구하고, 뒤쳐지고 있는 것이 무엇인지, 그것이 왜 중요한지 실제로 설명할 수 있는 사람은 아무도 없습니다. 사람들은 Apple Intelligence를 싫어합니다. Apple은 그것을 알고 있다고 생각합니다. 그래서 그들은 실제로 등을 돌리지 않고도 사물에 "AI"를 추가하여 시장의 열쇠를 쟁취할 것입니다.
거품이 예상한 대로 줄어들면(기록 감소, 너무 많은 컴퓨팅 공급, OpenAI 크레이터링 등) 실제로 Apple에서는 어떤 모습일지 설명해 주실 수 있나요? iPhone 사용자에게 문제가 발생하는 경우가 있나요? 아니면 Apple에서는 이러한 문제가 발생하는 것을 대부분 옆에서 지켜보고 있나요? 애플에도 도움이 될 수 있을까?
내 생각엔 애플도 상황이 거의 비슷할 것 같다. 나는 그들이 옆에 앉아서 모든 것이 불타는 것을 지켜볼 것이라고 생각합니다. 상황이 무너지기 시작하면서 그들이 선택적인 인수를 하는 모습도 볼 수 있었지만, 아무것도 하지 않는 모습도 볼 수 있었습니다.
내 생각엔 애플이 현재 매우 이상한 위치에 있다고 생각한다. Vision Pro는 멍청했지만, 내가 본 것 중 가장 흥미롭고 미래 지향적인 제품이기도 했습니다. 그들이 똑똑했다면 시간이 아무리 오래 걸리더라도 인도적으로 가능한 한 작게 만드는 데 많은 돈을 투자했을 것입니다. 전체 AI 버블은 모두가 초고속 성장 아이디어가 고갈된 결과이고 대부분 새로운 인터페이스가 부족하기 때문입니다.
Vision Pro를 사용하여 원하는 작업은 기본적으로 무게가 없고 눈에 띄지 않으며 조정이 필요하지 않다는 점을 분명히 하고 싶습니다. 작동하면 정말 굉장합니다. 하지만 그럴 때는 부담이 됩니다. 조금만 움직여도 전체의 초점이 흐려진다는 의미입니다. 내 것을 계속 착용해야 하는 업데이트가 필요하기 때문에 더 이상 내 것을 사용할 수도 없습니다. 너무 일찍 발표된 너무 많은 약속은 CEO가 나가는 길에 문 밖으로 밀쳐졌습니다.