Google, yalnızca kendi platformu için tasarlanmış bir işlemci geliştirmeye başladı. Gemini yapay zeka modelleriProje, kurum içinde şu şekilde biliniyor: Dondurulmuş v2Bu yaklaşım, modelin mimarisinin bir bölümünü doğrudan silikona entegre etmeyi amaçlıyor; bu strateji, enerji tüketimini önemli ölçüde azaltmayı ve sistem yanıtlarını hızlandırmayı vaat ediyor.
The Information'a sızdırılan ve çeşitli medya kuruluşları tarafından bildirilen bilgilere göre, yeni çip şu işlemleri gerçekleştirebilir: watt başına altı ila on kat daha fazla jeton Google'ın mevcut TPU'larından daha üstün. Şirket projeyi resmi olarak doğrulamadı, ancak planlar, şu anda içinde bulunduğu değerlendirme aşamasını geçmesi koşuluyla, 2028'de kullanıma sunulabileceğini gösteriyor.
Gemini için özel olarak tasarlanmış bir çip
Farklı modelleri çalıştırabilen ve büyük miktarda verinin taşınmasını gerektiren geleneksel TPU'ların aksine, Frozen v2, Gemini'ye özgü belirli yapısal kararları transistörlere kilitler. Bu, çıkarım sırasında, yani eğitilmiş modelin yanıtlar ürettiği sırada gereken işlem sayısını azaltır. Sonuç olarak, daha hızlı tepki süresi ve daha düşük enerji tüketimiGünümüz veri merkezlerinde iki kritik faktör.
Google DeepMind'ın baş bilimcisi Jeff Dean tarafından savunulan orijinal tasarım, modelin ağırlıklarını doğrudan çipe yerleştirmeyi öngörüyordu. Ancak bu seçenek, model güncellemeleri sırasında donanımı kullanılamaz hale getirecekti. Google bunun yerine, ağırlıkları yazılım güncellemesiyle güncellenebilir tutmayı ve mimarinin yalnızca bir kısmını düzeltmeyi tercih etti. Bu şekilde, Frozen v2, Gemini'nin çeşitli sürümleriyle kullanılabilir. Ortak bir yapıya sahip oldukları sürece sorun yok. Şirket, modelin ne kadarının silikona kilitleneceğine henüz karar vermedi.
Verimlilik ve enerji tasarrufu
Dahili tahminler, Frozen v2'nin watt başına üretilen token sayısı açısından Google'ın en yeni nesil TPU'larından altı ila on kat daha verimli olabileceğini gösteriyor. Bu, yapay zekanın enerji maliyetinin sektörün en büyük zorluklarından biri haline geldiği bir dönemde önemli bir ilerlemeyi temsil ediyor. Sorgu başına tüketimi azaltmak, Google'ın daha fazla isteği işlemesine olanak tanıyacaktır. altyapısını orantılı olarak genişletmeye gerek duymadan.
Frozen v2'nin öngörülen üretimi, geleneksel TPU'lara göre çok daha düşük olacaktır. Google, bu nesli, belirli modellere daha yakından bağlı çiplere geçmenin ne kadar değerli olduğunu değerlendirmek için bir test olarak görüyor. Çip, halihazırda eğitim ve çıkarım için ayrı varyantlara ayrılmış olan sekizinci nesil TPU'larla birlikte var olacaktır. Burada mesele tüm TPU ailesini değiştirmek değil.Ancak özellikle sorgu hacminin ve enerji maliyetlerinin belirleyici faktörler olduğu hizmetlerde, belirli Gemini yükleri için daha özel bir çözüm oluşturmak amacıyla.
Google'ın altyapısı üzerindeki baskı
Frozen v2'nin geliştirilmesi aynı zamanda acil bir ihtiyaca da cevap veriyor. Yayınlanan raporlara göre, Google Cloud, mevcut işlem gücü yetersizliği nedeniyle harici müşterilerle olan sözleşmeleri bile reddetmek zorunda kaldı. Yapay zeka hizmetlerine olan talep o kadar hızlı arttı ki, şirket kendi ürünleri ve müşterilerinin ürünleri arasında kaynakları önceliklendirmek zorunda kaldı. Daha verimli bir çip, veri merkezlerinin kullanılabilir kapasitesinin genişletilmesine olanak sağlayacaktır. Sadece yeni tesislere bel bağlamadan.
Google'ın stratejisi tek başına bir örnek değil. OpenAI, Broadcom ile kendi çiplerini geliştiriyor, Meta şirket içi hızlandırıcılar geliştiriyor ve NVIDIA, Groq'tan teknoloji lisansı aldı. Belirli modeller için özel donanımlara yönelik eğilim hızlanıyor ve Frozen v2 de bu harekete uyuyor. Donanım ve yazılım arasındaki entegrasyon, Google'ın başlıca rekabet avantajlarından biridir.Gemini modellerini ve bu modellerin kullandığı işlemcileri tasarlayan firma.
Project Frozen v2, Google'ın yapay zeka altyapısını optimize etme konusundaki kararlılığında attığı bir diğer adımı temsil ediyor. Tahminler doğru çıkarsa, bu çip şunları sunabilir: verimlilikte on kata kadar bir iyileşmeBu, Gemini gibi hizmetlerin karlılığını artıracak ve Google Cloud üzerindeki baskıyı hafifletecektir. Henüz geliştirme aşamasında olmasına ve resmi bir onayının olmamasına rağmen, bu girişim, şirketin OpenAI, Microsoft ve Meta gibi rakiplerine karşı farklılaştırıcı bir faktör olarak donanım uzmanlığına verdiği önemi yansıtıyor. Her şey, 2028'de üretime geçerse, Frozen v2'nin yapay zeka modellerinin büyük ölçekte nasıl çalıştırılacağında bir dönüm noktası olacağını gösteriyor.
