Bilgi İşlem Gücü Hizmeti: Büyük Model Çağında Yeni İş Modeli

Büyük modellerin yapay zeka alanındaki popülaritesi ile birlikte, Bilgi İşlem Gücü yeni bir ticari model haline geliyor. Büyük modellerin "şifa verme" heyecanı nihayetinde geçse de, Bilgi İşlem Gücü hizmet sağlayıcıları önceden önlem almalı ve stratejik yönlerini zamanında ayarlamalıdır.

Son zamanlarda, Tsinghua Üniversitesi'nden üç yıl önce mezun olan genç bir kişi, parametre sayısı milyonu bulan Pangu meteoroloji büyük modelini eğitti. Bu model, dünya genelindeki 40 yıllık hava verilerini kullanıyor ve yaklaşık iki ay süren bir ön eğitim için 200 adet GPU kartı kullanıldı. Mevcut piyasa fiyatlarına göre, bu projenin eğitim maliyetinin 2 milyon yuan'ı aşması muhtemel. Eğer genel bir büyük model eğitilirse, maliyet yüz kat artabilir.

Şu anda Çin'de 10 milyar parametre ölçeğinde yüzden fazla büyük model bulunmaktadır. Ancak, sektör genel olarak yüksek kaliteli GPU eksikliği ile karşı karşıya. Bilgi İşlem Gücü maliyetleri yüksek seyretmekte, bilgi işlem ve finansman eksikliği birçok şirketin önünde gerçek bir sorun haline gelmiştir.

Yüksek kaliteli GPU'ların arzının yetersizliği, sektör tarafından kabul edilen bir zorluktur. Zirve dönemlerde, bir NVIDIA A100'ün fiyatı iki üç on bin yuan'a kadar yükselmiştir ve tek bir A100 sunucusunun aylık kirası da 5-7 bin yuan'a fırlamıştır. Buna rağmen, hala bazı şirketler ihtiyaç duydukları çipleri temin etmekte zorlanmaktadır. Bir bulut bilişim sektörü yöneticisi, müşterilerin yüksek kaliteli GPU kaynaklarına olan talebinin güçlü olduğunu, ancak mevcut arzın geniş pazar talebini tam olarak karşılamakta zorlandığını belirtmiştir.

Bu durumla karşı karşıya kalan sektör, büyük model pazarındaki rekabetin artmasıyla birlikte, pazarın giderek rasyonelliğe döneceğini ve şirketlerin de beklenti değişikliklerine göre stratejilerini ayarlayıp maliyetleri kontrol edeceğini genel olarak kabul ediyor.

Güç kısırlığını gidermek için, şirketler çeşitli yöntemler benimsemiştir. Bazı şirketler, eğitim verimliliğini artırmak için daha yüksek kaliteli veriler kullanmaktadır. Bazı işletmeler, bin kalori üzerinde kararlı bir çalışma sağlamak için altyapı kapasitelerini artırmaya odaklanmaktadır. Diğerleri, bulut bilişim mimarisinden süper bilgisayar mimarisine geçiş yapmayı veya yerli platformları büyük model eğitimi ve çıkarımı için kullanmayı tercih etmektedir.

Bilgi İşlem Gücü artık yeni bir hizmet modeli haline geldi. Bilgi İşlem Gücü hizmeti, çeşitli bilgi işlem gücüne dayalı olarak, bilgi işlem ağı bağlantıları aracılığıyla, etkili bilgi işlem gücü sağlama amacını gütmektedir. Bu sadece bilgi işlem gücünü değil, aynı zamanda depolama, ağ gibi kaynakların birleşik paketlenmesini de kapsamaktadır ve bilgi işlem gücü teslimatı API gibi biçimlerle gerçekleştirilmektedir.

Güç işlem endüstri zincirinde, üst akış şirketleri temel işlem gücü kaynaklarını sağlamaktadır, orta akış şirketleri işlem gücü üretimi ve tedarikinden sorumludur, alt akış şirketleri ise işlem gücü hizmetlerini kullanarak katma değerli hizmetler sunmaktadır. Şu anda, miktara göre faturalama ve yıllık/aylık paketler, işlem gücü hizmetlerinde yaygın faturalama modelleridir.

Büyük model yüksek performans hesaplama taleplerinin normalleşmesiyle birlikte, bilgi işlem gücü hizmetleri hızla benzersiz bir sanayi zinciri ve ticari model oluşturmaktadır. Mevcut durumda yüksek kaliteli GPU eksikliği ve bilgi işlem gücü maliyetlerinin yüksek olması, ancak bu durum geçicidir. Uzun vadede, bilgi işlem gücü sağlayıcılarının piyasa değişikliklerine her zaman hazırlıklı olmaları ve büyük model dalgası mantıklı bir şekilde geri döndüğünde stratejilerini zamanında ayarlamaları gerekmektedir.