Bilgi İşlem Gücü Mücadelesinin Ardındaki Yeni İş Modeli
Büyük modelin "şeytan çıkarma" heyecanı geçecek ama bilgi işlem gücü yeni bir iş modeli haline geliyor. Bilgi işlem gücü hizmet sağlayıcıları, önlem almalı ve zamanında yön değiştirmelidir.
Son zamanlarda, araştırmacılar 40 yıllık küresel hava durumu verilerini kullanarak 200 adet GPU kartı ile ön eğitim gerçekleştirdi. Yaklaşık 2 ay süren bir süreçte, parametre sayısı milyonu bulan bir meteoroloji büyük modeli eğitildi. Bir GPU'nun saatte 7.8 TL olduğu hesaplandığında, bu modelin eğitim maliyeti 2 milyon TL'yi geçebilir. Eğer genel büyük bir model eğitilirse, maliyet yüz katına çıkabilir.
Şu anda Çin'de 1 milyar parametre ölçeğinde büyük model sayısı 100'ü geçti. Ancak, sektörün büyük modellere "ilaç yapma" konusunda akın etmesi, yüksek kaliteli GPU bulmanın zorluğu ile karşı karşıya kaldı. Bilgi İşlem Gücü maliyetleri yüksek, yeterli bilgi işlem gücü ve finansman eksikliği sektörün önündeki en somut sorun haline geldi.
Yüksek kaliteli GPU'ların kıtlığı tüm sektörde çözülmez bir sorun haline geldi. Zirve döneminde bir A100'ün fiyatı iki üçyüz bin liraya kadar fırladı, tek bir A100 sunucusunun aylık kiralama fiyatı da 5-7 bin lira/ay'a yükseldi. Buna rağmen, yüksek fiyatlara rağmen çip bulmak hala mümkün olmayabilir.
Büyük model pazarındaki rekabet yoğun, on milyarlarca dolarlık yatırım olmadan büyük modelleri sürekli geliştirmek zor. Bazı girişimciler, yüz milyar veya trilyon dolarlık destek olmadan bu yolun zor geçeceğini belirtiyor. Pazarın coşkudan rasyonelliğe geçmesiyle birlikte, şirketler de beklentilere göre maliyetleri kontrol edecek ve stratejilerini ayarlayacaktır.
Karşılaştıkları bilgi işlem gücü kıtlığı karşısında, işletmeler çeşitli önlemler aldılar:
Daha yüksek kaliteli veriler kullanarak eğitim verimliliğini artırın
Altyapı yeteneklerini artırarak, 1000 kalori üzerindeki istikrarlı çalışmayı sağlamak
Bilgi İşlem Gücü kartı kaynaklarının planlanmasını optimize et
Bulut bilişim mimarisinden süper hesaplama mimarisine geçiş
Yerli platformlar kullanarak Nvidia GPU'ları değiştirme
Bu yöntemlerin her biri nispeten büyük bir projedir ve genellikle işletmelerin kendi veri merkezlerini kurarak ihtiyaçlarını karşılaması zordur. Birçok algoritma ekibi, destek sağlamak için profesyonel bilgi işlem gücü sağlayıcılarını tercih etmektedir.
Bilgi İşlem Gücü zaten yeni bir hizmet modeli haline geldi. Bilgi İşlem Gücü hizmetleri, çeşitli bilgi işlem güçlerine dayanarak, bilgi işlem ağı ile bağlantı kurarak, etkili bilgi işlem gücü sağlama amacına ulaşmayı hedefler. Bu yalnızca bilgi işlem gücünü değil, aynı zamanda depolama, ağ gibi kaynakların birleşik paketlemesini de içerir ve hizmet biçiminde ( gibi API ) aracılığıyla bilgi işlem gücü teslimatı tamamlanır.
Endüstri zinciri yapısı açısından, yukarı akışta yer alan şirketler esas olarak Bilgi İşlem Gücü temel kaynaklarını tedarik etmektedir, orta akışta yer alan şirketler Bilgi İşlem Gücü üretimi ve tedarikinden sorumludur, aşağı akışta yer alan şirketler ise Bilgi İşlem Gücü kullanıcılarıdır. Şu anda, miktara göre faturalama ve yıllık/aylık paketler en yaygın faturalama modelleridir.
Yüksek performanslı hesaplama taleplerinin normalleşmesi ile birlikte, bulut hizmetlerinden türeyen bilgi işlem gücü hizmetleri hızla halkın gözünde yer buldu ve benzersiz bir endüstri zinciri ve iş modeli oluşturdu. Bu bilgi işlem endüstrisinin patlama döneminin başında, yüksek kaliteli GPU'ların kıtlığı, bilgi işlem maliyetlerinin yüksekliği ve "çip" kapma yarışı bu dönemin eşsiz manzarası haline geldi.
Uzun vadede, bilgi işlem gücünün bir hizmet haline gelmesi kesin bir eğilimdir. Bilgi işlem gücü hizmet sağlayıcılarının, büyük modellerin rasyonelliğe geri dönmesi ve pazar yönünün hızlı bir şekilde değişmesi durumunda stratejilerini zamanında ayarlamak için iyi bir hazırlık yapmaları gerekiyor.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
18 Likes
Reward
18
5
Share
Comment
0/400
StakeOrRegret
· 07-14 02:28
Paralar gelmeden hiçbir şey söyleme.
View OriginalReply0
ParanoiaKing
· 07-14 02:27
Kart eksikliği beni deli etti, maden faciası ne zaman tekrar olacak?
Büyük model dalgasındaki Bilgi İşlem Gücü rekabeti: Hizmet sağlayıcıları yeni iş modellerine nasıl yanıt veriyor
Bilgi İşlem Gücü Mücadelesinin Ardındaki Yeni İş Modeli
Büyük modelin "şeytan çıkarma" heyecanı geçecek ama bilgi işlem gücü yeni bir iş modeli haline geliyor. Bilgi işlem gücü hizmet sağlayıcıları, önlem almalı ve zamanında yön değiştirmelidir.
Son zamanlarda, araştırmacılar 40 yıllık küresel hava durumu verilerini kullanarak 200 adet GPU kartı ile ön eğitim gerçekleştirdi. Yaklaşık 2 ay süren bir süreçte, parametre sayısı milyonu bulan bir meteoroloji büyük modeli eğitildi. Bir GPU'nun saatte 7.8 TL olduğu hesaplandığında, bu modelin eğitim maliyeti 2 milyon TL'yi geçebilir. Eğer genel büyük bir model eğitilirse, maliyet yüz katına çıkabilir.
Şu anda Çin'de 1 milyar parametre ölçeğinde büyük model sayısı 100'ü geçti. Ancak, sektörün büyük modellere "ilaç yapma" konusunda akın etmesi, yüksek kaliteli GPU bulmanın zorluğu ile karşı karşıya kaldı. Bilgi İşlem Gücü maliyetleri yüksek, yeterli bilgi işlem gücü ve finansman eksikliği sektörün önündeki en somut sorun haline geldi.
Yüksek kaliteli GPU'ların kıtlığı tüm sektörde çözülmez bir sorun haline geldi. Zirve döneminde bir A100'ün fiyatı iki üçyüz bin liraya kadar fırladı, tek bir A100 sunucusunun aylık kiralama fiyatı da 5-7 bin lira/ay'a yükseldi. Buna rağmen, yüksek fiyatlara rağmen çip bulmak hala mümkün olmayabilir.
Büyük model pazarındaki rekabet yoğun, on milyarlarca dolarlık yatırım olmadan büyük modelleri sürekli geliştirmek zor. Bazı girişimciler, yüz milyar veya trilyon dolarlık destek olmadan bu yolun zor geçeceğini belirtiyor. Pazarın coşkudan rasyonelliğe geçmesiyle birlikte, şirketler de beklentilere göre maliyetleri kontrol edecek ve stratejilerini ayarlayacaktır.
Karşılaştıkları bilgi işlem gücü kıtlığı karşısında, işletmeler çeşitli önlemler aldılar:
Bu yöntemlerin her biri nispeten büyük bir projedir ve genellikle işletmelerin kendi veri merkezlerini kurarak ihtiyaçlarını karşılaması zordur. Birçok algoritma ekibi, destek sağlamak için profesyonel bilgi işlem gücü sağlayıcılarını tercih etmektedir.
Bilgi İşlem Gücü zaten yeni bir hizmet modeli haline geldi. Bilgi İşlem Gücü hizmetleri, çeşitli bilgi işlem güçlerine dayanarak, bilgi işlem ağı ile bağlantı kurarak, etkili bilgi işlem gücü sağlama amacına ulaşmayı hedefler. Bu yalnızca bilgi işlem gücünü değil, aynı zamanda depolama, ağ gibi kaynakların birleşik paketlemesini de içerir ve hizmet biçiminde ( gibi API ) aracılığıyla bilgi işlem gücü teslimatı tamamlanır.
Endüstri zinciri yapısı açısından, yukarı akışta yer alan şirketler esas olarak Bilgi İşlem Gücü temel kaynaklarını tedarik etmektedir, orta akışta yer alan şirketler Bilgi İşlem Gücü üretimi ve tedarikinden sorumludur, aşağı akışta yer alan şirketler ise Bilgi İşlem Gücü kullanıcılarıdır. Şu anda, miktara göre faturalama ve yıllık/aylık paketler en yaygın faturalama modelleridir.
Yüksek performanslı hesaplama taleplerinin normalleşmesi ile birlikte, bulut hizmetlerinden türeyen bilgi işlem gücü hizmetleri hızla halkın gözünde yer buldu ve benzersiz bir endüstri zinciri ve iş modeli oluşturdu. Bu bilgi işlem endüstrisinin patlama döneminin başında, yüksek kaliteli GPU'ların kıtlığı, bilgi işlem maliyetlerinin yüksekliği ve "çip" kapma yarışı bu dönemin eşsiz manzarası haline geldi.
Uzun vadede, bilgi işlem gücünün bir hizmet haline gelmesi kesin bir eğilimdir. Bilgi işlem gücü hizmet sağlayıcılarının, büyük modellerin rasyonelliğe geri dönmesi ve pazar yönünün hızlı bir şekilde değişmesi durumunda stratejilerini zamanında ayarlamak için iyi bir hazırlık yapmaları gerekiyor.