La bataille pour la puissance de calcul dans la vague des grands modèles : comment les fournisseurs de services réagissent-ils aux nouveaux modèles commerciaux
Nouveau modèle économique derrière la bataille pour la puissance de calcul
La vague de "l'alchimie" des grands modèles passera, mais la puissance de calcul devient un nouveau modèle commercial. Les fournisseurs de services de puissance de calcul doivent anticiper et s'adapter rapidement.
Récemment, des chercheurs ont utilisé des données météorologiques mondiales sur 40 ans et ont effectué un pré-entraînement avec 200 cartes GPU, entraînant un grand modèle météorologique avec un nombre de paramètres atteignant des centaines de millions en environ 2 mois. En se basant sur un coût de 7,8 yuans par heure pour une carte GPU, le coût d'entraînement de ce modèle pourrait dépasser 2 millions de yuans. Et si l'on devait entraîner un modèle général, le coût pourrait être multiplié par cent.
Actuellement, plus de 100 modèles de grande taille avec 1 milliard de paramètres existent en Chine. Cependant, l'engouement de l'industrie pour la "fabrication de modèles" fait face à la problématique d'une pénurie de GPU haut de gamme. Le coût de la puissance de calcul est élevé, et le manque de puissance de calcul et de financement est devenu le problème le plus évident auquel l'industrie est confrontée.
La pénurie de GPU haut de gamme reste insoluble dans toute l'industrie. À son apogée, le prix d'un A100 a été gonflé à deux ou trois cent mille yuans, et le prix de location mensuel d'un serveur A100 a également grimpé à 50 000-70 000 yuans/mois. Néanmoins, même avec ces prix élevés, il est toujours possible de ne pas obtenir de puces.
La concurrence sur le marché des grands modèles est intense. Sans des milliards d'investissements, il est difficile de continuer à développer de grands modèles. Certains entrepreneurs affirment que sans un soutien financier de l'ordre de plusieurs milliards, il est difficile de réussir dans ce domaine. Alors que le marché passe de l'enthousiasme à la rationalité, les entreprises ajusteront également leurs coûts et stratégies en fonction des changements d'attentes.
Face à la pénurie de puissance de calcul, les entreprises ont pris diverses mesures.
Utiliser des données de meilleure qualité pour améliorer l'efficacité de l'entraînement
Améliorer la capacité d'infrastructure pour réaliser un fonctionnement stable au-dessus de 1000 kilocalories.
Optimisation de la gestion des ressources de Puissance de calcul
Passer de l'architecture de cloud computing à l'architecture de supercalculateur
Utiliser une plateforme nationale pour remplacer les GPU NVIDIA
Chaque méthode est un projet relativement important, et il est généralement difficile pour les entreprises de répondre à leurs besoins en construisant elles-mêmes un centre de données. De nombreuses équipes d'algorithmes choisissent des fournisseurs de Puissance de calcul spécialisés pour obtenir du soutien.
La puissance de calcul est devenue un nouveau modèle de service. Le service de puissance de calcul est basé sur une puissance de calcul diversifiée, lié par un réseau de puissance de calcul, et vise à fournir une puissance de calcul efficace. Il inclut non seulement la puissance de calcul, mais aussi l'unification de ressources telles que le stockage et le réseau, pour être livré sous forme de service ( comme API ).
D'un point de vue structurel de la chaîne industrielle, les entreprises en amont fournissent principalement des ressources de base en puissance de calcul, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, et les entreprises en aval sont les utilisateurs de la puissance de calcul. Actuellement, la facturation à l'usage et les forfaits annuels ou mensuels sont les modèles de facturation dominants.
Avec la normalisation des besoins en calcul haute performance des grands modèles, les services de puissance de calcul, dérivés des services cloud, sont rapidement entrés dans le champ de vision du grand public, formant une chaîne d'industrie et un modèle commercial uniques. Au début de cette explosion de l'industrie de la puissance de calcul, la pénurie de GPU haut de gamme, le coût élevé de la puissance de calcul et la lutte pour les "puces" sont devenus des caractéristiques distinctives de cette époque.
À long terme, la puissance de calcul devenant un service est une tendance certaine. Les fournisseurs de services de puissance de calcul doivent se préparer à ajuster rapidement leur stratégie lorsque les grands modèles retournent à la rationalité et que le vent du marché change.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
18 J'aime
Récompense
18
5
Partager
Commentaire
0/400
StakeOrRegret
· 07-14 02:28
L'argent n'est pas encore arrivé, ne dis rien.
Voir l'originalRépondre0
ParanoiaKing
· 07-14 02:27
Je suis fou de ne pas avoir de carte. Quand est-ce qu'on va faire un désastre du minage ?
Voir l'originalRépondre0
MEVHunterLucky
· 07-14 02:24
Nouveau désastre du minage commence !
Voir l'originalRépondre0
DeFiCaffeinator
· 07-14 02:23
En savoir plus sur le stockage des cartes graphiques ~
Voir l'originalRépondre0
metaverse_hermit
· 07-14 02:02
C'est déjà difficile d'obtenir une carte maintenant.
La bataille pour la puissance de calcul dans la vague des grands modèles : comment les fournisseurs de services réagissent-ils aux nouveaux modèles commerciaux
Nouveau modèle économique derrière la bataille pour la puissance de calcul
La vague de "l'alchimie" des grands modèles passera, mais la puissance de calcul devient un nouveau modèle commercial. Les fournisseurs de services de puissance de calcul doivent anticiper et s'adapter rapidement.
Récemment, des chercheurs ont utilisé des données météorologiques mondiales sur 40 ans et ont effectué un pré-entraînement avec 200 cartes GPU, entraînant un grand modèle météorologique avec un nombre de paramètres atteignant des centaines de millions en environ 2 mois. En se basant sur un coût de 7,8 yuans par heure pour une carte GPU, le coût d'entraînement de ce modèle pourrait dépasser 2 millions de yuans. Et si l'on devait entraîner un modèle général, le coût pourrait être multiplié par cent.
Actuellement, plus de 100 modèles de grande taille avec 1 milliard de paramètres existent en Chine. Cependant, l'engouement de l'industrie pour la "fabrication de modèles" fait face à la problématique d'une pénurie de GPU haut de gamme. Le coût de la puissance de calcul est élevé, et le manque de puissance de calcul et de financement est devenu le problème le plus évident auquel l'industrie est confrontée.
La pénurie de GPU haut de gamme reste insoluble dans toute l'industrie. À son apogée, le prix d'un A100 a été gonflé à deux ou trois cent mille yuans, et le prix de location mensuel d'un serveur A100 a également grimpé à 50 000-70 000 yuans/mois. Néanmoins, même avec ces prix élevés, il est toujours possible de ne pas obtenir de puces.
La concurrence sur le marché des grands modèles est intense. Sans des milliards d'investissements, il est difficile de continuer à développer de grands modèles. Certains entrepreneurs affirment que sans un soutien financier de l'ordre de plusieurs milliards, il est difficile de réussir dans ce domaine. Alors que le marché passe de l'enthousiasme à la rationalité, les entreprises ajusteront également leurs coûts et stratégies en fonction des changements d'attentes.
Face à la pénurie de puissance de calcul, les entreprises ont pris diverses mesures.
Chaque méthode est un projet relativement important, et il est généralement difficile pour les entreprises de répondre à leurs besoins en construisant elles-mêmes un centre de données. De nombreuses équipes d'algorithmes choisissent des fournisseurs de Puissance de calcul spécialisés pour obtenir du soutien.
La puissance de calcul est devenue un nouveau modèle de service. Le service de puissance de calcul est basé sur une puissance de calcul diversifiée, lié par un réseau de puissance de calcul, et vise à fournir une puissance de calcul efficace. Il inclut non seulement la puissance de calcul, mais aussi l'unification de ressources telles que le stockage et le réseau, pour être livré sous forme de service ( comme API ).
D'un point de vue structurel de la chaîne industrielle, les entreprises en amont fournissent principalement des ressources de base en puissance de calcul, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, et les entreprises en aval sont les utilisateurs de la puissance de calcul. Actuellement, la facturation à l'usage et les forfaits annuels ou mensuels sont les modèles de facturation dominants.
Avec la normalisation des besoins en calcul haute performance des grands modèles, les services de puissance de calcul, dérivés des services cloud, sont rapidement entrés dans le champ de vision du grand public, formant une chaîne d'industrie et un modèle commercial uniques. Au début de cette explosion de l'industrie de la puissance de calcul, la pénurie de GPU haut de gamme, le coût élevé de la puissance de calcul et la lutte pour les "puces" sont devenus des caractéristiques distinctives de cette époque.
À long terme, la puissance de calcul devenant un service est une tendance certaine. Les fournisseurs de services de puissance de calcul doivent se préparer à ajuster rapidement leur stratégie lorsque les grands modèles retournent à la rationalité et que le vent du marché change.