Puissance de calcul Service : un nouveau modèle commercial à l'ère des grands modèles
Avec l'essor des grands modèles dans le domaine de l'intelligence artificielle, la puissance de calcul devient un nouveau modèle commercial émergent. Bien que l'engouement pour "l'alchimie" des grands modèles finisse par s'estomper, les fournisseurs de services de puissance de calcul doivent anticiper et ajuster leur stratégie en temps utile.
Récemment, un jeune diplômé de l'Université de Tsinghua, qui a obtenu son diplôme il y a trois ans, a entraîné un grand modèle météorologique appelé Pangu, avec un nombre de paramètres atteignant le niveau des milliards. Ce modèle utilise 40 ans de données météorologiques mondiales et a été pré-entraîné pendant environ deux mois avec 200 cartes GPU. Selon les prix du marché actuels, le coût d'entraînement de ce projet pourrait dépasser 2 millions de yuans. Et si c'était un entraînement de grand modèle général, le coût pourrait augmenter de cent fois.
Actuellement, la Chine compte plus de cent grands modèles avec une échelle de 10 milliards de paramètres. Cependant, l'industrie fait face à une pénurie généralisée de GPU haut de gamme. Le coût de la puissance de calcul reste élevé, et le manque de puissance de calcul et de financement est devenu un problème réel auquel de nombreuses entreprises sont confrontées.
La pénurie de GPU haut de gamme est un problème reconnu dans l'industrie. À son apogée, le prix d'un NVIDIA A100 a été porté à deux ou trois dizaines de milliers de yuan, et le loyer mensuel d'un serveur A100 a également grimpé à 50 000-70 000 yuan. Malgré cela, certaines entreprises ont encore du mal à obtenir les puces dont elles ont besoin. Un cadre supérieur du secteur de l'informatique en nuage a déclaré que, bien que la demande des clients pour les ressources GPU haut de gamme soit forte, l'offre actuelle peine à satisfaire complètement la demande du marché.
Face à cette situation, l'industrie estime généralement qu'avec l'intensification de la concurrence sur le marché des grands modèles, le marché reviendra progressivement à la rationalité, et les entreprises ajusteront leurs stratégies et contrôleront leurs coûts en fonction des changements d'attentes.
Pour faire face à la pénurie de puissance de calcul, les entreprises ont adopté diverses méthodes. Certaines sociétés améliorent l'efficacité de l'entraînement en utilisant des données de meilleure qualité. D'autres entreprises se concentrent sur l'amélioration des capacités d'infrastructure pour réaliser un fonctionnement stable au-dessus de 1000 kcal. D'autres sociétés choisissent de passer d'une architecture de cloud computing à une architecture de supercalcul, ou d'utiliser des plateformes nationales pour l'entraînement et l'inférence de grands modèles.
La puissance de calcul est devenue un nouveau mode de service. Les services de puissance de calcul sont basés sur une diversité de puissance de calcul, reliés par un réseau de puissance de calcul, visant à fournir une nouvelle industrie émergente d'une puissance de calcul efficace. Cela inclut non seulement la puissance de calcul, mais aussi l'emballage unifié des ressources telles que le stockage et le réseau, avec des livraisons de puissance de calcul réalisées sous forme d'API.
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent principalement des ressources de base en puissance de calcul, les entreprises en milieu de chaîne sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval utilisent les services de puissance de calcul pour des services à valeur ajoutée. Actuellement, la facturation à l'utilisation et les forfaits annuels et mensuels sont les modèles de facturation des services de puissance de calcul les plus courants.
Avec la normalisation de la demande de calcul haute performance pour les grands modèles, les services de puissance de calcul sont en train de former rapidement une chaîne d'industrie et un modèle commercial uniques. Bien qu'il y ait actuellement une pénurie de GPU haut de gamme et que les coûts de puissance de calcul soient élevés, cette situation est temporaire. À long terme, les fournisseurs de services de puissance de calcul doivent être prêts à réagir aux changements du marché et à ajuster leur stratégie en temps opportun lorsque la frénésie des grands modèles revient à la rationalité.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
20 J'aime
Récompense
20
6
Partager
Commentaire
0/400
Token_Sherpa
· 07-10 00:38
mdr le minage GPU encore une fois... nous n'apprenons jamais n'est-ce pas
Voir l'originalRépondre0
ZenZKPlayer
· 07-09 11:31
Se faire prendre pour des cons ou passer à la cloud est moins cher.
Voir l'originalRépondre0
GameFiCritic
· 07-07 02:38
Combien de profits le coût de l'entraînement va-t-il engloutir ? Ça me rend anxieux rien que d'y penser.
Voir l'originalRépondre0
GweiTooHigh
· 07-07 02:34
Le mineur de puissance de calcul de la carte est en route~
Puissance de calcul en pénurie à l'ère des grands modèles : comment les entreprises peuvent-elles faire face aux coûts d'entraînement élevés ?
Puissance de calcul Service : un nouveau modèle commercial à l'ère des grands modèles
Avec l'essor des grands modèles dans le domaine de l'intelligence artificielle, la puissance de calcul devient un nouveau modèle commercial émergent. Bien que l'engouement pour "l'alchimie" des grands modèles finisse par s'estomper, les fournisseurs de services de puissance de calcul doivent anticiper et ajuster leur stratégie en temps utile.
Récemment, un jeune diplômé de l'Université de Tsinghua, qui a obtenu son diplôme il y a trois ans, a entraîné un grand modèle météorologique appelé Pangu, avec un nombre de paramètres atteignant le niveau des milliards. Ce modèle utilise 40 ans de données météorologiques mondiales et a été pré-entraîné pendant environ deux mois avec 200 cartes GPU. Selon les prix du marché actuels, le coût d'entraînement de ce projet pourrait dépasser 2 millions de yuans. Et si c'était un entraînement de grand modèle général, le coût pourrait augmenter de cent fois.
Actuellement, la Chine compte plus de cent grands modèles avec une échelle de 10 milliards de paramètres. Cependant, l'industrie fait face à une pénurie généralisée de GPU haut de gamme. Le coût de la puissance de calcul reste élevé, et le manque de puissance de calcul et de financement est devenu un problème réel auquel de nombreuses entreprises sont confrontées.
La pénurie de GPU haut de gamme est un problème reconnu dans l'industrie. À son apogée, le prix d'un NVIDIA A100 a été porté à deux ou trois dizaines de milliers de yuan, et le loyer mensuel d'un serveur A100 a également grimpé à 50 000-70 000 yuan. Malgré cela, certaines entreprises ont encore du mal à obtenir les puces dont elles ont besoin. Un cadre supérieur du secteur de l'informatique en nuage a déclaré que, bien que la demande des clients pour les ressources GPU haut de gamme soit forte, l'offre actuelle peine à satisfaire complètement la demande du marché.
Face à cette situation, l'industrie estime généralement qu'avec l'intensification de la concurrence sur le marché des grands modèles, le marché reviendra progressivement à la rationalité, et les entreprises ajusteront leurs stratégies et contrôleront leurs coûts en fonction des changements d'attentes.
Pour faire face à la pénurie de puissance de calcul, les entreprises ont adopté diverses méthodes. Certaines sociétés améliorent l'efficacité de l'entraînement en utilisant des données de meilleure qualité. D'autres entreprises se concentrent sur l'amélioration des capacités d'infrastructure pour réaliser un fonctionnement stable au-dessus de 1000 kcal. D'autres sociétés choisissent de passer d'une architecture de cloud computing à une architecture de supercalcul, ou d'utiliser des plateformes nationales pour l'entraînement et l'inférence de grands modèles.
La puissance de calcul est devenue un nouveau mode de service. Les services de puissance de calcul sont basés sur une diversité de puissance de calcul, reliés par un réseau de puissance de calcul, visant à fournir une nouvelle industrie émergente d'une puissance de calcul efficace. Cela inclut non seulement la puissance de calcul, mais aussi l'emballage unifié des ressources telles que le stockage et le réseau, avec des livraisons de puissance de calcul réalisées sous forme d'API.
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent principalement des ressources de base en puissance de calcul, les entreprises en milieu de chaîne sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval utilisent les services de puissance de calcul pour des services à valeur ajoutée. Actuellement, la facturation à l'utilisation et les forfaits annuels et mensuels sont les modèles de facturation des services de puissance de calcul les plus courants.
Avec la normalisation de la demande de calcul haute performance pour les grands modèles, les services de puissance de calcul sont en train de former rapidement une chaîne d'industrie et un modèle commercial uniques. Bien qu'il y ait actuellement une pénurie de GPU haut de gamme et que les coûts de puissance de calcul soient élevés, cette situation est temporaire. À long terme, les fournisseurs de services de puissance de calcul doivent être prêts à réagir aux changements du marché et à ajuster leur stratégie en temps opportun lorsque la frénésie des grands modèles revient à la rationalité.