Comparé aux sauts de monopole des ressources dans la puissance de calcul et les algorithmes du passé, lorsque le marché se concentre sur l'informatique de pointe + les petits modèles, cela apportera une plus grande vitalité au marché.
Rédigé par : Haotian
Le cas Lilli de McKinsey offre des perspectives clés pour le marché de l'IA en entreprise : les opportunités de marché potentielles de l'informatique de pointe + des petits modèles. Cet assistant IA, qui intègre 100 000 documents internes, a non seulement atteint un taux d'adoption de 70 % parmi les employés, mais est également utilisé en moyenne 17 fois par semaine, ce qui est rare pour des outils d'entreprise. Voici mes réflexions :
La sécurité des données d'entreprise est un point sensible : les actifs de connaissances fondamentales accumulés par McKinsey pendant 100 ans et certaines données spécifiques accumulées par des PME présentent une sensibilité aux données très forte, et ne peuvent pas être traitées sur le cloud public. Comment explorer un état d'équilibre où "les données ne sortent pas du local, et les capacités d'IA ne sont pas compromises" est une nécessité sur le marché actuel. L'informatique de pointe est une direction d'exploration ;
Les petits modèles spécialisés remplaceront les grands modèles généraux : les utilisateurs d'entreprise n'ont pas besoin d'un modèle général "à cent milliards de paramètres et polyvalent", mais d'un assistant spécialisé capable de répondre précisément aux questions d'un domaine spécifique. En comparaison, il existe une contradiction naturelle entre la généralité des grands modèles et leur profondeur professionnelle, et dans les scénarios d'entreprise, les petits modèles sont souvent plus valorisés ;
Équilibrer les coûts de la construction d'une infrastructure AI et de l'appel d'API : Bien que la combinaison de l'informatique de pointe et de petits modèles nécessite un investissement initial important, les coûts d'exploitation à long terme sont considérablement réduits. Imaginez si 45000 employés utilisent fréquemment un grand modèle AI provenant d'appels d'API, cette dépendance, l'augmentation de l'échelle d'utilisation et des commentaires feraient de la construction d'une infrastructure AI un choix rationnel pour les entreprises de taille moyenne à grande ;
Nouvelles opportunités sur le marché du matériel de pointe : l'entraînement de modèles de grande taille nécessite des GPU haut de gamme, mais les exigences matérielles pour l'inférence de pointe sont complètement différentes. Les fabricants de puces tels que Qualcomm et MediaTek, qui optimisent leurs processeurs pour l'IA de pointe, sont en train de saisir une belle opportunité de marché. Lorsque chaque entreprise souhaite créer son propre "Lilli", les puces d'IA de pointe conçues pour une faible consommation d'énergie et une haute efficacité deviendront des éléments essentiels de l'infrastructure ;
Le marché décentralisé web3 AI est également renforcé : une fois que les besoins en puissance de calcul, en ajustement fin et en algorithme sur les petits modèles sont stimulés par les entreprises, la question de l'équilibre de l'allocation des ressources deviendra cruciale. L'allocation des ressources centralisée traditionnelle deviendra un défi, ce qui créera une forte demande sur le réseau d'ajustement fin de petits modèles web3AI décentralisés, ainsi que sur les plateformes de services de puissance de calcul décentralisées, etc.
Alors que le marché discute encore des limites des capacités générales de l'AGI, il est réjouissant de voir de nombreux utilisateurs professionnels explorer la valeur pratique de l'IA. Il est évident qu'en comparaison avec le saut monopolistique des ressources axé sur la puissance de calcul et les algorithmes dans le passé, le fait que le marché se concentre sur l'informatique de pointe + les petits modèles apportera une plus grande vitalité au marché.
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Quels sont les pistes de développement que le cas Lilli de McKinsey offre pour le marché de l'IA d'entreprise ?
Rédigé par : Haotian
Le cas Lilli de McKinsey offre des perspectives clés pour le marché de l'IA en entreprise : les opportunités de marché potentielles de l'informatique de pointe + des petits modèles. Cet assistant IA, qui intègre 100 000 documents internes, a non seulement atteint un taux d'adoption de 70 % parmi les employés, mais est également utilisé en moyenne 17 fois par semaine, ce qui est rare pour des outils d'entreprise. Voici mes réflexions :
La sécurité des données d'entreprise est un point sensible : les actifs de connaissances fondamentales accumulés par McKinsey pendant 100 ans et certaines données spécifiques accumulées par des PME présentent une sensibilité aux données très forte, et ne peuvent pas être traitées sur le cloud public. Comment explorer un état d'équilibre où "les données ne sortent pas du local, et les capacités d'IA ne sont pas compromises" est une nécessité sur le marché actuel. L'informatique de pointe est une direction d'exploration ;
Les petits modèles spécialisés remplaceront les grands modèles généraux : les utilisateurs d'entreprise n'ont pas besoin d'un modèle général "à cent milliards de paramètres et polyvalent", mais d'un assistant spécialisé capable de répondre précisément aux questions d'un domaine spécifique. En comparaison, il existe une contradiction naturelle entre la généralité des grands modèles et leur profondeur professionnelle, et dans les scénarios d'entreprise, les petits modèles sont souvent plus valorisés ;
Équilibrer les coûts de la construction d'une infrastructure AI et de l'appel d'API : Bien que la combinaison de l'informatique de pointe et de petits modèles nécessite un investissement initial important, les coûts d'exploitation à long terme sont considérablement réduits. Imaginez si 45000 employés utilisent fréquemment un grand modèle AI provenant d'appels d'API, cette dépendance, l'augmentation de l'échelle d'utilisation et des commentaires feraient de la construction d'une infrastructure AI un choix rationnel pour les entreprises de taille moyenne à grande ;
Nouvelles opportunités sur le marché du matériel de pointe : l'entraînement de modèles de grande taille nécessite des GPU haut de gamme, mais les exigences matérielles pour l'inférence de pointe sont complètement différentes. Les fabricants de puces tels que Qualcomm et MediaTek, qui optimisent leurs processeurs pour l'IA de pointe, sont en train de saisir une belle opportunité de marché. Lorsque chaque entreprise souhaite créer son propre "Lilli", les puces d'IA de pointe conçues pour une faible consommation d'énergie et une haute efficacité deviendront des éléments essentiels de l'infrastructure ;
Le marché décentralisé web3 AI est également renforcé : une fois que les besoins en puissance de calcul, en ajustement fin et en algorithme sur les petits modèles sont stimulés par les entreprises, la question de l'équilibre de l'allocation des ressources deviendra cruciale. L'allocation des ressources centralisée traditionnelle deviendra un défi, ce qui créera une forte demande sur le réseau d'ajustement fin de petits modèles web3AI décentralisés, ainsi que sur les plateformes de services de puissance de calcul décentralisées, etc.
Alors que le marché discute encore des limites des capacités générales de l'AGI, il est réjouissant de voir de nombreux utilisateurs professionnels explorer la valeur pratique de l'IA. Il est évident qu'en comparaison avec le saut monopolistique des ressources axé sur la puissance de calcul et les algorithmes dans le passé, le fait que le marché se concentre sur l'informatique de pointe + les petits modèles apportera une plus grande vitalité au marché.