Comparado ao avanço monopolista de recursos focado em poder de computação e algoritmo no passado, quando o mercado se concentra na computação de borda + modelos pequenos, isso trará uma maior vitalidade ao mercado.
Escrito por: Haotian
O caso Lilli da McKinsey oferece uma visão crucial para o desenvolvimento do mercado de IA empresarial: oportunidades de mercado potenciais com Computação de borda + pequenos modelos. Este assistente de IA, que integra 100 mil documentos internos, não só alcançou uma taxa de adoção de 70% entre os funcionários, mas também é utilizado em média 17 vezes por semana, uma adesão que é realmente rara em ferramentas empresariais. A seguir, compartilho meus pensamentos:
1）A segurança dos dados empresariais é um ponto crítico: os ativos de conhecimento central acumulados pela McKinsey ao longo de 100 anos, assim como alguns dados específicos acumulados por pequenas e médias empresas, têm uma sensibilidade de dados muito forte e não devem ser tratados na nuvem pública. Como explorar um estado de equilíbrio onde "os dados não saem do local e a capacidade de IA não é comprometida" é uma necessidade real do mercado. A computação de borda é uma direção de exploração;
Modelos pequenos profissionais substituirão modelos grandes gerais: O que os usuários corporativos precisam não é de um modelo geral com "dezenas de bilhões de parâmetros e um polivalente", mas de um assistente profissional que possa responder com precisão a problemas em campos específicos. Em contraste, existe uma contradição natural entre a versatilidade dos grandes modelos e a profundidade da especialização, e os modelos pequenos são frequentemente mais valorizados em cenários empresariais.
Equilíbrio de custos entre a construção da infraestrutura de IA e a chamada da API: apesar de a combinação de computação de borda e pequenos modelos exigir um investimento inicial maior, os custos operacionais a longo prazo são significativamente reduzidos. Imagine se 45000 funcionários utilizarem frequentemente um grande modelo de IA proveniente de chamadas de API, a dependência gerada, o aumento da escala de uso e da quantidade de comentários farão da construção da infraestrutura de IA uma escolha racional para empresas de médio e grande porte;
4）Novas oportunidades no mercado de hardware de borda: O treinamento de grandes modelos depende de GPUs de alta performance, mas os requisitos de hardware para a inferência em borda são completamente diferentes. Fabricantes de chips como Qualcomm e MediaTek estão aproveitando uma boa oportunidade de mercado com processadores otimizados para IA de borda. Quando cada empresa deseja criar seu próprio "Lilli", chips de IA de borda projetados para baixo consumo de energia e alta eficiência se tornarão uma necessidade de infraestrutura;
5）O mercado de IA web3 descentralizado também é aprimorado: uma vez que as necessidades de poder de computação, ajuste fino e algoritmos em pequenos modelos sejam impulsionadas pelas empresas, como equilibrar a alocação de recursos se tornará um problema, a alocação de recursos centralizada tradicional se tornará um desafio, o que trará uma grande demanda de mercado para a rede de ajuste fino de pequenos modelos web3AI descentralizados, plataformas de serviços de poder de computação descentralizadas, entre outros;
Quando o mercado ainda discute os limites das capacidades gerais da AGI, é mais agradável ver que muitos usuários empresariais já estão a explorar o valor prático da IA. É evidente que, em comparação com os saltos monopolistas de recursos que competem no poder de computação e algoritmos, quando o mercado foca na computação de borda + modelos pequenos, isso trará uma maior vitalidade ao mercado.
O conteúdo serve apenas de referência e não constitui uma solicitação ou oferta. Não é prestado qualquer aconselhamento em matéria de investimento, fiscal ou jurídica. Consulte a Declaração de exoneração de responsabilidade para obter mais informações sobre os riscos.
Quais são as ideias de desenvolvimento que o caso da Lilli da McKinsey oferece para o mercado de IA nas empresas?
Escrito por: Haotian
O caso Lilli da McKinsey oferece uma visão crucial para o desenvolvimento do mercado de IA empresarial: oportunidades de mercado potenciais com Computação de borda + pequenos modelos. Este assistente de IA, que integra 100 mil documentos internos, não só alcançou uma taxa de adoção de 70% entre os funcionários, mas também é utilizado em média 17 vezes por semana, uma adesão que é realmente rara em ferramentas empresariais. A seguir, compartilho meus pensamentos:
1）A segurança dos dados empresariais é um ponto crítico: os ativos de conhecimento central acumulados pela McKinsey ao longo de 100 anos, assim como alguns dados específicos acumulados por pequenas e médias empresas, têm uma sensibilidade de dados muito forte e não devem ser tratados na nuvem pública. Como explorar um estado de equilíbrio onde "os dados não saem do local e a capacidade de IA não é comprometida" é uma necessidade real do mercado. A computação de borda é uma direção de exploração;
Modelos pequenos profissionais substituirão modelos grandes gerais: O que os usuários corporativos precisam não é de um modelo geral com "dezenas de bilhões de parâmetros e um polivalente", mas de um assistente profissional que possa responder com precisão a problemas em campos específicos. Em contraste, existe uma contradição natural entre a versatilidade dos grandes modelos e a profundidade da especialização, e os modelos pequenos são frequentemente mais valorizados em cenários empresariais.
Equilíbrio de custos entre a construção da infraestrutura de IA e a chamada da API: apesar de a combinação de computação de borda e pequenos modelos exigir um investimento inicial maior, os custos operacionais a longo prazo são significativamente reduzidos. Imagine se 45000 funcionários utilizarem frequentemente um grande modelo de IA proveniente de chamadas de API, a dependência gerada, o aumento da escala de uso e da quantidade de comentários farão da construção da infraestrutura de IA uma escolha racional para empresas de médio e grande porte;
4）Novas oportunidades no mercado de hardware de borda: O treinamento de grandes modelos depende de GPUs de alta performance, mas os requisitos de hardware para a inferência em borda são completamente diferentes. Fabricantes de chips como Qualcomm e MediaTek estão aproveitando uma boa oportunidade de mercado com processadores otimizados para IA de borda. Quando cada empresa deseja criar seu próprio "Lilli", chips de IA de borda projetados para baixo consumo de energia e alta eficiência se tornarão uma necessidade de infraestrutura;
5）O mercado de IA web3 descentralizado também é aprimorado: uma vez que as necessidades de poder de computação, ajuste fino e algoritmos em pequenos modelos sejam impulsionadas pelas empresas, como equilibrar a alocação de recursos se tornará um problema, a alocação de recursos centralizada tradicional se tornará um desafio, o que trará uma grande demanda de mercado para a rede de ajuste fino de pequenos modelos web3AI descentralizados, plataformas de serviços de poder de computação descentralizadas, entre outros;
Quando o mercado ainda discute os limites das capacidades gerais da AGI, é mais agradável ver que muitos usuários empresariais já estão a explorar o valor prático da IA. É evidente que, em comparação com os saltos monopolistas de recursos que competem no poder de computação e algoritmos, quando o mercado foca na computação de borda + modelos pequenos, isso trará uma maior vitalidade ao mercado.