O título de "Três Grandes Três no Aprendizado Profundo" certamente não é estranho para os leitores no surgimento da IA. Mas entre os talentos de aprendizado profundo, que critérios de avaliação são usados para destacar Hinton, Yann Lecun e Yoshua Bengio como gigantes? Sem competições, debates ou rankings, esse título foi determinado pelo mais famoso repórter da área de IA, Cade Metz, há 18 anos.
Como redator sênior da revista "Wired", redator-chefe da coluna de inteligência artificial do "New York Times" e autor de "Deep Learning Revolution", Cade Metz entrevistou basicamente todos os especialistas conhecidos no campo da IA durante mais de dez anos de experiência profissional, Sam Altman o consultou antes de lançar o ChatGPT, e Hinton conversou com ele depois de deixar o Google. Por meio do contato com essas figuras centrais, ele também se aprofundou em gigantes da IA como Microsoft, Google e Meta para desenterrar os momentos centrais e as cenas dramáticas por trás de várias decisões centrais de negócios. O livro "Deep Learning Revolution" escrito há algum tempo também foi divulgado pela primeira vez. O leilão secreto que mudou o rumo da inteligência artificial dez anos atrás.
O livro relata em detalhes o leilão ocorrido em 2012 e que teve profundo impacto em toda a indústria de inteligência artificial.
Em dezembro de 2012, Hinton, que não conseguia ficar parado por causa de uma hérnia de disco, ficou com dois de seus alunos por uma semana em um hotel-cassino no sopé das montanhas de esqui de Lake Tahoe. Ele e sua empresa recém-criada sem nenhum produto estão aceitando rodadas de licitações das empresas mais famosas do mundo, incluindo Microsoft, Google, Deepmind e Baidu.
A cena mais dramática aconteceu quando Hinton estava lidando com a visita repentina de Yu Kai, então vice-reitor do instituto de pesquisa enviado por Baidu. Para "não deixá-lo pensar que eu era velho", ele pediu a seus alunos que Arrumar todas as vezes para deixá-lo Dor lombar aliviou o dossel que foi temporariamente construído com almofadas do sofá, o que os deixou bastante atrapalhados. Durante uma certa visita, Hinton enfrentou a mochila esquerda de Yu Kai e lutou por um longo tempo com os alunos se deveria procurar informações sobre o preço de reserva do Baidu. Mas no final, a dignidade os fez desistir. Finalmente, uma semana depois, Hinton aceitou a oferta do Google, vendeu a empresa, que ainda estava completamente vazia, para o gigante por US$ 44 milhões e abriu a cortina da gigante guerra da IA.
Ao longo de sua carreira, essas cenas cheias de detalhes e conflitos dramáticos podem ser vistas em todos os lugares. Portanto, não é exagero chamá-lo de observador mais profundo no campo da IA.
Nesta entrevista, Metz mais uma vez demonstrou seu amplo conhecimento no campo da IA, desde a história e os momentos centrais do aprendizado profundo até o futuro da IA e seu impacto na sociedade humana. Ele também fez sua avaliação de estilo observador da situação da inteligência artificial da China em particular.
Ele acredita que a razão pela qual Sam Altman pode destacar a OpenAI é principalmente porque sua forte capacidade de negociação contribuiu para a cooperação entre a OpenAI e a Microsoft. Ele também acredita que a diferença entre a China e os Estados Unidos em IA não é tão grande quanto o público pensa, porque a própria tecnologia existente não tem fosso. Com relação ao futuro da IA, ele tem preocupações semelhantes às de Hinton e se preocupará com o fato de que o surgimento da AGI trará grandes mudanças na sociedade. Os espectadores são claros, os seguintes são insights de observadores de IA.
Focar em:
1 Dois momentos importantes no desenvolvimento da IA, um deles é o lançamento do artigo AlexNet, permitindo que a comunidade acadêmica entenda que as redes neurais podem alcançar grande sucesso no reconhecimento de imagens. Outra é o lançamento do ChatGPT, que abriu os olhos do público.
2 É muito provável que as empresas chinesas logo alcancem o OpenAI em termos de modelos de linguagem, já que a lacuna geral em conhecimento, financiamento e recursos entre os dois não é tão grande.
3 O hype da mídia em torno da IA existe porque as pessoas não sabem muito sobre as limitações do sistema. GPT é fraco em raciocínio e previsão, muito abaixo do nível de AGI. Mas os riscos da IA nesta fase são realmente reais.
4 Se a AGI vier, a condição humana será pior. Porque seu valor como trabalhadores cairia para zero, e seria mais barato ter máquinas fazendo tudo isso do que contratar humanos. Mas a IA atual ainda está longe desse objetivo.
A diferença entre a China e os Estados Unidos não é tão grande, a IA não tem fosso
Tecnologia Tencent:
Agora que a história da OpenAI ganhou destaque, você escreveu muito sobre sua fundação e jornada em seu livro. Você pode falar sobre Sam Altman? Quais qualidades permitiram que ele levasse a OpenAI até onde ela está hoje?
Cade Metz:
**Sam é muito ambicioso e é bom em convencer as pessoas a fazerem o que ele quer que façam. Francamente, ele é bom em formar equipes e colocá-las em um determinado caminho. **Não é apenas sobre o nível de habilidade de desenvolvimento. Eles precisam de muito dinheiro para fazer isso. O treinamento desses tipos de sistemas custa dezenas de milhões, senão centenas de milhões de dólares. Eu disse que analisar todo o texto na Internet e aprender, e deixar esses sistemas aprenderem por conta própria, leva meses e requer sistemas de computação massivos que são de propriedade e controlados por grandes empresas de tecnologia.
Sam levantou mais de US $ 1 bilhão em aproximadamente 2019. Portanto, boa parte de seu conjunto de habilidades é negociar o acordo. **Foi um grande negócio, Sam conseguiu os fundos de que precisava e o poder de computação de que precisava. Posteriormente, levantaram mais US$ 11 bilhões da **Microsoft, totalizando quase US$ 13 bilhões. Essa é uma grande razão pela qual ele é tão fundamental.
Tecnologia Tencent:
Você mencionou a Microsoft, mas ela estava completamente atrás de seus concorrentes na última onda de IA. Então, por que a Microsoft pode aproveitar essa oportunidade nessa onda de IA e agir tão rapidamente?
Cade Metz:
Este é um movimento interessante para a Microsoft. Eles já estiveram atrás da concorrência, mas perceberam a importância da tecnologia que estavam construindo. Eles também encontraram muitas dificuldades antes.Seu oponente Google e outras empresas têm um cenário em que essa tecnologia pode ser usada: o Google implantou redes neurais em larga escala em telefones Android e seu assistente digital Google Home para reconhecimento de fala. Portanto, quando você usa esses alto-falantes inteligentes em sua casa, eles podem responder às suas perguntas. O Google pode começar a implantar essa tecnologia tão rapidamente porque tem os cenários e o hardware para implantá-la. A Microsoft não tem esse cenário.
Mas quando a Microsoft finalmente tentou implantá-lo, eles se depararam com outros problemas. Eles lançaram um chatbot chamado Tay nos Estados Unidos há alguns anos, e assim que chegou às prateleiras começou a gerar algumas mensagens ofensivas, inclusive racistas. A Microsoft só pode derrubá-lo em breve.
**Este é um lado da história à medida que a tecnologia de IA evolui nos EUA, pois esses sistemas às vezes geram texto desnecessário que é tendencioso contra certas pessoas e gera discurso de ódio. Portanto, é difícil para as grandes empresas se decidirem a lançar esse produto e não querem correr esse risco. Mas a Microsoft fez parceria com a OpenAI, que está lançando o sistema, para que as pessoas não reajam tão fortemente às suas falhas quanto reagiram à Microsoft. ** As pessoas aceitarão que esses bugs venham de uma empresa pequena e desconhecida, mas não de uma empresa conhecida como a Microsoft.
Tecnologia Tencent:
De acordo com sua observação, qual é o tamanho da lacuna entre a China e os Estados Unidos no campo da inteligência artificial? Quais vantagens você acha que a China tem em inteligência artificial?
Cade Metz:
A China vem trabalhando nisso há algum tempo. Existem muitas pessoas e empresas que entendem a tecnologia envolvida aqui, mas pode haver dificuldades. Os chips de computador necessários para treinar esses sistemas são fabricados no mais alto nível por empresas americanas. Agora que há uma proibição comercial, esses chips não podem ser vendidos para a China. Isso pode ser uma desvantagem.
Veremos como isso se desenrola quando se trata de construir essa tecnologia. **Sam Altman disse recentemente que sente que a China está dois anos atrasada. Esta é uma estimativa. Acho que a indústria como um todo pode acompanhar o que ele e sua empresa estão fazendo rapidamente. Já estamos começando a ver isso e acho que pode acontecer na China também. **
Tecnologia Tencent:
Essa lacuna está ficando maior ou menor?
Cade Metz:
Por causa da proibição do comércio, é difícil dizer. Essa é uma dificuldade que a China enfrenta. Pelo que sei, a China está trabalhando duro para construir, projetar e fornecer os chips e equipamentos necessários para os data centers.
**Seja na China ou nos Estados Unidos, teremos que lidar com os muitos papéis potenciais desempenhados por fricções comerciais, como a concorrência. Agora é geralmente aceito que a tecnologia da OpenAI está atualmente à frente da maioria de seus concorrentes. Mas existem muitas outras empresas no mundo que têm conhecimento, dinheiro e acesso aos recursos necessários para realmente competir. **
Portanto, ainda estamos nos estágios iniciais da competição de IA e ainda há muitos caminhos a serem explorados. O resultado ainda precisa esperar para ver.
Tecnologia Tencent:
Você mencionou o Baidu em seu livro. A empresa chinesa também começou a experimentar esse tipo de tecnologia de IA em 2012, já nos estágios iniciais da corrida. Por que você acha que não mostrou força hoje? O que você acha que são os principais fatores que contribuem para esta situação?
Cade Metz:
**Acho que as ideias estão dirigindo o campo. **O aprendizado profundo é famoso em todo o mundo e pesquisadores na China desenvolveram técnicas semelhantes. Mas, assim como nos EUA, as pessoas ficaram impressionadas com o quão bem aquela etapa de treinamento de feedback humano que mencionei anteriormente funcionou. **Assim, eles estão um passo atrás de muitos nos EUA na aplicação dessa técnica (treinamento com feedback humano) a grandes modelos de linguagem. **
Tecnologia Tencent:
Você mencionou que muitas outras empresas também estão nessa corrida, além das grandes como OpenAI, Google e Meta, há alguma empresa pequena que vale a pena ficar de olho?
Cade Metz:
Existe uma empresa chamada Anthropic, que foi fundada por um grupo de pessoas que saíram da OpenAI. A empresa não é muito conhecida, mas vão ser importantes neste espaço. Eles ajudaram a construir grande parte da tecnologia que formou o ChatGPT e construíram seu próprio chatbot, que ainda não foi lançado para o público em geral. Eu estimo que seus recursos serão comparáveis ao ChatGPT.
Existe uma empresa em Toronto chamada Coherence que está fazendo algo parecido; nos Estados Unidos existe uma empresa chamada Character.AI fundada por ex-Googlers; existe outra empresa chamada Inflection AI, fundada por um dos fundadores da DeepMind of. O DeepMind é outro importante laboratório sediado em Londres, essencialmente propriedade da Google.
Tecnologia Tencent:
Para empresas que estão desenvolvendo no segmento de IA, onde estão suas oportunidades?
Cade Metz:
A maneira como esses pequenos domínios funcionam é que, uma vez que alguém constrói um sistema chamado de modelo de linguagem grande, você pode usá-lo para construir todos os tipos de outras técnicas. Você pode criar um chatbot, um mecanismo de pesquisa, um tutor pessoal. **Então, o que a OpenAI está fazendo é construir esse sistema central. Eles o chamam de GPT-4 e oferecem esse sistema para qualquer outra empresa que queira usá-lo. Esta é uma maneira de criar outros aplicativos.
Isso é o que estamos começando a ver. **Acho que você verá empresas como a OpenAI oferecendo esse tipo de serviço. Todos podem usá-lo para construir seus próprios aplicativos em cima dele. **Então, acho que existem todos os tipos de oportunidades em que as empresas podem pegar esse serviço principal e, em seguida, criar coisas novas sobre ele e vender esses aplicativos. Mas o mais difícil é construir esse serviço básico, e poucas empresas podem fazer isso. Nos Estados Unidos, existem gigantes como Google, Microsoft e Meta, e apenas algumas startups têm o capital e o talento necessários. Como eu disse antes, você precisa de centenas de milhões de dólares para construir este sistema central. **Portanto, atualmente é difícil para empresas menores competir com eles em termos de construção do modelo básico. **
Muitas pessoas pensam que, à medida que os preços caírem e os projetos de código aberto melhorarem, será mais fácil para as pessoas construir seus próprios sistemas principais, e isso acabará mudando. Mas eu não tenho certeza.
Dois marcos no desenvolvimento da IA: um leilão e o nascimento do ChatGPT
Tecnologia Tencent:
Como autor sênior de IA, você basicamente se concentrou no campo de aprendizado profundo em sua carreira de dez anos e estabeleceu todos os papéis importantes nesse campo e participou de vários momentos decisivos entre eles. O que o levou a prestar atenção a este campo?
Cade Metz:
Por volta de 2011 ou 2012, entrei na Wired em São Francisco. Esta é uma das áreas que decidi focar. Naquela época, há mais de dez anos, já se sentia o cheiro de que esse campo se tornaria muito importante. Foi quando ocorreram alguns momentos cruciais que me interessaram pela tecnologia.
Hinton é o protagonista do livro "The Deep Learning Revolution" e escrevi sobre sua ascensão e o conceito-chave de redes neurais que impulsionou muitos dos avanços nos últimos 10 anos. Ele acabou se juntando ao Google em 2013.
Mais tarde, soube que se tratava de um leilão entre algumas das maiores empresas de tecnologia do mundo, incluindo Google, Microsoft e a chinesa Baidu. Esse foi um momento crucial e você pode ver algo começando a acontecer. Ao longo dos anos, comecei a cobrir o espaço cada vez mais e conheci pessoas como Hinton e seu colega de longa data Yann Lecun, que acabou se juntando ao Facebook e agora ao Meta, entre outras pessoas da área. Começamos a fazer muita cobertura na Wired, e depois foi ficando cada vez maior. Por fim, decidi escrever um livro sobre o campo, que continuei a cobrir quando mudei da Wired para o The New York Times.
Tecnologia Tencent:
Como repórter que acompanha a IA há muito tempo, é como passar por um ciclo. Você passou por um período crítico no campo do aprendizado de máquina. inteligência artificial. Na sua opinião, o que fez Hinton e outros persistirem?
Cade Metz:
Hinton começou a trabalhar com redes neurais em 1972. Naquela época, quase ninguém acreditava que daria certo, porque** todo o campo da inteligência artificial abandonou o rumo das redes neurais. Mas ** Hinton é um homem de opinião própria, que realmente acredita naquilo em que acredita, e é firme nessa direção.
**Na década de 1980, devido em grande parte aos esforços do próprio Hinton, a tecnologia fez alguns avanços importantes. Muitas pessoas começaram a acreditar nessa ideia novamente. Mas no início dos anos 90, as pessoas desistiram de novo, mas ele continuou trabalhando e sempre manteve sua atitude consistente. ** Eles acreditavam que a ideia continuaria a melhorar e estavam certos. Parte do que torna essa história tão interessante é que eles continuam trabalhando mesmo diante de tanto ceticismo, até mesmo de seus colegas mais próximos.
O momento que realmente abriu os olhos de toda a indústria foi o que hoje é conhecido como o jornal AlexNet. Este trabalho de pesquisa, escrito por Hinton e dois de seus alunos da Universidade de Toronto, mostra que as redes neurais podem obter grande sucesso no reconhecimento de imagens, identificando objetos em fotos como flores, carros, pessoas, animais etc.
Quando o artigo foi publicado em 2012, abriu os olhos do Google, Microsoft, Baidu e, eventualmente, do Facebook. A gente vê essa guerra por talentos, essa correria para aplicar essa ideia dentro de algumas das maiores empresas do planeta, não só para reconhecimento de imagem, mas para reconhecimento de voz, tradução e assim por diante. Aquele jornal foi um momento crucial. É por isso que meu livro começa com aquele jornal,** foi o momento em que Hinton leiloou sua empresa pelo lance mais alto, e isso desencadeou todo o resto. **
Desde então até hoje, continuamos a melhorar. O supracitado despertar da consciência da indústria em 2012 foi um momento crítico e, 10 anos depois, foi lançado o ChatGPT, que é outro momento crítico. Esses dois momentos são pontos de virada muito importantes quando olhamos para trás na história da IA.
Tecnologia Tencent:
**Em seu livro, você descreve o desenvolvimento do aprendizado profundo, e marcos de produtos como AlphaGo, Deepfake e a série GPT provocaram extensa discussão pública. Mas até o surgimento do ChatGPT, todos realmente sentiam que a verdadeira revolução industrial estava chegando. O que torna a série GPT tão diferente? **
Cade Metz:
Esta é uma grande pergunta. As tecnologias relacionadas a GPT e ChatGPT foram desenvolvidas há algum tempo. Várias empresas desenvolveram essa técnica nos últimos cinco anos, com a OpenAI eventualmente desenvolvendo o Chat GPT, e empresas como Google, Meta (antigo Facebook) e Microsoft também começando a desenvolver os chamados modelos de linguagem grande há cinco anos.
A ideia por trás da tecnologia é construir uma rede neural, um sistema matemático que pode aprender com os dados. Alimente-o com o máximo de texto possível e ele analisa esse texto e, no processo de análise desse texto, aprende a gerar o próprio texto. Ao analisar artigos da Wikipédia, postagens em blogs, registros de bate-papo e vários conteúdos na Internet, ele reconheceu padrões na maneira como reunimos as palavras e aprendeu a fazê-lo. Vimos essa tecnologia se concretizar nos últimos anos e vários sistemas interessantes foram lançados.
OpenAI lançou GPT-2, GPT-3, todos eles são muito impressionantes. Podemos ver esses sistemas começarem a produzir texto como humanos. Mas foi o lançamento do ChatGPT que realmente fez o público em geral perceber isso. Outras empresas lançaram seus próprios chatbots até meses, semanas atrás, como a Meta (ex-Facebook) lançou um chatbot na comunidade científica, mas não só foi desinteressante para as pessoas, como também foi criticado e ridicularizado. Porque cria desinformação e as pessoas ficam muito chateadas com isso. Meta rapidamente o derrubou. Mas logo depois disso, a OpenAI lançou o ChatGPT no Twitter.
** Tornou-se popular em parte por causa de como foi lançado e em parte por causa da empresa que o lançou. Mas o ChatGPT melhora alguns aspectos técnicos importantes. Porque, ao construir esses grandes modelos de linguagem aprendidos em toda a Internet, eles estão aplicando feedback humano a eles. Eles pediram aos humanos para avaliar as respostas do chatbot. Eles estão pedindo aos humanos que classifiquem uma resposta como boa? é real Funciona? Eles gostam ou não gostam e, em seguida, alimentam essas classificações de volta ao sistema e permitem que ele aprenda com essas classificações. **
Dessa forma, eles conseguiram aprimorá-lo a ponto de quase todas as vezes que o chatbot era solicitado, ele produzia um texto convincente. Pode nem sempre ser verdade e ainda gerar desinformação, mas **ele se comunica com as pessoas de uma forma responsiva que os humanos realmente usam. Não apenas com especialistas na área, mas com qualquer pessoa. Isso realmente capturou a imaginação das pessoas. **Houve uma mudança real na percepção desta tecnologia, não apenas entre as pessoas comuns, mas também entre muitos pesquisadores neste campo da tecnologia. A popularidade do ChatGPT deu início a uma nova era desse tipo de tecnologia e a uma nova corrida rumo à inteligência artificial cada vez mais impressionante.
Tecnologia Tencent:
Então você acha que o fator técnico chave para o sucesso do ChatGPT é principalmente o RLHF (Learning with Human Feedback)?
Cade Metz:
Sim, se você usa alguma versão anterior, como **GPT-3, às vezes pode ser impressionante quando você pergunta de uma certa maneira. Por exemplo, se você pedir para fazer um discurso no estilo de Donald Trump, há cerca de meia chance de produzir um discurso impressionante. É um pouco como jogar os dados, às vezes dá o que você quer, às vezes não. Nesse caso, o sistema não atrai a atenção das pessoas comuns. **Mas eles pegaram esse sistema básico, mas toda vez que o sistema produzia uma resposta, eles faziam os anotadores pontuarem. Ele pode obter classificações de humanos, ver como eles classificam essas respostas e usar isso para treinar novamente o sistema. O anotador está dizendo ao GPT que tipo de resposta é boa e que tipo de resposta é ruim.
Eventualmente, a OpenAI conseguiu um chatbot que pode conversar como um humano quase todas as vezes. Eles colocam esse sistema diante das pessoas comuns, e essa discussão acalorada é a maneira como as pessoas respondem ao seu surgimento. No Twitter, qualquer um pode usá-lo e as pessoas realmente respondem a ele.
AGI ainda está longe, mas sua chegada substituirá todo o valor do trabalho humano
Tecnologia Tencent:
Algum tempo atrás, Musk disse em uma entrevista que o AGI será realizado dentro de 5 ou 6 anos. Você acha que o AGI será uma meta fácil?
Cade Metz:
É realmente difícil dizer, e há muita controvérsia sobre o assunto. **Sabemos que os sistemas de IA de hoje não chegam nem perto desse nível. Eles podem produzir linguagem de maneira impressionante, mas não podem raciocinar como os humanos, nem têm o bom senso dos humanos. **
Muitas pessoas acreditam que precisamos de novas maneiras de lhes dar essa capacidade, e nossos métodos atuais não podem fazer com que atinjam o AGI. Eles precisam saber mais sobre o mundo físico do que apenas a linguagem. Há muito debate e desacordo sobre isso, mas certamente não é algo sobre o qual precisamos pensar hoje, e ainda não estamos perto o suficiente da AGI.
Tecnologia Tencent:
O que você acha que falta no sistema atual em comparação com a verdadeira inteligência artificial geral?
Cade Metz:
Quando esses sistemas são usados, as falhas da IA atual podem ser facilmente encontradas. Se você tentar fazê-los raciocinar como humanos, às vezes eles podem imitar, mas na maioria das vezes não.
Esta é a verdadeira dificuldade. **A maior diferença entre eles e o AGI é que eles geram texto plausível e podem realmente raciocinar. **
**Estes sistemas são muito bons para lidar com coisas que aconteceram no passado, ou seja, algo que está documentado na Internet. Mas eles não falam sobre o futuro e especulam sobre o que pode acontecer. **Você e eu podemos ter essa conversa em que falamos sobre o futuro e pensamos no que pode acontecer. Esses sistemas não são bons para fazer isso. Eles são bons em imitar o que viram antes. Portanto, eles são muito bons em passar em testes padronizados. Eles se saem tão bem em testes como direito e ciências e matemática do ensino médio que recebem muito destaque na mídia.
**Mas outros estudos mostraram que se você apenas der a eles perguntas completamente novas, perguntas que foram escritas depois que eles foram treinados, eles não funcionarão tão bem. Então, embora estejam respondendo a todas essas perguntas padronizadas, não estão necessariamente raciocinando. **O que eles fazem é repetir o que foi visto antes.
Tecnologia Tencent:
Em relação à ameaça da IA, como a opacidade, você registrou uma passagem interessante de Hinton no livro "As pessoas precisam viver com o problema da 'caixa preta', mesmo que você não consiga ver o funcionamento interno, elas farão o que devem fazer", mas recentemente Hinton saiu do Google, e você também fez uma entrevista com ele, na qual ele expressou muitas preocupações sobre IA. Como você entende a mudança de atitude de Hinton em relação à IA?
Cade Metz:
Seu pensamento definitivamente mudou. Quando publiquei o livro, ele achava que os riscos da IA eram bem remotos. Mas no ano passado, ele mudou de ideia quando viu a tecnologia ChatGPT que vemos agora.
Ele percebeu que, de certa forma, os sistemas são mais poderosos do que os cérebros humanos. **Você e eu não podemos compreender toda a Internet, ela está além do alcance humano. Não podemos aprender com tantos dados, mas o sistema pode. **Ele está preocupado que eles estejam sendo usados para espalhar desinformação, neste caso texto que não é real, imagem que não é real, vídeo que não é real.
** Além disso, ele também está preocupado com o fato de o sistema começar a tirar os empregos das pessoas; também preocupado com alguns dos problemas maiores, como sistemas automatizados sendo usados no campo de batalha, sendo usados como armas; ele está até mesmo preocupado que em um longo período de tempo, perderemos o controle da IA. **
Tecnologia Tencent:
O colega de longa data de Hinton, Yann Lecun, e outros cientistas de IA realmente falaram muito ultimamente sobre o exagero da mídia sobre as capacidades e ameaças da IA. Você acha que ele está certo? De que maneiras a mídia pode complicar essas questões mais do que realmente são?
Cade Metz:
**Acho que a mídia exagera. Quando o Chat GPT foi lançado pela primeira vez, as pessoas não viam suas falhas e demorou muito para perceberem que ele gera desinformação para enganar as pessoas. Muitas pessoas, inclusive jornalistas, têm dificuldade em entender o que está acontecendo. Portanto, eles continuam a enganar as pessoas à medida que se espalham. **Neste caso, o exagero pode facilmente acontecer.
Claro, às vezes o exagero deliberado vem de mal-entendidos, mas algumas pessoas exageram de propósito e outras inconscientemente. Mas acho que é principalmente porque as pessoas não entendem totalmente o que estão vendo.
Tecnologia Tencent:
Qual você acha que é o significado histórico do atual boom da IA? É o início de uma nova revolução industrial?
Cade Metz:
É possível. Acho que continuaremos a ver melhorias nesses sistemas. **Eles poderão lidar não apenas com texto, mas também com imagens. Vimos a versão mais recente da tecnologia desenvolvida pela OpenAI pegar uma imagem e descrever o que há nela, respondendo a perguntas sobre ela. Isso ainda não é público, mas faz parte do que eles construíram. Ele promete que cada vez mais habilidades serão semelhantes às dos humanos e continuarão a mudar os empregos das pessoas.
Então, acho que o que vimos nos últimos seis meses sugere que teremos uma grande mudança nos próximos anos. Essa transformação parece ter o mesmo alcance da primeira revolução industrial. Ainda estamos nos estágios iniciais. Essas coisas costumam ser mais lentas do que as pessoas pensam. Mas acho que estamos indo nessa direção.
Tecnologia Tencent:
Como você acha que a IA irá remodelar esta sociedade? Onde está o valor dos seres humanos quando a AGI é realizada?
Cade Metz:
Eu acho que seria uma situação difícil para os humanos realmente terem um sistema que pode fazer qualquer coisa que o cérebro humano pode fazer, o chamado AGI.
**Se uma máquina pudesse fazer tudo que um humano pode fazer, então o valor de um trabalhador cairia para zero porque seria mais barato usar uma máquina do que contratar um humano. Na minha opinião, esta não é uma boa situação para os seres humanos. ** Mas AI ainda não está lá.
Tomemos os programadores de computador como exemplo. Hoje, o sistema pode gerar programas de computador e códigos de computador muito bem, mas o código ainda pode ter defeitos. Ainda é necessário um programador humano experiente para assumir o código que eles geraram, editá-lo e integrá-lo. um programa maior, eventualmente construindo um aplicativo. À medida que esses sistemas melhoram com o tempo, eles substituirão cada vez mais o que os humanos fazem. O problema neste estágio é que a IA logo começará a substituir os programadores juniores menos experientes, as pessoas que estão na base da indústria de programadores, que fazem a mesma coisa que a IA, escrevem algum código básico e o entregam a mais experientes. programadores, pessoas para integrar.
** À medida que a IA continua a melhorar, as máquinas certamente mudarão as coisas cada vez mais, mas não estamos no ponto em que a IA substituirá repentinamente um grande número de empregos. **
Outra preocupação que tenho é que esses sistemas podem gerar textos e imagens realistas. Eles estão até começando a gerar vídeo em tempo real, não seremos capazes de distinguir o que é real do que não está na internet e teremos absolutamente que mudar nossa mentalidade ao navegar em quase tudo na internet. Você tem que perguntar às massas se elas têm o poder de mudar a maneira como pensam em geral. **
Ver original
O conteúdo é apenas para referência, não uma solicitação ou oferta. Nenhum aconselhamento fiscal, de investimento ou jurídico é fornecido. Consulte a isenção de responsabilidade para obter mais informações sobre riscos.
Entrevista com o lendário repórter de IA Cade Metz: não há fosso na indústria e a China logo alcançará a OpenAI
Autor | Tencent Technology Hao Boyang
O título de "Três Grandes Três no Aprendizado Profundo" certamente não é estranho para os leitores no surgimento da IA. Mas entre os talentos de aprendizado profundo, que critérios de avaliação são usados para destacar Hinton, Yann Lecun e Yoshua Bengio como gigantes? Sem competições, debates ou rankings, esse título foi determinado pelo mais famoso repórter da área de IA, Cade Metz, há 18 anos.
Como redator sênior da revista "Wired", redator-chefe da coluna de inteligência artificial do "New York Times" e autor de "Deep Learning Revolution", Cade Metz entrevistou basicamente todos os especialistas conhecidos no campo da IA durante mais de dez anos de experiência profissional, Sam Altman o consultou antes de lançar o ChatGPT, e Hinton conversou com ele depois de deixar o Google. Por meio do contato com essas figuras centrais, ele também se aprofundou em gigantes da IA como Microsoft, Google e Meta para desenterrar os momentos centrais e as cenas dramáticas por trás de várias decisões centrais de negócios. O livro "Deep Learning Revolution" escrito há algum tempo também foi divulgado pela primeira vez. O leilão secreto que mudou o rumo da inteligência artificial dez anos atrás.
O livro relata em detalhes o leilão ocorrido em 2012 e que teve profundo impacto em toda a indústria de inteligência artificial.
Em dezembro de 2012, Hinton, que não conseguia ficar parado por causa de uma hérnia de disco, ficou com dois de seus alunos por uma semana em um hotel-cassino no sopé das montanhas de esqui de Lake Tahoe. Ele e sua empresa recém-criada sem nenhum produto estão aceitando rodadas de licitações das empresas mais famosas do mundo, incluindo Microsoft, Google, Deepmind e Baidu.
A cena mais dramática aconteceu quando Hinton estava lidando com a visita repentina de Yu Kai, então vice-reitor do instituto de pesquisa enviado por Baidu. Para "não deixá-lo pensar que eu era velho", ele pediu a seus alunos que Arrumar todas as vezes para deixá-lo Dor lombar aliviou o dossel que foi temporariamente construído com almofadas do sofá, o que os deixou bastante atrapalhados. Durante uma certa visita, Hinton enfrentou a mochila esquerda de Yu Kai e lutou por um longo tempo com os alunos se deveria procurar informações sobre o preço de reserva do Baidu. Mas no final, a dignidade os fez desistir. Finalmente, uma semana depois, Hinton aceitou a oferta do Google, vendeu a empresa, que ainda estava completamente vazia, para o gigante por US$ 44 milhões e abriu a cortina da gigante guerra da IA.
Ao longo de sua carreira, essas cenas cheias de detalhes e conflitos dramáticos podem ser vistas em todos os lugares. Portanto, não é exagero chamá-lo de observador mais profundo no campo da IA.
Nesta entrevista, Metz mais uma vez demonstrou seu amplo conhecimento no campo da IA, desde a história e os momentos centrais do aprendizado profundo até o futuro da IA e seu impacto na sociedade humana. Ele também fez sua avaliação de estilo observador da situação da inteligência artificial da China em particular.
Ele acredita que a razão pela qual Sam Altman pode destacar a OpenAI é principalmente porque sua forte capacidade de negociação contribuiu para a cooperação entre a OpenAI e a Microsoft. Ele também acredita que a diferença entre a China e os Estados Unidos em IA não é tão grande quanto o público pensa, porque a própria tecnologia existente não tem fosso. Com relação ao futuro da IA, ele tem preocupações semelhantes às de Hinton e se preocupará com o fato de que o surgimento da AGI trará grandes mudanças na sociedade. Os espectadores são claros, os seguintes são insights de observadores de IA.
A diferença entre a China e os Estados Unidos não é tão grande, a IA não tem fosso
Tecnologia Tencent:
Agora que a história da OpenAI ganhou destaque, você escreveu muito sobre sua fundação e jornada em seu livro. Você pode falar sobre Sam Altman? Quais qualidades permitiram que ele levasse a OpenAI até onde ela está hoje?
Cade Metz:
**Sam é muito ambicioso e é bom em convencer as pessoas a fazerem o que ele quer que façam. Francamente, ele é bom em formar equipes e colocá-las em um determinado caminho. **Não é apenas sobre o nível de habilidade de desenvolvimento. Eles precisam de muito dinheiro para fazer isso. O treinamento desses tipos de sistemas custa dezenas de milhões, senão centenas de milhões de dólares. Eu disse que analisar todo o texto na Internet e aprender, e deixar esses sistemas aprenderem por conta própria, leva meses e requer sistemas de computação massivos que são de propriedade e controlados por grandes empresas de tecnologia.
Sam levantou mais de US $ 1 bilhão em aproximadamente 2019. Portanto, boa parte de seu conjunto de habilidades é negociar o acordo. **Foi um grande negócio, Sam conseguiu os fundos de que precisava e o poder de computação de que precisava. Posteriormente, levantaram mais US$ 11 bilhões da **Microsoft, totalizando quase US$ 13 bilhões. Essa é uma grande razão pela qual ele é tão fundamental.
Tecnologia Tencent:
Você mencionou a Microsoft, mas ela estava completamente atrás de seus concorrentes na última onda de IA. Então, por que a Microsoft pode aproveitar essa oportunidade nessa onda de IA e agir tão rapidamente?
Cade Metz:
Este é um movimento interessante para a Microsoft. Eles já estiveram atrás da concorrência, mas perceberam a importância da tecnologia que estavam construindo. Eles também encontraram muitas dificuldades antes.Seu oponente Google e outras empresas têm um cenário em que essa tecnologia pode ser usada: o Google implantou redes neurais em larga escala em telefones Android e seu assistente digital Google Home para reconhecimento de fala. Portanto, quando você usa esses alto-falantes inteligentes em sua casa, eles podem responder às suas perguntas. O Google pode começar a implantar essa tecnologia tão rapidamente porque tem os cenários e o hardware para implantá-la. A Microsoft não tem esse cenário.
Mas quando a Microsoft finalmente tentou implantá-lo, eles se depararam com outros problemas. Eles lançaram um chatbot chamado Tay nos Estados Unidos há alguns anos, e assim que chegou às prateleiras começou a gerar algumas mensagens ofensivas, inclusive racistas. A Microsoft só pode derrubá-lo em breve.
**Este é um lado da história à medida que a tecnologia de IA evolui nos EUA, pois esses sistemas às vezes geram texto desnecessário que é tendencioso contra certas pessoas e gera discurso de ódio. Portanto, é difícil para as grandes empresas se decidirem a lançar esse produto e não querem correr esse risco. Mas a Microsoft fez parceria com a OpenAI, que está lançando o sistema, para que as pessoas não reajam tão fortemente às suas falhas quanto reagiram à Microsoft. ** As pessoas aceitarão que esses bugs venham de uma empresa pequena e desconhecida, mas não de uma empresa conhecida como a Microsoft.
Tecnologia Tencent:
De acordo com sua observação, qual é o tamanho da lacuna entre a China e os Estados Unidos no campo da inteligência artificial? Quais vantagens você acha que a China tem em inteligência artificial?
Cade Metz:
A China vem trabalhando nisso há algum tempo. Existem muitas pessoas e empresas que entendem a tecnologia envolvida aqui, mas pode haver dificuldades. Os chips de computador necessários para treinar esses sistemas são fabricados no mais alto nível por empresas americanas. Agora que há uma proibição comercial, esses chips não podem ser vendidos para a China. Isso pode ser uma desvantagem.
Veremos como isso se desenrola quando se trata de construir essa tecnologia. **Sam Altman disse recentemente que sente que a China está dois anos atrasada. Esta é uma estimativa. Acho que a indústria como um todo pode acompanhar o que ele e sua empresa estão fazendo rapidamente. Já estamos começando a ver isso e acho que pode acontecer na China também. **
Tecnologia Tencent:
Essa lacuna está ficando maior ou menor?
Cade Metz:
Por causa da proibição do comércio, é difícil dizer. Essa é uma dificuldade que a China enfrenta. Pelo que sei, a China está trabalhando duro para construir, projetar e fornecer os chips e equipamentos necessários para os data centers.
**Seja na China ou nos Estados Unidos, teremos que lidar com os muitos papéis potenciais desempenhados por fricções comerciais, como a concorrência. Agora é geralmente aceito que a tecnologia da OpenAI está atualmente à frente da maioria de seus concorrentes. Mas existem muitas outras empresas no mundo que têm conhecimento, dinheiro e acesso aos recursos necessários para realmente competir. **
Portanto, ainda estamos nos estágios iniciais da competição de IA e ainda há muitos caminhos a serem explorados. O resultado ainda precisa esperar para ver.
Tecnologia Tencent:
Você mencionou o Baidu em seu livro. A empresa chinesa também começou a experimentar esse tipo de tecnologia de IA em 2012, já nos estágios iniciais da corrida. Por que você acha que não mostrou força hoje? O que você acha que são os principais fatores que contribuem para esta situação?
Cade Metz:
**Acho que as ideias estão dirigindo o campo. **O aprendizado profundo é famoso em todo o mundo e pesquisadores na China desenvolveram técnicas semelhantes. Mas, assim como nos EUA, as pessoas ficaram impressionadas com o quão bem aquela etapa de treinamento de feedback humano que mencionei anteriormente funcionou. **Assim, eles estão um passo atrás de muitos nos EUA na aplicação dessa técnica (treinamento com feedback humano) a grandes modelos de linguagem. **
Tecnologia Tencent:
Você mencionou que muitas outras empresas também estão nessa corrida, além das grandes como OpenAI, Google e Meta, há alguma empresa pequena que vale a pena ficar de olho?
Cade Metz:
Existe uma empresa chamada Anthropic, que foi fundada por um grupo de pessoas que saíram da OpenAI. A empresa não é muito conhecida, mas vão ser importantes neste espaço. Eles ajudaram a construir grande parte da tecnologia que formou o ChatGPT e construíram seu próprio chatbot, que ainda não foi lançado para o público em geral. Eu estimo que seus recursos serão comparáveis ao ChatGPT.
Existe uma empresa em Toronto chamada Coherence que está fazendo algo parecido; nos Estados Unidos existe uma empresa chamada Character.AI fundada por ex-Googlers; existe outra empresa chamada Inflection AI, fundada por um dos fundadores da DeepMind of. O DeepMind é outro importante laboratório sediado em Londres, essencialmente propriedade da Google.
Tecnologia Tencent:
Para empresas que estão desenvolvendo no segmento de IA, onde estão suas oportunidades?
Cade Metz:
A maneira como esses pequenos domínios funcionam é que, uma vez que alguém constrói um sistema chamado de modelo de linguagem grande, você pode usá-lo para construir todos os tipos de outras técnicas. Você pode criar um chatbot, um mecanismo de pesquisa, um tutor pessoal. **Então, o que a OpenAI está fazendo é construir esse sistema central. Eles o chamam de GPT-4 e oferecem esse sistema para qualquer outra empresa que queira usá-lo. Esta é uma maneira de criar outros aplicativos.
Isso é o que estamos começando a ver. **Acho que você verá empresas como a OpenAI oferecendo esse tipo de serviço. Todos podem usá-lo para construir seus próprios aplicativos em cima dele. **Então, acho que existem todos os tipos de oportunidades em que as empresas podem pegar esse serviço principal e, em seguida, criar coisas novas sobre ele e vender esses aplicativos. Mas o mais difícil é construir esse serviço básico, e poucas empresas podem fazer isso. Nos Estados Unidos, existem gigantes como Google, Microsoft e Meta, e apenas algumas startups têm o capital e o talento necessários. Como eu disse antes, você precisa de centenas de milhões de dólares para construir este sistema central. **Portanto, atualmente é difícil para empresas menores competir com eles em termos de construção do modelo básico. **
Muitas pessoas pensam que, à medida que os preços caírem e os projetos de código aberto melhorarem, será mais fácil para as pessoas construir seus próprios sistemas principais, e isso acabará mudando. Mas eu não tenho certeza.
Dois marcos no desenvolvimento da IA: um leilão e o nascimento do ChatGPT
Tecnologia Tencent:
Como autor sênior de IA, você basicamente se concentrou no campo de aprendizado profundo em sua carreira de dez anos e estabeleceu todos os papéis importantes nesse campo e participou de vários momentos decisivos entre eles. O que o levou a prestar atenção a este campo?
Cade Metz:
Por volta de 2011 ou 2012, entrei na Wired em São Francisco. Esta é uma das áreas que decidi focar. Naquela época, há mais de dez anos, já se sentia o cheiro de que esse campo se tornaria muito importante. Foi quando ocorreram alguns momentos cruciais que me interessaram pela tecnologia.
Hinton é o protagonista do livro "The Deep Learning Revolution" e escrevi sobre sua ascensão e o conceito-chave de redes neurais que impulsionou muitos dos avanços nos últimos 10 anos. Ele acabou se juntando ao Google em 2013.
Mais tarde, soube que se tratava de um leilão entre algumas das maiores empresas de tecnologia do mundo, incluindo Google, Microsoft e a chinesa Baidu. Esse foi um momento crucial e você pode ver algo começando a acontecer. Ao longo dos anos, comecei a cobrir o espaço cada vez mais e conheci pessoas como Hinton e seu colega de longa data Yann Lecun, que acabou se juntando ao Facebook e agora ao Meta, entre outras pessoas da área. Começamos a fazer muita cobertura na Wired, e depois foi ficando cada vez maior. Por fim, decidi escrever um livro sobre o campo, que continuei a cobrir quando mudei da Wired para o The New York Times.
Tecnologia Tencent:
Como repórter que acompanha a IA há muito tempo, é como passar por um ciclo. Você passou por um período crítico no campo do aprendizado de máquina. inteligência artificial. Na sua opinião, o que fez Hinton e outros persistirem?
Cade Metz:
Hinton começou a trabalhar com redes neurais em 1972. Naquela época, quase ninguém acreditava que daria certo, porque** todo o campo da inteligência artificial abandonou o rumo das redes neurais. Mas ** Hinton é um homem de opinião própria, que realmente acredita naquilo em que acredita, e é firme nessa direção.
**Na década de 1980, devido em grande parte aos esforços do próprio Hinton, a tecnologia fez alguns avanços importantes. Muitas pessoas começaram a acreditar nessa ideia novamente. Mas no início dos anos 90, as pessoas desistiram de novo, mas ele continuou trabalhando e sempre manteve sua atitude consistente. ** Eles acreditavam que a ideia continuaria a melhorar e estavam certos. Parte do que torna essa história tão interessante é que eles continuam trabalhando mesmo diante de tanto ceticismo, até mesmo de seus colegas mais próximos.
O momento que realmente abriu os olhos de toda a indústria foi o que hoje é conhecido como o jornal AlexNet. Este trabalho de pesquisa, escrito por Hinton e dois de seus alunos da Universidade de Toronto, mostra que as redes neurais podem obter grande sucesso no reconhecimento de imagens, identificando objetos em fotos como flores, carros, pessoas, animais etc.
Quando o artigo foi publicado em 2012, abriu os olhos do Google, Microsoft, Baidu e, eventualmente, do Facebook. A gente vê essa guerra por talentos, essa correria para aplicar essa ideia dentro de algumas das maiores empresas do planeta, não só para reconhecimento de imagem, mas para reconhecimento de voz, tradução e assim por diante. Aquele jornal foi um momento crucial. É por isso que meu livro começa com aquele jornal,** foi o momento em que Hinton leiloou sua empresa pelo lance mais alto, e isso desencadeou todo o resto. **
Desde então até hoje, continuamos a melhorar. O supracitado despertar da consciência da indústria em 2012 foi um momento crítico e, 10 anos depois, foi lançado o ChatGPT, que é outro momento crítico. Esses dois momentos são pontos de virada muito importantes quando olhamos para trás na história da IA.
Tecnologia Tencent:
**Em seu livro, você descreve o desenvolvimento do aprendizado profundo, e marcos de produtos como AlphaGo, Deepfake e a série GPT provocaram extensa discussão pública. Mas até o surgimento do ChatGPT, todos realmente sentiam que a verdadeira revolução industrial estava chegando. O que torna a série GPT tão diferente? **
Cade Metz:
Esta é uma grande pergunta. As tecnologias relacionadas a GPT e ChatGPT foram desenvolvidas há algum tempo. Várias empresas desenvolveram essa técnica nos últimos cinco anos, com a OpenAI eventualmente desenvolvendo o Chat GPT, e empresas como Google, Meta (antigo Facebook) e Microsoft também começando a desenvolver os chamados modelos de linguagem grande há cinco anos.
A ideia por trás da tecnologia é construir uma rede neural, um sistema matemático que pode aprender com os dados. Alimente-o com o máximo de texto possível e ele analisa esse texto e, no processo de análise desse texto, aprende a gerar o próprio texto. Ao analisar artigos da Wikipédia, postagens em blogs, registros de bate-papo e vários conteúdos na Internet, ele reconheceu padrões na maneira como reunimos as palavras e aprendeu a fazê-lo. Vimos essa tecnologia se concretizar nos últimos anos e vários sistemas interessantes foram lançados.
OpenAI lançou GPT-2, GPT-3, todos eles são muito impressionantes. Podemos ver esses sistemas começarem a produzir texto como humanos. Mas foi o lançamento do ChatGPT que realmente fez o público em geral perceber isso. Outras empresas lançaram seus próprios chatbots até meses, semanas atrás, como a Meta (ex-Facebook) lançou um chatbot na comunidade científica, mas não só foi desinteressante para as pessoas, como também foi criticado e ridicularizado. Porque cria desinformação e as pessoas ficam muito chateadas com isso. Meta rapidamente o derrubou. Mas logo depois disso, a OpenAI lançou o ChatGPT no Twitter.
** Tornou-se popular em parte por causa de como foi lançado e em parte por causa da empresa que o lançou. Mas o ChatGPT melhora alguns aspectos técnicos importantes. Porque, ao construir esses grandes modelos de linguagem aprendidos em toda a Internet, eles estão aplicando feedback humano a eles. Eles pediram aos humanos para avaliar as respostas do chatbot. Eles estão pedindo aos humanos que classifiquem uma resposta como boa? é real Funciona? Eles gostam ou não gostam e, em seguida, alimentam essas classificações de volta ao sistema e permitem que ele aprenda com essas classificações. **
Dessa forma, eles conseguiram aprimorá-lo a ponto de quase todas as vezes que o chatbot era solicitado, ele produzia um texto convincente. Pode nem sempre ser verdade e ainda gerar desinformação, mas **ele se comunica com as pessoas de uma forma responsiva que os humanos realmente usam. Não apenas com especialistas na área, mas com qualquer pessoa. Isso realmente capturou a imaginação das pessoas. **Houve uma mudança real na percepção desta tecnologia, não apenas entre as pessoas comuns, mas também entre muitos pesquisadores neste campo da tecnologia. A popularidade do ChatGPT deu início a uma nova era desse tipo de tecnologia e a uma nova corrida rumo à inteligência artificial cada vez mais impressionante.
Tecnologia Tencent:
Então você acha que o fator técnico chave para o sucesso do ChatGPT é principalmente o RLHF (Learning with Human Feedback)?
Cade Metz:
Sim, se você usa alguma versão anterior, como **GPT-3, às vezes pode ser impressionante quando você pergunta de uma certa maneira. Por exemplo, se você pedir para fazer um discurso no estilo de Donald Trump, há cerca de meia chance de produzir um discurso impressionante. É um pouco como jogar os dados, às vezes dá o que você quer, às vezes não. Nesse caso, o sistema não atrai a atenção das pessoas comuns. **Mas eles pegaram esse sistema básico, mas toda vez que o sistema produzia uma resposta, eles faziam os anotadores pontuarem. Ele pode obter classificações de humanos, ver como eles classificam essas respostas e usar isso para treinar novamente o sistema. O anotador está dizendo ao GPT que tipo de resposta é boa e que tipo de resposta é ruim.
Eventualmente, a OpenAI conseguiu um chatbot que pode conversar como um humano quase todas as vezes. Eles colocam esse sistema diante das pessoas comuns, e essa discussão acalorada é a maneira como as pessoas respondem ao seu surgimento. No Twitter, qualquer um pode usá-lo e as pessoas realmente respondem a ele.
AGI ainda está longe, mas sua chegada substituirá todo o valor do trabalho humano
Tecnologia Tencent:
Algum tempo atrás, Musk disse em uma entrevista que o AGI será realizado dentro de 5 ou 6 anos. Você acha que o AGI será uma meta fácil?
Cade Metz:
É realmente difícil dizer, e há muita controvérsia sobre o assunto. **Sabemos que os sistemas de IA de hoje não chegam nem perto desse nível. Eles podem produzir linguagem de maneira impressionante, mas não podem raciocinar como os humanos, nem têm o bom senso dos humanos. **
Muitas pessoas acreditam que precisamos de novas maneiras de lhes dar essa capacidade, e nossos métodos atuais não podem fazer com que atinjam o AGI. Eles precisam saber mais sobre o mundo físico do que apenas a linguagem. Há muito debate e desacordo sobre isso, mas certamente não é algo sobre o qual precisamos pensar hoje, e ainda não estamos perto o suficiente da AGI.
Tecnologia Tencent:
O que você acha que falta no sistema atual em comparação com a verdadeira inteligência artificial geral?
Cade Metz:
Quando esses sistemas são usados, as falhas da IA atual podem ser facilmente encontradas. Se você tentar fazê-los raciocinar como humanos, às vezes eles podem imitar, mas na maioria das vezes não.
Esta é a verdadeira dificuldade. **A maior diferença entre eles e o AGI é que eles geram texto plausível e podem realmente raciocinar. **
**Estes sistemas são muito bons para lidar com coisas que aconteceram no passado, ou seja, algo que está documentado na Internet. Mas eles não falam sobre o futuro e especulam sobre o que pode acontecer. **Você e eu podemos ter essa conversa em que falamos sobre o futuro e pensamos no que pode acontecer. Esses sistemas não são bons para fazer isso. Eles são bons em imitar o que viram antes. Portanto, eles são muito bons em passar em testes padronizados. Eles se saem tão bem em testes como direito e ciências e matemática do ensino médio que recebem muito destaque na mídia.
**Mas outros estudos mostraram que se você apenas der a eles perguntas completamente novas, perguntas que foram escritas depois que eles foram treinados, eles não funcionarão tão bem. Então, embora estejam respondendo a todas essas perguntas padronizadas, não estão necessariamente raciocinando. **O que eles fazem é repetir o que foi visto antes.
Tecnologia Tencent:
Em relação à ameaça da IA, como a opacidade, você registrou uma passagem interessante de Hinton no livro "As pessoas precisam viver com o problema da 'caixa preta', mesmo que você não consiga ver o funcionamento interno, elas farão o que devem fazer", mas recentemente Hinton saiu do Google, e você também fez uma entrevista com ele, na qual ele expressou muitas preocupações sobre IA. Como você entende a mudança de atitude de Hinton em relação à IA?
Cade Metz:
Seu pensamento definitivamente mudou. Quando publiquei o livro, ele achava que os riscos da IA eram bem remotos. Mas no ano passado, ele mudou de ideia quando viu a tecnologia ChatGPT que vemos agora.
Ele percebeu que, de certa forma, os sistemas são mais poderosos do que os cérebros humanos. **Você e eu não podemos compreender toda a Internet, ela está além do alcance humano. Não podemos aprender com tantos dados, mas o sistema pode. **Ele está preocupado que eles estejam sendo usados para espalhar desinformação, neste caso texto que não é real, imagem que não é real, vídeo que não é real.
** Além disso, ele também está preocupado com o fato de o sistema começar a tirar os empregos das pessoas; também preocupado com alguns dos problemas maiores, como sistemas automatizados sendo usados no campo de batalha, sendo usados como armas; ele está até mesmo preocupado que em um longo período de tempo, perderemos o controle da IA. **
Tecnologia Tencent:
O colega de longa data de Hinton, Yann Lecun, e outros cientistas de IA realmente falaram muito ultimamente sobre o exagero da mídia sobre as capacidades e ameaças da IA. Você acha que ele está certo? De que maneiras a mídia pode complicar essas questões mais do que realmente são?
Cade Metz:
**Acho que a mídia exagera. Quando o Chat GPT foi lançado pela primeira vez, as pessoas não viam suas falhas e demorou muito para perceberem que ele gera desinformação para enganar as pessoas. Muitas pessoas, inclusive jornalistas, têm dificuldade em entender o que está acontecendo. Portanto, eles continuam a enganar as pessoas à medida que se espalham. **Neste caso, o exagero pode facilmente acontecer.
Claro, às vezes o exagero deliberado vem de mal-entendidos, mas algumas pessoas exageram de propósito e outras inconscientemente. Mas acho que é principalmente porque as pessoas não entendem totalmente o que estão vendo.
Tecnologia Tencent:
Qual você acha que é o significado histórico do atual boom da IA? É o início de uma nova revolução industrial?
Cade Metz:
É possível. Acho que continuaremos a ver melhorias nesses sistemas. **Eles poderão lidar não apenas com texto, mas também com imagens. Vimos a versão mais recente da tecnologia desenvolvida pela OpenAI pegar uma imagem e descrever o que há nela, respondendo a perguntas sobre ela. Isso ainda não é público, mas faz parte do que eles construíram. Ele promete que cada vez mais habilidades serão semelhantes às dos humanos e continuarão a mudar os empregos das pessoas.
Então, acho que o que vimos nos últimos seis meses sugere que teremos uma grande mudança nos próximos anos. Essa transformação parece ter o mesmo alcance da primeira revolução industrial. Ainda estamos nos estágios iniciais. Essas coisas costumam ser mais lentas do que as pessoas pensam. Mas acho que estamos indo nessa direção.
Tecnologia Tencent:
Como você acha que a IA irá remodelar esta sociedade? Onde está o valor dos seres humanos quando a AGI é realizada?
Cade Metz:
Eu acho que seria uma situação difícil para os humanos realmente terem um sistema que pode fazer qualquer coisa que o cérebro humano pode fazer, o chamado AGI.
**Se uma máquina pudesse fazer tudo que um humano pode fazer, então o valor de um trabalhador cairia para zero porque seria mais barato usar uma máquina do que contratar um humano. Na minha opinião, esta não é uma boa situação para os seres humanos. ** Mas AI ainda não está lá.
Tomemos os programadores de computador como exemplo. Hoje, o sistema pode gerar programas de computador e códigos de computador muito bem, mas o código ainda pode ter defeitos. Ainda é necessário um programador humano experiente para assumir o código que eles geraram, editá-lo e integrá-lo. um programa maior, eventualmente construindo um aplicativo. À medida que esses sistemas melhoram com o tempo, eles substituirão cada vez mais o que os humanos fazem. O problema neste estágio é que a IA logo começará a substituir os programadores juniores menos experientes, as pessoas que estão na base da indústria de programadores, que fazem a mesma coisa que a IA, escrevem algum código básico e o entregam a mais experientes. programadores, pessoas para integrar.
** À medida que a IA continua a melhorar, as máquinas certamente mudarão as coisas cada vez mais, mas não estamos no ponto em que a IA substituirá repentinamente um grande número de empregos. **
Outra preocupação que tenho é que esses sistemas podem gerar textos e imagens realistas. Eles estão até começando a gerar vídeo em tempo real, não seremos capazes de distinguir o que é real do que não está na internet e teremos absolutamente que mudar nossa mentalidade ao navegar em quase tudo na internet. Você tem que perguntar às massas se elas têm o poder de mudar a maneira como pensam em geral. **