El título de "Tres grandes tres en aprendizaje profundo" ciertamente no es extraño para los lectores en el auge de la IA. Pero entre los talentos de aprendizaje profundo, ¿qué criterios de evaluación se utilizan para destacar a Hinton, Yann Lecun y Yoshua Bengio como gigantes? No hay concursos, debates o clasificaciones.Este título fue determinado por el reportero más famoso en el campo de la IA, Cade Metz, ya hace 18 años.
Como escritor senior de la revista "Wired", escritor principal de la columna de inteligencia artificial "New York Times" y autor de "Deep Learning Revolution", Cade Metz básicamente entrevistó a todos los expertos conocidos en el campo de la IA durante más de diez años. de experiencia laboral, Sam Altman consultó con él antes de lanzar ChatGPT y Hinton habló con él después de dejar Google. A través del contacto con estas figuras centrales, también profundizó en los gigantes de IA como Microsoft, Google y Meta para desenterrar los momentos centrales y las escenas dramáticas detrás de varias decisiones comerciales centrales.El libro "Deep Learning Revolution", escrito hace algún tiempo, también fue revelado por primera vez La subasta secreta que cambió el curso de la inteligencia artificial hace diez años.
El libro informa en detalle la subasta que tuvo lugar en 2012 y tuvo un profundo impacto en toda la industria de la inteligencia artificial.
En diciembre de 2012, Hinton, que no podía quedarse quieto debido a una hernia de disco, se quedó con dos de sus alumnos durante una semana en un hotel casino al pie de las montañas de esquí del lago Tahoe. Él y su compañía recién establecida sin ningún producto están aceptando rondas de licitación de las compañías más famosas del mundo, incluidas Microsoft, Google, Deepmind y Baidu.
La escena más dramática apareció cuando Hinton estaba lidiando con la visita repentina de Yu Kai, el entonces vicedecano del instituto de investigación enviado por Baidu, para "que no piense que yo era viejo", le pidió a sus alumnos que empacar cada vez para dejarlo El dolor lumbar alivió el dosel que se construyó temporalmente con cojines de sofá, lo que los puso bastante nerviosos. Durante cierta visita, Hinton se enfrentó a la mochila izquierda de Yu Kai y luchó con los estudiantes durante mucho tiempo para buscar información sobre el precio de reserva de Baidu. Pero al final, la dignidad los hizo desistir. Finalmente, una semana después, Hinton aceptó la oferta de Google, vendió la empresa, que aún estaba completamente vacía, al gigante por 44 millones de dólares y abrió el telón de la guerra de la IA gigante.
A lo largo de su carrera, este tipo de escenas llenas de detalles y conflictos dramáticos se pueden ver por todas partes. Por lo tanto, no es una exageración llamarlo el observador más profundo en el campo de la IA.
En esta entrevista, Metz demostró una vez más su amplio conocimiento en el campo de la IA, desde la historia y los momentos centrales del aprendizaje profundo hasta el futuro de la IA y su impacto en la sociedad humana. También hizo su evaluación al estilo observador de la situación de la inteligencia artificial de China en particular.
Él cree que la razón por la que Sam Altman puede hacer que OpenAI se destaque es principalmente porque su fuerte capacidad de negociación ha contribuido a la cooperación entre OpenAI y Microsoft. También cree que la brecha entre China y Estados Unidos en IA no es tan grande como piensa el público, porque la tecnología existente en sí misma no tiene foso. Con respecto al futuro de la IA, tiene preocupaciones similares a las de Hinton, y le preocupará que el surgimiento de AGI provoque grandes cambios en la sociedad. Los espectadores son claros, las siguientes son ideas de observadores de IA.
Concentrarse en:
1 Dos momentos importantes en el desarrollo de la IA, uno es el lanzamiento del artículo de AlexNet, que permite a la comunidad académica comprender que las redes neuronales pueden lograr un gran éxito en el reconocimiento de imágenes. Otro es el lanzamiento de ChatGPT, que abrió los ojos al público.
2 Es muy probable que las empresas chinas pronto se pongan al día con OpenAI en términos de modelos de lenguaje, ya que la brecha general en conocimiento, financiamiento y recursos entre los dos no es tan grande.
3 La exageración de los medios en torno a la IA existe porque la gente no sabe mucho sobre las limitaciones del sistema. GPT es débil en razonamiento y predicción, muy por debajo del nivel de AGI. Pero los riesgos de la IA en esta etapa son reales.
4 Si viene AGI, la condición humana será peor. Porque su valor como trabajadores caería entonces a cero, y sería más barato tener máquinas que hicieran todo esto que contratar humanos. Pero la IA actual todavía está lejos de este objetivo.
La brecha entre China y Estados Unidos no es tan grande, la IA no tiene foso
Tecnología Tencent:
Ahora que la historia de OpenAI se ha convertido en el centro de atención, ha escrito mucho sobre su fundación y viaje en su libro. ¿Puedes hablar de Sam Altman? ¿Qué cualidades le permitieron llevar a OpenAI a donde está hoy?
Cade Metz:
**Sam es muy ambicioso y se le da bien convencer a la gente de que haga lo que él quiere que haga. Francamente, es bueno formando equipos y poniéndolos en un camino determinado. ** No se trata solo del nivel de habilidad de desarrollo. Necesitan mucho dinero para hacer esto. El entrenamiento de este tipo de sistemas cuesta decenas de millones, si no cientos de millones de dólares. He dicho que analizar todo el texto en Internet y aprender, y dejar que estos sistemas aprendan por sí mismos, lleva meses y requiere sistemas informáticos masivos que en realidad son propiedad y están controlados por grandes empresas de tecnología.
Sam recaudó más de mil millones de dólares aproximadamente en 2019. Así que una buena parte de su conjunto de habilidades es negociar el trato. **Fue un gran negocio, Sam obtuvo los fondos que necesitaba y la potencia informática que necesitaba. Posteriormente recaudaron otros $11 mil millones más de **Microsoft, por un total de casi $13 mil millones. Esa es una gran razón por la que es tan fundamental.
Tecnología Tencent:
Mencionaste a Microsoft, pero estaba completamente por detrás de sus competidores en la última ola de IA. Entonces, ¿por qué Microsoft puede aprovechar esta oportunidad en esta ola de IA y actuar tan rápido?
Cade Metz:
Este es un movimiento interesante para Microsoft. Alguna vez estuvieron detrás de la competencia, pero se dieron cuenta de la importancia de la tecnología que estaban construyendo. También han encontrado muchas dificultades antes.Su oponente Google y otras compañías tienen un escenario donde se puede usar esta tecnología: Google primero implementó redes neuronales a gran escala en teléfonos Android y su asistente digital Google Home para el reconocimiento de voz. Entonces, cuando usa estos parlantes inteligentes en su hogar, pueden responder sus preguntas. Google puede comenzar a implementar esta tecnología tan rápido porque tiene los escenarios y el hardware para implementarla. Microsoft no tiene este escenario.
Pero cuando Microsoft finalmente intentó implementarlo, se encontraron con otros problemas. Lanzaron un chatbot llamado Tay en los EE. UU. hace unos años, y casi tan pronto como salió a la venta, comenzó a generar algunos mensajes ofensivos, incluidos mensajes racistas. Microsoft solo puede eliminarlo pronto.
**Este es un lado de la historia a medida que la tecnología de inteligencia artificial evoluciona en los EE. UU., ya que estos sistemas a veces generan texto innecesario que está sesgado contra ciertas personas y genera discurso de odio. Por tanto, a las grandes empresas les cuesta decidirse a lanzar este producto, y no quieren correr ese riesgo. Pero Microsoft se ha asociado con OpenAI, que está lanzando el sistema, para que la gente no reaccione tan fuertemente a sus fallas como lo hizo con Microsoft. ** La gente aceptará que estos errores provienen de una empresa pequeña y desconocida, pero no de una empresa conocida como Microsoft.
Tecnología Tencent:
Según su observación, ¿qué tan grande es la brecha entre China y Estados Unidos en el campo de la inteligencia artificial? ¿Qué ventajas cree que tiene China en inteligencia artificial?
Cade Metz:
China ha estado trabajando en esto durante algún tiempo. Hay muchas personas y empresas que entienden la tecnología involucrada aquí, pero puede haber dificultades. Los chips de computadora necesarios para entrenar estos sistemas son fabricados al más alto nivel por empresas estadounidenses. Ahora que hay una prohibición comercial, estos chips no se pueden vender a China. Esto puede ser una desventaja.
Veremos cómo se desarrolla cuando se trata de construir esta tecnología. **Sam Altman dijo recientemente que siente que China está dos años atrás. Esta es una estimación. Creo que la industria en su conjunto puede ponerse al día con lo que él y su empresa están haciendo con bastante rapidez. Ya estamos empezando a ver eso, y creo que también puede suceder en China. **
Tecnología Tencent:
¿Esta brecha es cada vez más grande o más pequeña?
Cade Metz:
Debido a la prohibición comercial, es difícil saberlo. Esta es una dificultad que enfrenta China. Hasta donde yo sé, China está trabajando arduamente para construir, diseñar y suministrar los chips y equipos necesarios para los centros de datos.
**Ya sea en China o en los Estados Unidos, tendremos que lidiar con los muchos roles potenciales que desempeñan las fricciones comerciales, como la competencia. Ahora se acepta generalmente que la tecnología de OpenAI está actualmente por delante de la mayoría de sus competidores. Pero hay muchas otras empresas en el mundo que tienen suficiente conocimiento, dinero y acceso a los recursos necesarios para competir de verdad. **
Por lo tanto, todavía estamos en las primeras etapas de la competencia de IA y aún quedan muchos caminos por explorar. El resultado todavía tiene que esperar y ver.
Tecnología Tencent:
Mencionaste a Baidu en tu libro. La empresa china también comenzó a experimentar con este tipo de tecnología de IA en 2012, ya en las primeras etapas de la carrera. ¿Por qué crees que no mostró fuerza hoy? ¿Cuáles cree que son los principales factores que contribuyen a esta situación?
Cade Metz:
**Creo que las ideas están impulsando el campo. **El aprendizaje profundo es famoso en todo el mundo y los investigadores en China han desarrollado técnicas similares. Pero al igual que en los EE. UU., la gente se sorprendió de lo bien que funcionó el paso de entrenamiento de retroalimentación humana que mencioné anteriormente. **Por lo tanto, están un paso por detrás de muchos en los EE. UU. en la aplicación de esta técnica (entrenamiento con retroalimentación humana) a modelos de lenguaje grandes. **
Tecnología Tencent:
Mencionó que muchas otras empresas también están en esta carrera, además de las grandes como OpenAI, Google y Meta, ¿hay alguna empresa pequeña que valga la pena observar?
Cade Metz:
Hay una empresa llamada Anthropic, que fue fundada por un grupo de personas que abandonaron OpenAI. La empresa no es muy conocida, pero van a ser importantes en este espacio. Ayudaron a construir gran parte de la tecnología que formó ChatGPT y construyeron su propio chatbot, que aún no se ha lanzado al público en general. Estimo que sus capacidades serán comparables a ChatGPT.
Hay una empresa en Toronto llamada Coherence que está haciendo algo similar, en Estados Unidos hay una empresa llamada Character.AI fundada por ex-Googlers, hay otra empresa llamada Inflection AI, fundada por uno de los fundadores de DeepMind of. DeepMind es otro laboratorio importante con sede en Londres, esencialmente propiedad de Google.
Tecnología Tencent:
Para las empresas que se desarrollan en el segmento de IA, ¿dónde están sus oportunidades?
Cade Metz:
La forma en que funcionan estos pequeños dominios es que una vez que alguien construye un sistema llamado modelo de lenguaje grande, puede usarlo para construir todo tipo de otras técnicas. Puedes construir un chatbot, puedes construir un motor de búsqueda, puedes construir un tutor personal. ** Entonces, lo que OpenAI está haciendo es construir este sistema central. Lo llaman GPT-4 y luego ofrecen este sistema a cualquier otra empresa que quiera usarlo. Esta es una forma de crear otras aplicaciones.
Eso es lo que estamos empezando a ver. **Creo que verá empresas como OpenAI ofreciendo este tipo de servicio. Todos pueden usarlo para crear sus propias aplicaciones encima. **Así que creo que hay todo tipo de oportunidades en las que las empresas pueden tomar este servicio central y luego construir cosas nuevas sobre él y vender esas aplicaciones. Pero lo más difícil es construir este servicio central, y no muchas empresas pueden hacerlo. En Estados Unidos hay gigantes como Google, Microsoft y Meta, y solo unas pocas startups tienen el capital y el talento necesarios. Como dije antes, se necesitan cientos de millones de dólares para construir este sistema central. **Así que actualmente es difícil para las empresas más pequeñas competir con ellas en términos de construir el modelo base. **
Mucha gente piensa que a medida que los precios bajen y los proyectos de código abierto mejoren, será más fácil para las personas construir sus propios sistemas centrales, y eso eventualmente cambiará. Pero no estoy seguro.
Dos hitos en el desarrollo de la IA: una subasta y el nacimiento de ChatGPT
Tecnología Tencent:
Como autor principal de IA, básicamente se ha centrado en el campo del aprendizaje profundo en su carrera de diez años, ha establecido todos los roles importantes en este campo y ha participado en varios momentos decisivos en el medio. . ¿Qué le impulsó a prestar atención a este campo?
Cade Metz:
Alrededor de 2011 o 2012, me uní a Wired en San Francisco. Esta es una de las áreas en las que decidí enfocarme. En ese momento, hace más de diez años, ya se podía oler que este campo cobraría mucha importancia. Fue entonces cuando ocurrieron un par de momentos cruciales que me interesaron en la tecnología.
Hinton es el protagonista del libro "La revolución del aprendizaje profundo" y he escrito sobre su ascenso y el concepto clave de las redes neuronales que ha impulsado muchos de los avances en los últimos 10 años. Finalmente se unió a Google en 2013.
Más tarde supe que se trataba de una subasta entre algunas de las empresas de tecnología más grandes del mundo, incluidas Google, Microsoft y Baidu de China. Ese fue un momento crucial, y se podía ver que algo comenzaba a suceder. A lo largo de los años, comencé a cubrir el espacio cada vez más y conocí a personas como Hinton y su antiguo colega Yann Lecun, quien eventualmente se unió a Facebook y ahora a Meta, entre otras personas en el campo. Empezamos a hacer mucha cobertura en Wired, y luego se hizo más y más grande. Finalmente, decidí escribir un libro sobre el campo, que continué cubriendo cuando me mudé de Wired a The New York Times.
Tecnología Tencent:
Como reportero que ha seguido la IA durante mucho tiempo, es como pasar por un ciclo. Ha experimentado el período mínimo en el campo del aprendizaje automático, la inteligencia artificial. En su opinión, ¿qué hizo que Hinton y otros persistieran?
Cade Metz:
Hinton comenzó a trabajar en redes neuronales en 1972. En ese momento, casi nadie creía que tendría éxito, porque** todo el campo de la inteligencia artificial abandonó el rumbo de las redes neuronales. Pero ** Hinton es un hombre de su propia mente, que realmente cree en lo que cree, y es firme en esa dirección.
**Para la década de 1980, debido en gran parte a los propios esfuerzos de Hinton, la tecnología logró algunos avances importantes. Muchas personas comenzaron a creer en esta idea nuevamente. Pero a principios de los 90, la gente volvió a darse por vencida, pero él siguió trabajando y siempre ha mantenido su actitud constante. ** Creyeron que la idea seguiría mejorando, y tenían razón. Parte de lo que hace que esta historia sea tan interesante es que siguen trabajando incluso ante tanto escepticismo, incluso de sus colegas más cercanos.
El momento que realmente abrió los ojos a toda la industria fue lo que ahora se conoce como el papel de AlexNet. Este artículo de investigación, escrito por Hinton y dos de sus estudiantes en la Universidad de Toronto, muestra que las redes neuronales pueden lograr un gran éxito en el reconocimiento de imágenes, identificando objetos en fotografías como flores, automóviles, personas, animales, etc.
Cuando se publicó el artículo en 2012, abrió los ojos a Google, Microsoft, Baidu y, finalmente, a Facebook. Podemos ver esta guerra por el talento, esta prisa por aplicar esta idea dentro de algunas de las empresas más grandes del planeta, no solo para el reconocimiento de imágenes, sino también para el reconocimiento de voz, la traducción, etc. Ese documento fue un momento crucial. Es por eso que mi libro comienza con ese artículo, ** ese es el momento en que Hinton subastó su empresa al mejor postor, y eso provocó todo lo demás. **
Desde entonces hasta hoy, hemos seguido mejorando. El despertar de la conciencia de la industria mencionado anteriormente en 2012 fue un momento crítico, y 10 años después, se lanzó ChatGPT, que es otro momento crítico. Ambos momentos son puntos de inflexión muy importantes cuando miramos hacia atrás en la historia de la IA.
Tecnología Tencent:
**En su libro, describe el desarrollo del aprendizaje profundo y los hitos de productos como AlphaGo, Deepfake y la serie GPT han provocado un amplio debate público. Pero hasta la aparición de ChatGPT, todos sentían que la verdadera revolución industrial se avecinaba. ¿Qué hace que la serie GPT sea tan diferente? **
Cade Metz:
Esta es una gran pregunta. Las tecnologías relacionadas con GPT y ChatGPT se han desarrollado durante algún tiempo. Varias compañías han estado desarrollando esta técnica durante los últimos cinco años, con OpenAI eventualmente desarrollando Chat GPT, y compañías como Google, Meta (anteriormente Facebook) y Microsoft también comenzaron a desarrollar los llamados modelos de lenguaje grande hace cinco años.
La idea detrás de la tecnología es construir una red neuronal, un sistema matemático que pueda aprender de los datos. Aliméntalo con tanto texto como pueda, y analiza ese texto, y en el proceso de analizar ese texto, aprende a generar el texto mismo. Al analizar artículos de Wikipedia, publicaciones de blogs, registros de chat y diversos contenidos en Internet, reconoció patrones en la forma en que juntamos palabras y aprendimos a hacerlo. Hemos visto cómo esta tecnología se materializa en los últimos años y se han lanzado varios sistemas interesantes.
OpenAI lanzó GPT-2, GPT-3, todos son muy impresionantes. Podemos ver que estos sistemas comienzan a producir texto como los humanos. Pero fue el lanzamiento de ChatGPT lo que realmente hizo que el público en general se diera cuenta de esto. Otras compañías han lanzado sus propios chatbots incluso hace meses, semanas, como Meta (ex-Facebook) lanzó un chatbot en la comunidad científica, pero no solo no era interesante para las personas, sino que también fue criticado y ridiculizado. Porque crea desinformación y la gente está muy molesta por eso. Meta lo eliminó rápidamente. Pero poco después, OpenAI lanzó ChatGPT en Twitter.
**Se hizo popular en parte por la forma en que se lanzó y en parte por la compañía que lo lanzó. Pero ChatGPT mejora algunos aspectos técnicos clave. Porque al construir estos grandes modelos de lenguaje aprendidos de todo Internet, están aplicándoles comentarios humanos. Pidieron a los humanos que calificaran las respuestas del chatbot. ¿Están pidiendo a los humanos que califiquen una respuesta como buena? Es real ¿Funciona? Le dan un me gusta o un disgusto, y luego retroalimentan esas calificaciones al sistema y dejan que aprenda de esas calificaciones. **
De esta manera, pudieron perfeccionarlo hasta el punto de que casi cada vez que se le preguntaba al chatbot, producía un texto convincente. Puede que no siempre sea cierto y aun así genere desinformación, pero **se comunica a las personas de una manera receptiva que los humanos realmente usan. No solo con expertos en la materia, sino con cualquiera. Esto realmente capturó la imaginación de la gente. **Ha habido un cambio real en la percepción de esta tecnología, no solo entre la gente común, sino también entre muchos investigadores en este campo de la tecnología. La popularidad de ChatGPT ha dado paso a una nueva era de este tipo de tecnología y una nueva carrera hacia una inteligencia artificial cada vez más impresionante.
Tecnología Tencent:
Entonces, ¿piensa que el factor técnico clave para el éxito de ChatGPT es principalmente RLHF (aprendizaje con retroalimentación humana)?
Cade Metz:
Sí, si usa alguna versión anterior, como **GPT-3, a veces puede ser impresionante cuando lo pregunta de cierta manera. Por ejemplo, si le pide que dé un discurso al estilo de Donald Trump, existe la mitad de posibilidades de que produzca un discurso impresionante. Es un poco como tirar los dados, a veces te dará lo que quieres ya veces no. En este caso el sistema no llama la atención de la gente común. **Pero tomaron este sistema básico, pero cada vez que el sistema producía una respuesta, los anotadores la calificaban. Puede tomar calificaciones de humanos, ver cómo califican esas respuestas y usar eso para volver a entrenar el sistema. El anotador le dice a GPT qué tipo de respuesta es buena y qué tipo de respuesta es mala.
Eventualmente, OpenAI obtuvo un chatbot que puede conversar como un humano casi siempre. Pusieron este sistema frente a la gente común, y esta acalorada discusión es la forma en que la gente responde a su aparición. En Twitter, cualquiera puede usarlo y la gente realmente responde.
AGI aún está lejos, pero su llegada reemplazará todo el valor del trabajo humano
Tecnología Tencent:
Hace algún tiempo, Musk dijo en una entrevista que AGI se realizará dentro de los años 5 o 6. ¿Crees que AGI será un objetivo fácil?
Cade Metz:
Es realmente difícil de decir, y hay mucha controversia sobre el tema. **Sabemos que los sistemas de inteligencia artificial de hoy en día no están ni cerca de ese nivel. Pueden producir un lenguaje de manera impresionante, pero no pueden razonar como los humanos, ni tienen el sentido común de los humanos. **
Mucha gente cree que necesitamos nuevas formas de darles esta capacidad, y nuestros métodos actuales no pueden hacer que logren AGI. Necesitan saber más sobre el mundo físico que solo el lenguaje. Hay mucho debate y desacuerdo sobre esto, pero ciertamente no es algo en lo que debamos pensar hoy, ni estamos lo suficientemente cerca de AGI todavía.
Tecnología Tencent:
¿Qué crees que le falta al sistema actual en comparación con la verdadera inteligencia artificial general?
Cade Metz:
Cuando se utilizan estos sistemas, las fallas de la IA actual se pueden encontrar fácilmente. Si tratas de hacerlos razonar como humanos, a veces pueden imitar, pero la mayoría de las veces no pueden.
Esta es la verdadera dificultad. **La mayor diferencia entre ellos y AGI es que generan texto plausible y realmente pueden razonar. **
**Estos sistemas son muy buenos para tratar cosas que sucedieron en el pasado, es decir algo que está documentado en Internet. Pero no hablan del futuro y especulan sobre lo que podría pasar. **Tú y yo podemos tener esta conversación en la que hablamos sobre el futuro y pensamos en lo que podría pasar. Estos sistemas no son buenos para hacer esto. Son buenos imitando lo que han visto antes. Por lo tanto, son muy buenos para aprobar las pruebas estandarizadas. Les va tan bien en exámenes como derecho y ciencias y matemáticas de secundaria que reciben mucha atención en los medios.
**Pero otros estudios han demostrado que si solo les da preguntas completamente nuevas, preguntas que se escribieron después de que fueron entrenados, no se desempeñan tan bien. Entonces, mientras responden todas estas preguntas estandarizadas, no necesariamente están razonando. **Lo que hacen es repetir lo visto antes.
Tecnología Tencent:
Con respecto a la amenaza de la IA, como la opacidad, registró un pasaje interesante de Hinton en el libro "La gente necesita vivir con el problema de la 'caja negra', incluso si no puede ver el funcionamiento interno, harán lo que se supone hacer", pero recientemente Hinton renunció a Google, y también hizo una entrevista con él, en la que expresó muchas preocupaciones sobre la IA. ¿Cómo entiende el cambio de actitud de Hinton hacia la IA?
Cade Metz:
Su forma de pensar definitivamente ha cambiado. Cuando publiqué el libro, pensó que los riesgos de la IA eran bastante remotos. Pero el año pasado, cambió de opinión cuando vio la tecnología ChatGPT que vemos ahora.
Se dio cuenta de que, de alguna manera, los sistemas son más poderosos que los cerebros humanos. **Tú y yo no podemos comprender todo Internet, está más allá del alcance humano. No podemos aprender de tantos datos, pero el sistema sí. **Le preocupa que se estén utilizando para difundir desinformación, en este caso texto que no es real, imagen que no es real, video que no es real.
**Además de eso, también le preocupa que el sistema comience a tomar los trabajos de las personas; también le preocupan algunos de los problemas más grandes, como los sistemas automatizados que se usan en el campo de batalla, se usan como armas; incluso le preocupa que en un período de tiempo más largo, perderemos el control de la IA. **
Tecnología Tencent:
El antiguo colega de Hinton, Yann Lecun, y otros científicos de IA realmente han hablado mucho últimamente sobre la exageración de los medios sobre las capacidades y amenazas de la IA. ¿Crees que tiene razón? ¿De qué manera podrían los medios de comunicación complicar estos asuntos más de lo que realmente son?
Cade Metz:
**Creo que los medios exageran. Cuando se lanzó Chat GPT por primera vez, la gente no veía sus fallas y pasó mucho tiempo antes de que se dieran cuenta de que genera información errónea para engañar a la gente. Muchas personas, incluidos los periodistas, tienen dificultades para entender lo que está pasando. Por lo tanto, siguen engañando a la gente a medida que se propagan. **En este caso, la exageración puede ocurrir fácilmente.
Por supuesto, a veces la exageración deliberada proviene de malentendidos, pero algunas personas exageran a propósito y otras inconscientemente. Pero creo que es principalmente porque la gente no entiende completamente lo que está viendo.
Tecnología Tencent:
¿Cuál cree que es el significado histórico del auge actual de la IA? ¿Es el comienzo de una nueva revolución industrial?
Cade Metz:
Es posible. Creo que continuaremos viendo mejoras en estos sistemas. **Podrán manejar no solo texto, sino también imágenes. Hemos visto la última versión de la tecnología creada por OpenAI tomar una imagen y describir lo que contiene, respondiendo preguntas al respecto. Esto no es público todavía, pero es parte de lo que han construido. Promete que más y más habilidades serán similares a las de los humanos y continuarán cambiando los trabajos de las personas.
Así que creo que lo que hemos visto en los últimos seis meses sugiere que vamos a tener un gran cambio en los próximos años. Esta transformación parece que será tan trascendental como la primera revolución industrial. Todavía estamos en las primeras etapas. Estas cosas a menudo van más lento de lo que la gente piensa. Pero creo que vamos en esa dirección.
Tecnología Tencent:
¿Cómo crees que la IA remodelará esta sociedad? ¿Dónde está el valor de los seres humanos cuando se realiza AGI?
Cade Metz:
Creo que sería una situación difícil para los humanos tener un sistema que pueda hacer cualquier cosa que el cerebro humano pueda hacer, el llamado AGI.
**Si una máquina pudiera hacer todo lo que puede hacer un humano, entonces el valor de un trabajador se reduciría a cero porque sería más barato usar una máquina que contratar a un humano. En mi opinión, esta no es una buena situación para los seres humanos. ** Pero la IA aún no está allí.
Tomemos como ejemplo a los programadores de computadoras. Hoy en día, el sistema puede generar programas de computadora y códigos de computadora muy bien, pero el código aún puede tener defectos. Todavía necesita un programador humano experimentado para hacerse cargo del código que generaron, editarlo e integrarlo. un programa más grande, eventualmente creando una aplicación. A medida que estos sistemas mejoren con el tiempo, reemplazarán cada vez más lo que hacen los humanos. El problema en esta etapa es que la IA pronto comenzará a reemplazar a los programadores junior con menos experiencia, las personas que se encuentran en la parte inferior de la industria de la programación, que hacen lo mismo que la IA, escriben un código básico y se lo entregan a los más experimentados. programadores personas a integrar.
** A medida que la IA continúa mejorando, las máquinas ciertamente cambiarán las cosas cada vez más, pero no estamos en el punto en que la IA reemplace repentinamente una gran cantidad de trabajos. **
Otra preocupación que tengo es que estos sistemas pueden generar texto e imágenes realistas. Incluso están comenzando a generar videos sobre la marcha, no podremos distinguir lo que es real de lo que no está en Internet, y tendremos que cambiar absolutamente nuestra mentalidad cuando naveguemos casi cualquier cosa en Internet. Hay que preguntarle a las masas si tienen el poder de cambiar su forma de pensar en general. **
Ver originales
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
Entrevista con el legendario reportero de IA Cade Metz: No hay foso en la industria, y China pronto alcanzará a OpenAI
Autor | Tencent Technology Hao Boyang
El título de "Tres grandes tres en aprendizaje profundo" ciertamente no es extraño para los lectores en el auge de la IA. Pero entre los talentos de aprendizaje profundo, ¿qué criterios de evaluación se utilizan para destacar a Hinton, Yann Lecun y Yoshua Bengio como gigantes? No hay concursos, debates o clasificaciones.Este título fue determinado por el reportero más famoso en el campo de la IA, Cade Metz, ya hace 18 años.
Como escritor senior de la revista "Wired", escritor principal de la columna de inteligencia artificial "New York Times" y autor de "Deep Learning Revolution", Cade Metz básicamente entrevistó a todos los expertos conocidos en el campo de la IA durante más de diez años. de experiencia laboral, Sam Altman consultó con él antes de lanzar ChatGPT y Hinton habló con él después de dejar Google. A través del contacto con estas figuras centrales, también profundizó en los gigantes de IA como Microsoft, Google y Meta para desenterrar los momentos centrales y las escenas dramáticas detrás de varias decisiones comerciales centrales.El libro "Deep Learning Revolution", escrito hace algún tiempo, también fue revelado por primera vez La subasta secreta que cambió el curso de la inteligencia artificial hace diez años.
El libro informa en detalle la subasta que tuvo lugar en 2012 y tuvo un profundo impacto en toda la industria de la inteligencia artificial.
En diciembre de 2012, Hinton, que no podía quedarse quieto debido a una hernia de disco, se quedó con dos de sus alumnos durante una semana en un hotel casino al pie de las montañas de esquí del lago Tahoe. Él y su compañía recién establecida sin ningún producto están aceptando rondas de licitación de las compañías más famosas del mundo, incluidas Microsoft, Google, Deepmind y Baidu.
La escena más dramática apareció cuando Hinton estaba lidiando con la visita repentina de Yu Kai, el entonces vicedecano del instituto de investigación enviado por Baidu, para "que no piense que yo era viejo", le pidió a sus alumnos que empacar cada vez para dejarlo El dolor lumbar alivió el dosel que se construyó temporalmente con cojines de sofá, lo que los puso bastante nerviosos. Durante cierta visita, Hinton se enfrentó a la mochila izquierda de Yu Kai y luchó con los estudiantes durante mucho tiempo para buscar información sobre el precio de reserva de Baidu. Pero al final, la dignidad los hizo desistir. Finalmente, una semana después, Hinton aceptó la oferta de Google, vendió la empresa, que aún estaba completamente vacía, al gigante por 44 millones de dólares y abrió el telón de la guerra de la IA gigante.
A lo largo de su carrera, este tipo de escenas llenas de detalles y conflictos dramáticos se pueden ver por todas partes. Por lo tanto, no es una exageración llamarlo el observador más profundo en el campo de la IA.
En esta entrevista, Metz demostró una vez más su amplio conocimiento en el campo de la IA, desde la historia y los momentos centrales del aprendizaje profundo hasta el futuro de la IA y su impacto en la sociedad humana. También hizo su evaluación al estilo observador de la situación de la inteligencia artificial de China en particular.
Él cree que la razón por la que Sam Altman puede hacer que OpenAI se destaque es principalmente porque su fuerte capacidad de negociación ha contribuido a la cooperación entre OpenAI y Microsoft. También cree que la brecha entre China y Estados Unidos en IA no es tan grande como piensa el público, porque la tecnología existente en sí misma no tiene foso. Con respecto al futuro de la IA, tiene preocupaciones similares a las de Hinton, y le preocupará que el surgimiento de AGI provoque grandes cambios en la sociedad. Los espectadores son claros, las siguientes son ideas de observadores de IA.
La brecha entre China y Estados Unidos no es tan grande, la IA no tiene foso
Tecnología Tencent:
Ahora que la historia de OpenAI se ha convertido en el centro de atención, ha escrito mucho sobre su fundación y viaje en su libro. ¿Puedes hablar de Sam Altman? ¿Qué cualidades le permitieron llevar a OpenAI a donde está hoy?
Cade Metz:
**Sam es muy ambicioso y se le da bien convencer a la gente de que haga lo que él quiere que haga. Francamente, es bueno formando equipos y poniéndolos en un camino determinado. ** No se trata solo del nivel de habilidad de desarrollo. Necesitan mucho dinero para hacer esto. El entrenamiento de este tipo de sistemas cuesta decenas de millones, si no cientos de millones de dólares. He dicho que analizar todo el texto en Internet y aprender, y dejar que estos sistemas aprendan por sí mismos, lleva meses y requiere sistemas informáticos masivos que en realidad son propiedad y están controlados por grandes empresas de tecnología.
Sam recaudó más de mil millones de dólares aproximadamente en 2019. Así que una buena parte de su conjunto de habilidades es negociar el trato. **Fue un gran negocio, Sam obtuvo los fondos que necesitaba y la potencia informática que necesitaba. Posteriormente recaudaron otros $11 mil millones más de **Microsoft, por un total de casi $13 mil millones. Esa es una gran razón por la que es tan fundamental.
Tecnología Tencent:
Mencionaste a Microsoft, pero estaba completamente por detrás de sus competidores en la última ola de IA. Entonces, ¿por qué Microsoft puede aprovechar esta oportunidad en esta ola de IA y actuar tan rápido?
Cade Metz:
Este es un movimiento interesante para Microsoft. Alguna vez estuvieron detrás de la competencia, pero se dieron cuenta de la importancia de la tecnología que estaban construyendo. También han encontrado muchas dificultades antes.Su oponente Google y otras compañías tienen un escenario donde se puede usar esta tecnología: Google primero implementó redes neuronales a gran escala en teléfonos Android y su asistente digital Google Home para el reconocimiento de voz. Entonces, cuando usa estos parlantes inteligentes en su hogar, pueden responder sus preguntas. Google puede comenzar a implementar esta tecnología tan rápido porque tiene los escenarios y el hardware para implementarla. Microsoft no tiene este escenario.
Pero cuando Microsoft finalmente intentó implementarlo, se encontraron con otros problemas. Lanzaron un chatbot llamado Tay en los EE. UU. hace unos años, y casi tan pronto como salió a la venta, comenzó a generar algunos mensajes ofensivos, incluidos mensajes racistas. Microsoft solo puede eliminarlo pronto.
**Este es un lado de la historia a medida que la tecnología de inteligencia artificial evoluciona en los EE. UU., ya que estos sistemas a veces generan texto innecesario que está sesgado contra ciertas personas y genera discurso de odio. Por tanto, a las grandes empresas les cuesta decidirse a lanzar este producto, y no quieren correr ese riesgo. Pero Microsoft se ha asociado con OpenAI, que está lanzando el sistema, para que la gente no reaccione tan fuertemente a sus fallas como lo hizo con Microsoft. ** La gente aceptará que estos errores provienen de una empresa pequeña y desconocida, pero no de una empresa conocida como Microsoft.
Tecnología Tencent:
Según su observación, ¿qué tan grande es la brecha entre China y Estados Unidos en el campo de la inteligencia artificial? ¿Qué ventajas cree que tiene China en inteligencia artificial?
Cade Metz:
China ha estado trabajando en esto durante algún tiempo. Hay muchas personas y empresas que entienden la tecnología involucrada aquí, pero puede haber dificultades. Los chips de computadora necesarios para entrenar estos sistemas son fabricados al más alto nivel por empresas estadounidenses. Ahora que hay una prohibición comercial, estos chips no se pueden vender a China. Esto puede ser una desventaja.
Veremos cómo se desarrolla cuando se trata de construir esta tecnología. **Sam Altman dijo recientemente que siente que China está dos años atrás. Esta es una estimación. Creo que la industria en su conjunto puede ponerse al día con lo que él y su empresa están haciendo con bastante rapidez. Ya estamos empezando a ver eso, y creo que también puede suceder en China. **
Tecnología Tencent:
¿Esta brecha es cada vez más grande o más pequeña?
Cade Metz:
Debido a la prohibición comercial, es difícil saberlo. Esta es una dificultad que enfrenta China. Hasta donde yo sé, China está trabajando arduamente para construir, diseñar y suministrar los chips y equipos necesarios para los centros de datos.
**Ya sea en China o en los Estados Unidos, tendremos que lidiar con los muchos roles potenciales que desempeñan las fricciones comerciales, como la competencia. Ahora se acepta generalmente que la tecnología de OpenAI está actualmente por delante de la mayoría de sus competidores. Pero hay muchas otras empresas en el mundo que tienen suficiente conocimiento, dinero y acceso a los recursos necesarios para competir de verdad. **
Por lo tanto, todavía estamos en las primeras etapas de la competencia de IA y aún quedan muchos caminos por explorar. El resultado todavía tiene que esperar y ver.
Tecnología Tencent:
Mencionaste a Baidu en tu libro. La empresa china también comenzó a experimentar con este tipo de tecnología de IA en 2012, ya en las primeras etapas de la carrera. ¿Por qué crees que no mostró fuerza hoy? ¿Cuáles cree que son los principales factores que contribuyen a esta situación?
Cade Metz:
**Creo que las ideas están impulsando el campo. **El aprendizaje profundo es famoso en todo el mundo y los investigadores en China han desarrollado técnicas similares. Pero al igual que en los EE. UU., la gente se sorprendió de lo bien que funcionó el paso de entrenamiento de retroalimentación humana que mencioné anteriormente. **Por lo tanto, están un paso por detrás de muchos en los EE. UU. en la aplicación de esta técnica (entrenamiento con retroalimentación humana) a modelos de lenguaje grandes. **
Tecnología Tencent:
Mencionó que muchas otras empresas también están en esta carrera, además de las grandes como OpenAI, Google y Meta, ¿hay alguna empresa pequeña que valga la pena observar?
Cade Metz:
Hay una empresa llamada Anthropic, que fue fundada por un grupo de personas que abandonaron OpenAI. La empresa no es muy conocida, pero van a ser importantes en este espacio. Ayudaron a construir gran parte de la tecnología que formó ChatGPT y construyeron su propio chatbot, que aún no se ha lanzado al público en general. Estimo que sus capacidades serán comparables a ChatGPT.
Hay una empresa en Toronto llamada Coherence que está haciendo algo similar, en Estados Unidos hay una empresa llamada Character.AI fundada por ex-Googlers, hay otra empresa llamada Inflection AI, fundada por uno de los fundadores de DeepMind of. DeepMind es otro laboratorio importante con sede en Londres, esencialmente propiedad de Google.
Tecnología Tencent:
Para las empresas que se desarrollan en el segmento de IA, ¿dónde están sus oportunidades?
Cade Metz:
La forma en que funcionan estos pequeños dominios es que una vez que alguien construye un sistema llamado modelo de lenguaje grande, puede usarlo para construir todo tipo de otras técnicas. Puedes construir un chatbot, puedes construir un motor de búsqueda, puedes construir un tutor personal. ** Entonces, lo que OpenAI está haciendo es construir este sistema central. Lo llaman GPT-4 y luego ofrecen este sistema a cualquier otra empresa que quiera usarlo. Esta es una forma de crear otras aplicaciones.
Eso es lo que estamos empezando a ver. **Creo que verá empresas como OpenAI ofreciendo este tipo de servicio. Todos pueden usarlo para crear sus propias aplicaciones encima. **Así que creo que hay todo tipo de oportunidades en las que las empresas pueden tomar este servicio central y luego construir cosas nuevas sobre él y vender esas aplicaciones. Pero lo más difícil es construir este servicio central, y no muchas empresas pueden hacerlo. En Estados Unidos hay gigantes como Google, Microsoft y Meta, y solo unas pocas startups tienen el capital y el talento necesarios. Como dije antes, se necesitan cientos de millones de dólares para construir este sistema central. **Así que actualmente es difícil para las empresas más pequeñas competir con ellas en términos de construir el modelo base. **
Mucha gente piensa que a medida que los precios bajen y los proyectos de código abierto mejoren, será más fácil para las personas construir sus propios sistemas centrales, y eso eventualmente cambiará. Pero no estoy seguro.
Dos hitos en el desarrollo de la IA: una subasta y el nacimiento de ChatGPT
Tecnología Tencent:
Como autor principal de IA, básicamente se ha centrado en el campo del aprendizaje profundo en su carrera de diez años, ha establecido todos los roles importantes en este campo y ha participado en varios momentos decisivos en el medio. . ¿Qué le impulsó a prestar atención a este campo?
Cade Metz:
Alrededor de 2011 o 2012, me uní a Wired en San Francisco. Esta es una de las áreas en las que decidí enfocarme. En ese momento, hace más de diez años, ya se podía oler que este campo cobraría mucha importancia. Fue entonces cuando ocurrieron un par de momentos cruciales que me interesaron en la tecnología.
Hinton es el protagonista del libro "La revolución del aprendizaje profundo" y he escrito sobre su ascenso y el concepto clave de las redes neuronales que ha impulsado muchos de los avances en los últimos 10 años. Finalmente se unió a Google en 2013.
Más tarde supe que se trataba de una subasta entre algunas de las empresas de tecnología más grandes del mundo, incluidas Google, Microsoft y Baidu de China. Ese fue un momento crucial, y se podía ver que algo comenzaba a suceder. A lo largo de los años, comencé a cubrir el espacio cada vez más y conocí a personas como Hinton y su antiguo colega Yann Lecun, quien eventualmente se unió a Facebook y ahora a Meta, entre otras personas en el campo. Empezamos a hacer mucha cobertura en Wired, y luego se hizo más y más grande. Finalmente, decidí escribir un libro sobre el campo, que continué cubriendo cuando me mudé de Wired a The New York Times.
Tecnología Tencent:
Como reportero que ha seguido la IA durante mucho tiempo, es como pasar por un ciclo. Ha experimentado el período mínimo en el campo del aprendizaje automático, la inteligencia artificial. En su opinión, ¿qué hizo que Hinton y otros persistieran?
Cade Metz:
Hinton comenzó a trabajar en redes neuronales en 1972. En ese momento, casi nadie creía que tendría éxito, porque** todo el campo de la inteligencia artificial abandonó el rumbo de las redes neuronales. Pero ** Hinton es un hombre de su propia mente, que realmente cree en lo que cree, y es firme en esa dirección.
**Para la década de 1980, debido en gran parte a los propios esfuerzos de Hinton, la tecnología logró algunos avances importantes. Muchas personas comenzaron a creer en esta idea nuevamente. Pero a principios de los 90, la gente volvió a darse por vencida, pero él siguió trabajando y siempre ha mantenido su actitud constante. ** Creyeron que la idea seguiría mejorando, y tenían razón. Parte de lo que hace que esta historia sea tan interesante es que siguen trabajando incluso ante tanto escepticismo, incluso de sus colegas más cercanos.
El momento que realmente abrió los ojos a toda la industria fue lo que ahora se conoce como el papel de AlexNet. Este artículo de investigación, escrito por Hinton y dos de sus estudiantes en la Universidad de Toronto, muestra que las redes neuronales pueden lograr un gran éxito en el reconocimiento de imágenes, identificando objetos en fotografías como flores, automóviles, personas, animales, etc.
Cuando se publicó el artículo en 2012, abrió los ojos a Google, Microsoft, Baidu y, finalmente, a Facebook. Podemos ver esta guerra por el talento, esta prisa por aplicar esta idea dentro de algunas de las empresas más grandes del planeta, no solo para el reconocimiento de imágenes, sino también para el reconocimiento de voz, la traducción, etc. Ese documento fue un momento crucial. Es por eso que mi libro comienza con ese artículo, ** ese es el momento en que Hinton subastó su empresa al mejor postor, y eso provocó todo lo demás. **
Desde entonces hasta hoy, hemos seguido mejorando. El despertar de la conciencia de la industria mencionado anteriormente en 2012 fue un momento crítico, y 10 años después, se lanzó ChatGPT, que es otro momento crítico. Ambos momentos son puntos de inflexión muy importantes cuando miramos hacia atrás en la historia de la IA.
Tecnología Tencent:
**En su libro, describe el desarrollo del aprendizaje profundo y los hitos de productos como AlphaGo, Deepfake y la serie GPT han provocado un amplio debate público. Pero hasta la aparición de ChatGPT, todos sentían que la verdadera revolución industrial se avecinaba. ¿Qué hace que la serie GPT sea tan diferente? **
Cade Metz:
Esta es una gran pregunta. Las tecnologías relacionadas con GPT y ChatGPT se han desarrollado durante algún tiempo. Varias compañías han estado desarrollando esta técnica durante los últimos cinco años, con OpenAI eventualmente desarrollando Chat GPT, y compañías como Google, Meta (anteriormente Facebook) y Microsoft también comenzaron a desarrollar los llamados modelos de lenguaje grande hace cinco años.
La idea detrás de la tecnología es construir una red neuronal, un sistema matemático que pueda aprender de los datos. Aliméntalo con tanto texto como pueda, y analiza ese texto, y en el proceso de analizar ese texto, aprende a generar el texto mismo. Al analizar artículos de Wikipedia, publicaciones de blogs, registros de chat y diversos contenidos en Internet, reconoció patrones en la forma en que juntamos palabras y aprendimos a hacerlo. Hemos visto cómo esta tecnología se materializa en los últimos años y se han lanzado varios sistemas interesantes.
OpenAI lanzó GPT-2, GPT-3, todos son muy impresionantes. Podemos ver que estos sistemas comienzan a producir texto como los humanos. Pero fue el lanzamiento de ChatGPT lo que realmente hizo que el público en general se diera cuenta de esto. Otras compañías han lanzado sus propios chatbots incluso hace meses, semanas, como Meta (ex-Facebook) lanzó un chatbot en la comunidad científica, pero no solo no era interesante para las personas, sino que también fue criticado y ridiculizado. Porque crea desinformación y la gente está muy molesta por eso. Meta lo eliminó rápidamente. Pero poco después, OpenAI lanzó ChatGPT en Twitter.
**Se hizo popular en parte por la forma en que se lanzó y en parte por la compañía que lo lanzó. Pero ChatGPT mejora algunos aspectos técnicos clave. Porque al construir estos grandes modelos de lenguaje aprendidos de todo Internet, están aplicándoles comentarios humanos. Pidieron a los humanos que calificaran las respuestas del chatbot. ¿Están pidiendo a los humanos que califiquen una respuesta como buena? Es real ¿Funciona? Le dan un me gusta o un disgusto, y luego retroalimentan esas calificaciones al sistema y dejan que aprenda de esas calificaciones. **
De esta manera, pudieron perfeccionarlo hasta el punto de que casi cada vez que se le preguntaba al chatbot, producía un texto convincente. Puede que no siempre sea cierto y aun así genere desinformación, pero **se comunica a las personas de una manera receptiva que los humanos realmente usan. No solo con expertos en la materia, sino con cualquiera. Esto realmente capturó la imaginación de la gente. **Ha habido un cambio real en la percepción de esta tecnología, no solo entre la gente común, sino también entre muchos investigadores en este campo de la tecnología. La popularidad de ChatGPT ha dado paso a una nueva era de este tipo de tecnología y una nueva carrera hacia una inteligencia artificial cada vez más impresionante.
Tecnología Tencent:
Entonces, ¿piensa que el factor técnico clave para el éxito de ChatGPT es principalmente RLHF (aprendizaje con retroalimentación humana)?
Cade Metz:
Sí, si usa alguna versión anterior, como **GPT-3, a veces puede ser impresionante cuando lo pregunta de cierta manera. Por ejemplo, si le pide que dé un discurso al estilo de Donald Trump, existe la mitad de posibilidades de que produzca un discurso impresionante. Es un poco como tirar los dados, a veces te dará lo que quieres ya veces no. En este caso el sistema no llama la atención de la gente común. **Pero tomaron este sistema básico, pero cada vez que el sistema producía una respuesta, los anotadores la calificaban. Puede tomar calificaciones de humanos, ver cómo califican esas respuestas y usar eso para volver a entrenar el sistema. El anotador le dice a GPT qué tipo de respuesta es buena y qué tipo de respuesta es mala.
Eventualmente, OpenAI obtuvo un chatbot que puede conversar como un humano casi siempre. Pusieron este sistema frente a la gente común, y esta acalorada discusión es la forma en que la gente responde a su aparición. En Twitter, cualquiera puede usarlo y la gente realmente responde.
AGI aún está lejos, pero su llegada reemplazará todo el valor del trabajo humano
Tecnología Tencent:
Hace algún tiempo, Musk dijo en una entrevista que AGI se realizará dentro de los años 5 o 6. ¿Crees que AGI será un objetivo fácil?
Cade Metz:
Es realmente difícil de decir, y hay mucha controversia sobre el tema. **Sabemos que los sistemas de inteligencia artificial de hoy en día no están ni cerca de ese nivel. Pueden producir un lenguaje de manera impresionante, pero no pueden razonar como los humanos, ni tienen el sentido común de los humanos. **
Mucha gente cree que necesitamos nuevas formas de darles esta capacidad, y nuestros métodos actuales no pueden hacer que logren AGI. Necesitan saber más sobre el mundo físico que solo el lenguaje. Hay mucho debate y desacuerdo sobre esto, pero ciertamente no es algo en lo que debamos pensar hoy, ni estamos lo suficientemente cerca de AGI todavía.
Tecnología Tencent:
¿Qué crees que le falta al sistema actual en comparación con la verdadera inteligencia artificial general?
Cade Metz:
Cuando se utilizan estos sistemas, las fallas de la IA actual se pueden encontrar fácilmente. Si tratas de hacerlos razonar como humanos, a veces pueden imitar, pero la mayoría de las veces no pueden.
Esta es la verdadera dificultad. **La mayor diferencia entre ellos y AGI es que generan texto plausible y realmente pueden razonar. **
**Estos sistemas son muy buenos para tratar cosas que sucedieron en el pasado, es decir algo que está documentado en Internet. Pero no hablan del futuro y especulan sobre lo que podría pasar. **Tú y yo podemos tener esta conversación en la que hablamos sobre el futuro y pensamos en lo que podría pasar. Estos sistemas no son buenos para hacer esto. Son buenos imitando lo que han visto antes. Por lo tanto, son muy buenos para aprobar las pruebas estandarizadas. Les va tan bien en exámenes como derecho y ciencias y matemáticas de secundaria que reciben mucha atención en los medios.
**Pero otros estudios han demostrado que si solo les da preguntas completamente nuevas, preguntas que se escribieron después de que fueron entrenados, no se desempeñan tan bien. Entonces, mientras responden todas estas preguntas estandarizadas, no necesariamente están razonando. **Lo que hacen es repetir lo visto antes.
Tecnología Tencent:
Con respecto a la amenaza de la IA, como la opacidad, registró un pasaje interesante de Hinton en el libro "La gente necesita vivir con el problema de la 'caja negra', incluso si no puede ver el funcionamiento interno, harán lo que se supone hacer", pero recientemente Hinton renunció a Google, y también hizo una entrevista con él, en la que expresó muchas preocupaciones sobre la IA. ¿Cómo entiende el cambio de actitud de Hinton hacia la IA?
Cade Metz:
Su forma de pensar definitivamente ha cambiado. Cuando publiqué el libro, pensó que los riesgos de la IA eran bastante remotos. Pero el año pasado, cambió de opinión cuando vio la tecnología ChatGPT que vemos ahora.
Se dio cuenta de que, de alguna manera, los sistemas son más poderosos que los cerebros humanos. **Tú y yo no podemos comprender todo Internet, está más allá del alcance humano. No podemos aprender de tantos datos, pero el sistema sí. **Le preocupa que se estén utilizando para difundir desinformación, en este caso texto que no es real, imagen que no es real, video que no es real.
**Además de eso, también le preocupa que el sistema comience a tomar los trabajos de las personas; también le preocupan algunos de los problemas más grandes, como los sistemas automatizados que se usan en el campo de batalla, se usan como armas; incluso le preocupa que en un período de tiempo más largo, perderemos el control de la IA. **
Tecnología Tencent:
El antiguo colega de Hinton, Yann Lecun, y otros científicos de IA realmente han hablado mucho últimamente sobre la exageración de los medios sobre las capacidades y amenazas de la IA. ¿Crees que tiene razón? ¿De qué manera podrían los medios de comunicación complicar estos asuntos más de lo que realmente son?
Cade Metz:
**Creo que los medios exageran. Cuando se lanzó Chat GPT por primera vez, la gente no veía sus fallas y pasó mucho tiempo antes de que se dieran cuenta de que genera información errónea para engañar a la gente. Muchas personas, incluidos los periodistas, tienen dificultades para entender lo que está pasando. Por lo tanto, siguen engañando a la gente a medida que se propagan. **En este caso, la exageración puede ocurrir fácilmente.
Por supuesto, a veces la exageración deliberada proviene de malentendidos, pero algunas personas exageran a propósito y otras inconscientemente. Pero creo que es principalmente porque la gente no entiende completamente lo que está viendo.
Tecnología Tencent:
¿Cuál cree que es el significado histórico del auge actual de la IA? ¿Es el comienzo de una nueva revolución industrial?
Cade Metz:
Es posible. Creo que continuaremos viendo mejoras en estos sistemas. **Podrán manejar no solo texto, sino también imágenes. Hemos visto la última versión de la tecnología creada por OpenAI tomar una imagen y describir lo que contiene, respondiendo preguntas al respecto. Esto no es público todavía, pero es parte de lo que han construido. Promete que más y más habilidades serán similares a las de los humanos y continuarán cambiando los trabajos de las personas.
Así que creo que lo que hemos visto en los últimos seis meses sugiere que vamos a tener un gran cambio en los próximos años. Esta transformación parece que será tan trascendental como la primera revolución industrial. Todavía estamos en las primeras etapas. Estas cosas a menudo van más lento de lo que la gente piensa. Pero creo que vamos en esa dirección.
Tecnología Tencent:
¿Cómo crees que la IA remodelará esta sociedad? ¿Dónde está el valor de los seres humanos cuando se realiza AGI?
Cade Metz:
Creo que sería una situación difícil para los humanos tener un sistema que pueda hacer cualquier cosa que el cerebro humano pueda hacer, el llamado AGI.
**Si una máquina pudiera hacer todo lo que puede hacer un humano, entonces el valor de un trabajador se reduciría a cero porque sería más barato usar una máquina que contratar a un humano. En mi opinión, esta no es una buena situación para los seres humanos. ** Pero la IA aún no está allí.
Tomemos como ejemplo a los programadores de computadoras. Hoy en día, el sistema puede generar programas de computadora y códigos de computadora muy bien, pero el código aún puede tener defectos. Todavía necesita un programador humano experimentado para hacerse cargo del código que generaron, editarlo e integrarlo. un programa más grande, eventualmente creando una aplicación. A medida que estos sistemas mejoren con el tiempo, reemplazarán cada vez más lo que hacen los humanos. El problema en esta etapa es que la IA pronto comenzará a reemplazar a los programadores junior con menos experiencia, las personas que se encuentran en la parte inferior de la industria de la programación, que hacen lo mismo que la IA, escriben un código básico y se lo entregan a los más experimentados. programadores personas a integrar.
** A medida que la IA continúa mejorando, las máquinas ciertamente cambiarán las cosas cada vez más, pero no estamos en el punto en que la IA reemplace repentinamente una gran cantidad de trabajos. **
Otra preocupación que tengo es que estos sistemas pueden generar texto e imágenes realistas. Incluso están comenzando a generar videos sobre la marcha, no podremos distinguir lo que es real de lo que no está en Internet, y tendremos que cambiar absolutamente nuestra mentalidad cuando naveguemos casi cualquier cosa en Internet. Hay que preguntarle a las masas si tienen el poder de cambiar su forma de pensar en general. **