Название «Три больших тройки в глубоком обучении», безусловно, знакомо читателям в период подъема ИИ. Но какие критерии оценки используются для выделения Хинтона, Яна Лекуна и Йошуа Бенжио среди талантов в области глубокого обучения? Никаких конкурсов, дебатов и рейтингов, это звание определил самый известный репортер в области ИИ Кейд Мец еще 18 лет назад.
Как старший автор журнала Wired, главный автор колонки искусственного интеллекта в New York Times и автор книги «Революция глубокого обучения», Кейд Мец в основном брал интервью у всех известных экспертов в области ИИ за более чем десять лет. опыт работы, Сэм Альтман консультировался с ним перед запуском ChatGPT, а Хинтон общался с ним после ухода из Google. Благодаря контакту с этими ключевыми фигурами, он также углубился в гигантов ИИ, таких как Microsoft, Google и Meta, чтобы выяснить основные моменты и драматические сцены, лежащие в основе различных основных бизнес-решений.Книга «Революция глубокого обучения», написанная некоторое время назад, также была раскрыт впервые Секретный аукцион, изменивший курс искусственного интеллекта десять лет назад.
В книге подробно рассказывается об аукционе, который состоялся в 2012 году и оказал глубокое влияние на всю индустрию искусственного интеллекта.
В декабре 2012 года Хинтон, который не мог сидеть на месте из-за грыжи межпозвоночного диска, провел неделю с двумя своими учениками в отеле-казино у подножия горнолыжных гор на озере Тахо. Он и его недавно созданная компания без каких-либо продуктов принимают заявки от самых известных мировых компаний, включая Microsoft, Google, Deepmind и Baidu.
Самая драматическая сцена возникла, когда Хинтон имел дело с внезапным визитом Ю Кая, тогдашнего заместителя декана научно-исследовательского института, посланного Байду, который, чтобы «не дать ему думать, что я старый», попросил своих студентов каждый раз собираться, чтобы позволить ему Боль в пояснице облегчал балдахин, временно построенный из диванных подушек, отчего они сильно нервничали. Во время одного визита Хинтон столкнулся с левым рюкзаком Ю Кая и долго боролся со студентами, искать ли информацию о резервной цене Baidu. Но в конце концов достоинство заставило их сдаться. Наконец, через неделю Хинтон принял предложение Google, продал все еще совершенно пустую компанию гиганту за 44 миллиона долларов и приоткрыл завесу гигантской войны ИИ.
На протяжении всей его карьеры подобные сцены, полные деталей и драматических конфликтов, можно увидеть повсюду. Поэтому его не будет преувеличением назвать самым глубоким наблюдателем в области ИИ.
В этом интервью Мец еще раз продемонстрировал свои обширные знания в области ИИ, от истории и основных моментов глубокого обучения до будущего ИИ и его влияния на человеческое общество. Он также сделал свою оценку в стиле наблюдателя, в частности, ситуации с искусственным интеллектом в Китае.
Он считает, что причина, по которой Сэм Альтман может выделить OpenAI, заключается в том, что его сильные переговорные способности способствовали сотрудничеству между OpenAI и Microsoft. Он также считает, что разрыв между Китаем и США в области ИИ не так велик, как думает общественность, потому что сама по себе существующая технология не имеет рва. Что касается будущего ИИ, у него те же опасения, что и у Хинтона, и он будет беспокоиться о том, что появление ИИ вызовет огромные изменения в обществе. Свидетели ясны, ниже приведены выводы наблюдателей ИИ.
Сосредоточиться на:
1 Два важных момента в развитии ИИ, один из которых — выпуск статьи AlexNet, позволяющей академическому сообществу понять, что нейронные сети могут добиться больших успехов в распознавании изображений. Другой — выпуск ChatGPT, открывший глаза публике.
2 Вполне вероятно, что китайские компании вскоре догонят OpenAI в плане языковых моделей, поскольку общий разрыв в знаниях, финансировании и ресурсах между ними не так уж велик.
3 Ажиотаж в СМИ вокруг ИИ действительно существует, потому что люди мало знают об ограничениях системы. GPT слаб в рассуждениях и прогнозах, намного ниже уровня AGI. Но риски ИИ на данном этапе действительно реальны.
4 Если придет ОГИ, условия жизни людей станут хуже. Потому что тогда их ценность как рабочих упадет до нуля, и будет дешевле, чтобы все это делали машины, чем нанимать людей. Но нынешний ИИ еще далек от этой цели.
Разрыв между Китаем и США не так уж и велик, у ИИ нет рва
Технология Тенсент:
Теперь, когда история OpenAI оказалась в центре внимания, вы много написали о ее основании и пути в своей книге. Можешь рассказать о Сэме Альтмане? Какие качества позволили ему привести OpenAI туда, где он находится сегодня?
Кейд Мец:
**Сэм очень амбициозен, и ему хорошо удается убеждать людей делать то, что он от них хочет. Честно говоря, он умеет создавать команды и направлять их по определенному пути. **Дело не только в уровне развития навыков. Им нужно много денег, чтобы сделать это. Обучение таких систем стоит десятки миллионов, если не сотни миллионов долларов. Я уже говорил, что анализ всего текста в Интернете и обучение, а также предоставление этим системам возможности учиться самостоятельно, занимают месяцы и требуют массивных вычислительных систем, которые на самом деле принадлежат крупным технологическим компаниям и контролируются ими.
Примерно в 2019 году Сэм привлек более 1 миллиарда долларов. Таким образом, значительная часть его навыков заключается в ведении переговоров о сделке. **Это была огромная сделка, Сэм получил необходимые ему средства и вычислительную мощность, в которой он нуждался. Позже они привлекли еще 11 с лишним миллиардов долларов от **Microsoft, в общей сложности почти 13 миллиардов долларов. Это большая причина, почему он так важен.
Технология Тенсент:
Вы упомянули Microsoft, но она полностью отставала от своих конкурентов в последней волне ИИ. Тогда почему Microsoft может воспользоваться этой возможностью на этой волне искусственного интеллекта и действовать так быстро?
Кейд Мец:
Это интересный шаг для Microsoft. Когда-то они отставали от конкурентов, но осознавали важность технологии, которую создавали. Они и раньше сталкивались со многими трудностями.У его оппонента Google и других компаний есть сценарий, в котором эта технология может быть использована: Google впервые развернула нейронные сети в больших масштабах на телефонах Android и своем цифровом помощнике Google Home для распознавания речи. Поэтому, когда вы используете эти умные колонки у себя дома, они могут ответить на ваши вопросы. Google может начать развертывание этой технологии так быстро, потому что у них есть сценарии и оборудование для ее развертывания. Microsoft не имеет этого сценария.
Но когда Microsoft, наконец, попыталась развернуть его, они столкнулись с другими проблемами. Несколько лет назад они запустили в США чат-бота под названием Tay, и почти сразу после того, как он попал на прилавки, он начал генерировать оскорбительные сообщения, в том числе расистские. Microsoft может снять его только в ближайшее время.
**Это одна сторона истории, поскольку технологии искусственного интеллекта развиваются в США, поскольку эти системы иногда генерируют ненужный текст, предвзятый против определенных людей и провоцирующий разжигание ненависти. Поэтому крупным компаниям сложно решиться на запуск этого продукта, и они не хотят рисковать. Но Microsoft сотрудничает с OpenAI, которая запускает систему, чтобы люди не так сильно реагировали на ее недостатки, как на Microsoft. ** Люди согласятся с тем, что эти ошибки исходят от небольшой и неизвестной компании, но не от такой известной компании, как Microsoft.
Технология Тенсент:
По вашему наблюдению, насколько велик разрыв между Китаем и США в области искусственного интеллекта? Как вы думаете, какие преимущества у Китая в области искусственного интеллекта?
Кейд Мец:
Китай уже некоторое время работает над этим. Есть много людей и компаний, которые разбираются в задействованных здесь технологиях, но могут возникнуть трудности. Компьютерные чипы, необходимые для обучения этих систем, производятся американскими компаниями на самом высоком уровне. Сейчас действует запрет на торговлю, эти чипы нельзя продавать в Китай. Это может быть недостатком.
Посмотрим, что получится, когда дело дойдет до создания этой технологии. ** Сэм Альтман недавно сказал, что, по его мнению, Китай отстает на два года. Это оценка. Я думаю, что индустрия в целом может довольно быстро догнать то, что он и его компания делают. Мы уже начинаем это видеть, и я думаю, что это может произойти и в Китае. **
Технология Тенсент:
Этот разрыв увеличивается или уменьшается?
Кейд Мец:
Из-за запрета на торговлю трудно сказать. Это трудность, с которой сталкивается Китай. Насколько я знаю, Китай усердно работает над созданием, проектированием и поставкой чипов и оборудования, необходимых для центров обработки данных.
** Будь то в Китае или в Соединенных Штатах, нам придется иметь дело со многими потенциальными ролями, которые играют торговые трения, такие как конкуренция. В настоящее время общепризнано, что технология OpenAI в настоящее время опережает большинство своих конкурентов. Но в мире есть множество других компаний, у которых достаточно знаний, денег и доступа к ресурсам, необходимым для реальной конкуренции. **
Таким образом, мы все еще находимся на ранних стадиях конкуренции с ИИ, и нам еще предстоит изучить много путей. Результата еще нужно дождаться.
Технология Тенсент:
Вы упомянули Baidu в своей книге. Китайская компания также начала экспериментировать с такого рода технологиями искусственного интеллекта в 2012 году, уже на ранних этапах гонки. Как вы думаете, почему сегодня он не проявил силы? Что, по вашему мнению, является основными факторами, способствующими этой ситуации?
Кейд Мец:
** Я думаю, что идеи движут полем. **Глубокое обучение известно во всем мире, и исследователи в Китае создали аналогичные методы. Но, как и в США, люди были поражены тем, насколько хорошо сработал тот шаг обучения с обратной связью, о котором я упоминал ранее. ** Таким образом, они на шаг позади многих в США в применении этой техники (обучение с обратной связью от человека) к большим языковым моделям. **
Технология Тенсент:
Вы упомянули, что многие другие компании также участвуют в этой гонке, кроме крупных, таких как OpenAI, Google и Meta. Есть ли небольшие компании, на которые стоит обратить внимание?
Кейд Мец:
Есть компания под названием Anthropic, которую основала группа людей, покинувших OpenAI. Компания не очень известна, но они будут играть важную роль в этом пространстве. Они помогли создать большую часть технологии, которая сформировала ChatGPT, и создали своего собственного чат-бота, который еще не был выпущен для широкой публики. По моим оценкам, его возможности будут сопоставимы с ChatGPT.
В Торонто есть компания Coherence, которая занимается чем-то подобным, в США есть компания Character.AI, основанная бывшими сотрудниками Google, и еще одна компания Inflection AI, основанная одним из основателей DeepMind. DeepMind — еще одна важная лаборатория в Лондоне, по сути принадлежащая Google.
Технология Тенсент:
Для компаний, развивающихся в сегменте ИИ, где их возможности?
Кейд Мец:
Эти небольшие области работают следующим образом: когда кто-то создает систему, называемую большой языковой моделью, вы можете использовать ее для создания всевозможных других методов. Вы можете создать чат-бота, вы можете создать поисковую систему, вы можете создать личного репетитора. ** Итак, что делает OpenAI, так это то, что они построили эту базовую систему. Они называют это GPT-4, а затем предлагают эту систему любому другому бизнесу, который захочет ее использовать. Это способ создания других приложений.
Это то, что мы начинаем видеть. ** Я думаю, вы увидите такие компании, как OpenAI, предлагающие такого рода услуги. Каждый может использовать его для создания собственных приложений поверх него. **Поэтому я думаю, что есть множество возможностей, когда компании могут использовать этот основной сервис, а затем создавать на его основе новые вещи и продавать эти приложения. Но самое сложное — построить этот основной сервис, и не многие компании могут это сделать. В США есть такие гиганты, как Google, Microsoft и Meta, и лишь немногие стартапы обладают необходимым капиталом и талантами. Как я уже говорил, вам нужны сотни миллионов долларов, чтобы построить эту базовую систему. **Поэтому в настоящее время небольшим компаниям сложно конкурировать с ними в плане построения базовой модели. **
Многие люди думают, что по мере снижения цен и улучшения проектов с открытым исходным кодом людям станет легче создавать свои собственные базовые системы, и со временем это изменится. Но я не уверен.
Две вехи в развитии ИИ: аукцион и рождение ChatGPT
Технология Тенсент:
Как старший автор ИИ, вы в основном сосредоточились на области глубокого обучения в течение своей десятилетней карьеры, и вы установили все важные роли в этой области и участвовали в различных решающих моментах между ними. Что побудило вас обратить внимание на это направление?
Кейд Мец:
Примерно в 2011 или 2012 году я присоединился к Wired в Сан-Франциско. Это одно из направлений, на котором я решил сосредоточиться. В то время, более десяти лет назад, уже чувствовалось, что эта область станет очень важной. Именно тогда произошла пара поворотных моментов, заинтересовавших меня технологией.
Хинтон — главный герой книги «Революция глубокого обучения», и я писал о его росте и ключевой концепции нейронных сетей, которая привела к многим достижениям за последние 10 лет. В конце концов он присоединился к Google в 2013 году.
Позже я узнал, что это был аукцион между крупнейшими мировыми технологическими компаниями, включая Google, Microsoft и китайскую Baidu. Это был ключевой момент, и вы могли видеть, что что-то начинает происходить. С годами я начал все больше и больше охватывать пространство и познакомился с такими людьми, как Хинтон и его давний коллега Янн Лекун, который в конечном итоге присоединился к Facebook, а теперь и к Meta, среди других людей в этой области. Мы начали много освещать в Wired, а потом это становилось все больше и больше. В конце концов, я решил написать книгу об этой области, которую продолжал освещать, когда перешел из Wired в The New York Times.
Технология Тенсент:
Как репортер, который долгое время следит за искусственным интеллектом, это похоже на прохождение цикла, вы пережили тяжелый период в области машинного обучения, искусственного интеллекта. По вашему мнению, что заставило Хинтона и других упорствовать?
Кейд Мец:
Хинтон начал работать над нейронными сетями в 1972 году. В то время почти никто не верил, что это удастся, потому что** вся область искусственного интеллекта отказалась от направления нейронных сетей. Но ** Хинтон — человек собственного мнения, который действительно верит в то, во что он верит, и он непоколебим в этом направлении.
** К 1980-м годам, во многом благодаря собственным усилиям Хинтона, технология значительно продвинулась вперед. Многие снова стали верить в эту идею. Но в начале 90-х люди снова сдались, но он продолжал работать, и всегда сохранял свою последовательную позицию. ** Они верили, что идея будет улучшаться, и были правы. Часть того, что делает эту историю настолько интересной, заключается в том, что они продолжают работать даже перед лицом такого большого скептицизма, даже со стороны их близких коллег.
Моментом, который действительно открыл глаза всей индустрии, стало то, что сейчас известно как статья AlexNet. Эта исследовательская работа, написанная Хинтоном и двумя его студентами из Университета Торонто, показывает, что нейронные сети могут добиться больших успехов в распознавании изображений, идентифицируя такие объекты на фотографиях, как цветы, автомобили, люди, животные и т. д.
Когда статья была опубликована в 2012 году, она открыла глаза Google, Microsoft, Baidu и, в конечном итоге, Facebook. Мы видим эту войну за таланты, это стремление применить эту идею внутри некоторых из крупнейших компаний на планете не только для распознавания изображений, но и для распознавания речи, перевода и так далее. Эта бумага была поворотным моментом. Вот почему моя книга начинается с этой статьи**. Именно с этого момента Хинтон продал свою компанию с аукциона тому, кто больше заплатит, и это дало толчок всему остальному. **
С тех пор и по сегодняшний день мы продолжали совершенствоваться. Вышеупомянутое пробуждение отраслевой осведомленности в 2012 году было критическим моментом, и 10 лет спустя был выпущен ChatGPT, что является еще одним критическим моментом. Оба эти момента являются очень важными поворотными точками, когда мы оглядываемся назад на историю ИИ.
Технология Тенсент:
**В своей книге вы описываете развитие глубокого обучения, а такие этапы разработки продуктов, как AlphaGo, Deepfake и серия GPT, вызвали широкое общественное обсуждение. Но до появления ChatGPT все действительно чувствовали, что грядет настоящая промышленная революция.Чем же так отличается серия GPT? **
Кейд Мец:
Это большой вопрос. Технологии, связанные с GPT и ChatGPT, разрабатывались уже некоторое время. Несколько компаний разрабатывали эту технику в течение последних пяти лет: OpenAI в конечном итоге разработал Chat GPT, а такие компании, как Google, Meta (ранее Facebook) и Microsoft, пять лет назад также начали разрабатывать так называемые большие языковые модели.
Идея технологии заключается в создании нейронной сети, математической системы, которая может учиться на данных. Скармливайте ему столько текста, сколько он может, и он анализирует этот текст, и в процессе анализа этого текста он учится генерировать сам текст. Анализируя статьи в Википедии, сообщения в блогах, журналы чатов и различный контент в Интернете, он обнаружил закономерности в том, как мы складываем слова, и научился это делать. Мы видели, как эта технология реализовывалась за последние несколько лет, и было выпущено несколько интересных систем.
OpenAI выпустил GPT-2, GPT-3, все они очень впечатляют. Мы видим, как эти системы начинают производить текст, как люди. Но именно выпуск ChatGPT заставил широкую публику осознать это. Другие компании выпускали собственных чат-ботов еще месяцы, недели назад, например, Meta (ex-Facebook) выпустила чат-бота в научном сообществе, но он был не только неинтересен людям, но и подвергался насмешкам критики. Потому что это создает дезинформацию, и люди очень расстроены этим. Мета быстро сняла его. Но вскоре после этого OpenAI выпустила ChatGPT в Twitter.
** Он стал популярным отчасти из-за того, как он был выпущен, а отчасти из-за компании, которая его выпустила. Но ChatGPT улучшает некоторые ключевые технические аспекты. Потому что при создании этих больших языковых моделей, полученных из всего Интернета, они применяют к ним человеческую обратную связь. Они попросили людей оценить ответы чат-бота. Они просят людей оценить ответ как хороший? это реально Это работает? Они ставят «нравится» или «не нравится», а затем возвращают эти оценки обратно в систему и позволяют ей учиться на этих оценках. **
Таким образом, они смогли отточить его до такой степени, что почти каждый раз, когда чат-бота спрашивали, он выдавал убедительный текст. Это не всегда может быть правдой и по-прежнему генерировать дезинформацию, но ** она общается с людьми отзывчивым способом, который люди на самом деле используют. Не только со специалистами в этой области, но и с кем угодно. Это действительно захватило воображение людей. **Произошел настоящий сдвиг в восприятии этой технологии не только среди обычных людей, но и среди многих исследователей в этой области техники. Популярность ChatGPT открыла новую эру технологий этого типа и новую гонку за все более впечатляющим искусственным интеллектом.
Технология Тенсент:
Итак, вы думаете, что ключевым техническим фактором успеха ChatGPT является в основном RLHF (обучение с обратной связью)?
Кейд Мец:
Да, если вы используете какую-то предыдущую версию, например **GPT-3, иногда это может впечатлить, если вы спросите об этом определенным образом. Например, если вы попросите его произнести речь в стиле Дональда Трампа, есть примерно половина шанса, что он произведет впечатляющую речь. Это немного похоже на игру в кости, иногда она дает вам то, что вы хотите, а иногда нет. При этом система не привлекает внимания обычных людей. ** Но они взяли эту базовую систему, но каждый раз, когда система давала ответ, они заставляли аннотаторов оценивать его. Он может получать оценки от людей, видеть, как они оценивают эти ответы, и использовать это для переобучения системы. Аннотатор сообщает GPT, какой ответ является хорошим, а какой — плохим.
В конце концов, у OpenAI появился чат-бот, который почти каждый раз может общаться как человек. Они ставят эту систему перед обычными людьми, и это бурное обсуждение — то, как люди реагируют на ее появление. В Твиттере любой может использовать его, и люди действительно реагируют на него.
ОИИ еще далеко, но его приход заменит всю ценность человеческого труда
Технология Тенсент:
Некоторое время назад Маск сказал в интервью, что AGI будет реализован в течение 5-6 лет, как вы думаете, будет ли AGI легкой задачей?
Кейд Мец:
Трудно сказать, и на эту тему много споров. ** Мы знаем, что современные системы искусственного интеллекта далеки от этого уровня. Они могут впечатляющим образом воспроизводить язык, но они не могут рассуждать, как люди, и у них нет человеческого здравого смысла. **
Многие люди считают, что нам нужны новые способы дать им эту способность, и наши текущие методы не могут заставить их достичь ОИИ. Им нужно знать больше о физическом мире, чем просто язык. По этому поводу идет много споров и разногласий, но это определенно не то, о чем нам нужно думать сегодня, и мы еще недостаточно близки к ОИИ.
Технология Тенсент:
Как вы думаете, чего не хватает нынешней системе по сравнению с настоящим общим искусственным интеллектом?
Кейд Мец:
При использовании этих систем можно легко обнаружить недостатки текущего ИИ. Если вы попытаетесь заставить их рассуждать как люди, иногда они могут подражать, но в большинстве случаев не могут.
Это настоящая трудность. **Самая большая разница между ними и AGI заключается в том, что они генерируют правдоподобный текст и действительно могут рассуждать. **
**Эти системы очень хорошо справляются с тем, что произошло в прошлом, то есть с тем, что задокументировано в Интернете. Но они не говорят о будущем и не размышляют о том, что может произойти. ** У нас с вами может быть такой разговор, когда мы говорим о будущем и думаем о том, что может произойти. Эти системы не умеют этого делать. Они хорошо имитируют то, что видели раньше. Поэтому они очень хорошо проходят стандартизированные тесты. Они так хорошо справляются с такими тестами, как юриспруденция, естествознание и математика в средней школе, что вызывают много шумихи в СМИ.
**Но другие исследования показали, что если вы зададите им только совершенно новые вопросы, вопросы, которые были написаны после того, как они были обучены, они не будут работать так же хорошо. Поэтому, отвечая на все эти стандартизированные вопросы, они не обязательно рассуждают. **Они повторяют то, что видели раньше.
Технология Тенсент:
По поводу угрозы ИИ, такой как непрозрачность, вы записали интересный отрывок из книги Хинтона «Люди должны жить с проблемой «черного ящика», даже если вы не можете видеть внутреннюю работу, они будут делать то, что им положено. делать", но недавно Хинтон ушел из Google, и вы также дали ему интервью, в котором он выразил много беспокойства по поводу ИИ. Как вы понимаете изменение отношения Хинтона к ИИ?
Кейд Мец:
Его мышление определенно изменилось. Когда я опубликовал книгу, он думал, что риски, связанные с искусственным интеллектом, невелики. Но в прошлом году он изменил свое мнение, когда увидел технологию ChatGPT, которую мы видим сейчас.
Он пришел к выводу, что в некоторых отношениях системы более мощные, чем человеческий мозг. ** Мы с вами не можем понять весь Интернет, он недосягаем для человека. Мы не можем извлечь уроки из такого количества данных, но система может. **Он обеспокоен тем, что они используются для распространения дезинформации, в данном случае ненастоящего текста, ненастоящего изображения, ненастоящего видео.
**Вдобавок к этому, он также беспокоится о том, что система начинает отнимать у людей рабочие места; его также беспокоят некоторые более серьезные проблемы, такие как использование автоматизированных систем на поле боя, использование их в качестве оружия; он даже обеспокоен тем, что в более длительный период времени, мы потеряем контроль над ИИ. **
Технология Тенсент:
Давний коллега Хинтона Янн Лекун и другие ученые в области ИИ действительно много говорили в последнее время о преувеличении средств массовой информации возможностей и угроз ИИ. Как вы думаете, он прав? Каким образом средства массовой информации могут усложнить эти вопросы больше, чем они есть на самом деле?
Кейд Мец:
** Я думаю, что СМИ преувеличивают. Когда Chat GPT был впервые выпущен, люди не видели его недостатков, и прошло много времени, прежде чем они поняли, что он генерирует дезинформацию, чтобы ввести людей в заблуждение.Многие люди, в том числе журналисты, с трудом понимают, что происходит.Поэтому они продолжают вводить людей в заблуждение по мере их распространения. ** В этом случае легко может произойти чрезмерная шумиха.
Конечно, иногда умышленное преувеличение происходит от недоразумений, но одни люди накручивают намеренно, а другие бессознательно. Но я думаю, это в основном потому, что люди не до конца понимают, что они видят.
Технология Тенсент:
Как вы думаете, каково историческое значение нынешнего бума ИИ? Это начало новой промышленной революции?
Кейд Мец:
Возможно. Я думаю, что мы продолжим видеть улучшения в этих системах. **Они смогут обрабатывать не только текст, но и изображения. Мы видели, как последняя версия технологии, созданной OpenAI, берет изображение и описывает, что на нем находится, отвечая на вопросы об этом. Это еще не общедоступно, но это часть того, что они построили. Он обещает, что все больше и больше навыков будут похожи на человеческие и продолжат менять работу людей.
Поэтому я думаю, что то, что мы видели за последние шесть месяцев, говорит о том, что в ближайшие несколько лет нас ждет действительно большой сдвиг. Похоже, что эта трансформация будет столь же далеко идущей, как и первая промышленная революция. Мы все еще находимся на ранних стадиях. Эти вещи часто идут медленнее, чем люди думают. Но я думаю, что мы движемся в этом направлении.
Технология Тенсент:
Как, по вашему мнению, ИИ изменит это общество? Где ценность человека, когда реализуется ОИИ?
Кейд Мец:
Я думаю, что людям было бы трудно иметь систему, которая может делать все то же, что и человеческий мозг, так называемый ОИИ.
**Если бы машина могла делать все то же, что и человек, тогда ценность работника упала бы до нуля, потому что использовать машину было бы дешевле, чем нанимать человека. На мой взгляд, это не очень хорошая ситуация для человека. ** Но ИИ пока нет.
Возьмем в качестве примера компьютерных программистов. Сегодня система может очень хорошо генерировать компьютерные программы и компьютерные коды, но в коде все еще могут быть дефекты. Ей по-прежнему нужен опытный программист, который возьмет на себя созданный ими код, отредактирует и интегрирует его. большая программа, в конечном итоге создающая приложение. По мере того, как эти системы будут улучшаться с течением времени, они заменят все больше и больше того, что делают люди. Проблема на данном этапе заключается в том, что ИИ скоро начнет заменять менее опытных младших программистов, людей, находящихся на дне индустрии программистов, которые делают то же самое, что и ИИ, пишут какой-то базовый код и передают его более опытным. программисты люди для интеграции.
** По мере того, как ИИ продолжает совершенствоваться, машины, безусловно, будут все больше и больше меняться, но мы еще не достигли того момента, когда ИИ внезапно заменит большое количество рабочих мест. **
Еще меня беспокоит то, что эти системы могут генерировать реалистичный текст и изображения. Они даже начинают генерировать видео на лету, мы не сможем отличить, что реально, а что нет в Интернете, и нам абсолютно необходимо изменить свое мышление при просмотре почти всего в Интернете. Вы должны спросить массы, в силах ли они изменить свое мышление в целом. **
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Интервью с легендарным репортером по искусственному интеллекту Кейдом Метцем: в отрасли нет рва, и Китай скоро догонит OpenAI
Автор | Tencent Technology Хао Боян
Название «Три больших тройки в глубоком обучении», безусловно, знакомо читателям в период подъема ИИ. Но какие критерии оценки используются для выделения Хинтона, Яна Лекуна и Йошуа Бенжио среди талантов в области глубокого обучения? Никаких конкурсов, дебатов и рейтингов, это звание определил самый известный репортер в области ИИ Кейд Мец еще 18 лет назад.
Как старший автор журнала Wired, главный автор колонки искусственного интеллекта в New York Times и автор книги «Революция глубокого обучения», Кейд Мец в основном брал интервью у всех известных экспертов в области ИИ за более чем десять лет. опыт работы, Сэм Альтман консультировался с ним перед запуском ChatGPT, а Хинтон общался с ним после ухода из Google. Благодаря контакту с этими ключевыми фигурами, он также углубился в гигантов ИИ, таких как Microsoft, Google и Meta, чтобы выяснить основные моменты и драматические сцены, лежащие в основе различных основных бизнес-решений.Книга «Революция глубокого обучения», написанная некоторое время назад, также была раскрыт впервые Секретный аукцион, изменивший курс искусственного интеллекта десять лет назад.
В книге подробно рассказывается об аукционе, который состоялся в 2012 году и оказал глубокое влияние на всю индустрию искусственного интеллекта.
В декабре 2012 года Хинтон, который не мог сидеть на месте из-за грыжи межпозвоночного диска, провел неделю с двумя своими учениками в отеле-казино у подножия горнолыжных гор на озере Тахо. Он и его недавно созданная компания без каких-либо продуктов принимают заявки от самых известных мировых компаний, включая Microsoft, Google, Deepmind и Baidu.
Самая драматическая сцена возникла, когда Хинтон имел дело с внезапным визитом Ю Кая, тогдашнего заместителя декана научно-исследовательского института, посланного Байду, который, чтобы «не дать ему думать, что я старый», попросил своих студентов каждый раз собираться, чтобы позволить ему Боль в пояснице облегчал балдахин, временно построенный из диванных подушек, отчего они сильно нервничали. Во время одного визита Хинтон столкнулся с левым рюкзаком Ю Кая и долго боролся со студентами, искать ли информацию о резервной цене Baidu. Но в конце концов достоинство заставило их сдаться. Наконец, через неделю Хинтон принял предложение Google, продал все еще совершенно пустую компанию гиганту за 44 миллиона долларов и приоткрыл завесу гигантской войны ИИ.
На протяжении всей его карьеры подобные сцены, полные деталей и драматических конфликтов, можно увидеть повсюду. Поэтому его не будет преувеличением назвать самым глубоким наблюдателем в области ИИ.
В этом интервью Мец еще раз продемонстрировал свои обширные знания в области ИИ, от истории и основных моментов глубокого обучения до будущего ИИ и его влияния на человеческое общество. Он также сделал свою оценку в стиле наблюдателя, в частности, ситуации с искусственным интеллектом в Китае.
Он считает, что причина, по которой Сэм Альтман может выделить OpenAI, заключается в том, что его сильные переговорные способности способствовали сотрудничеству между OpenAI и Microsoft. Он также считает, что разрыв между Китаем и США в области ИИ не так велик, как думает общественность, потому что сама по себе существующая технология не имеет рва. Что касается будущего ИИ, у него те же опасения, что и у Хинтона, и он будет беспокоиться о том, что появление ИИ вызовет огромные изменения в обществе. Свидетели ясны, ниже приведены выводы наблюдателей ИИ.
Разрыв между Китаем и США не так уж и велик, у ИИ нет рва
Технология Тенсент:
Теперь, когда история OpenAI оказалась в центре внимания, вы много написали о ее основании и пути в своей книге. Можешь рассказать о Сэме Альтмане? Какие качества позволили ему привести OpenAI туда, где он находится сегодня?
Кейд Мец:
**Сэм очень амбициозен, и ему хорошо удается убеждать людей делать то, что он от них хочет. Честно говоря, он умеет создавать команды и направлять их по определенному пути. **Дело не только в уровне развития навыков. Им нужно много денег, чтобы сделать это. Обучение таких систем стоит десятки миллионов, если не сотни миллионов долларов. Я уже говорил, что анализ всего текста в Интернете и обучение, а также предоставление этим системам возможности учиться самостоятельно, занимают месяцы и требуют массивных вычислительных систем, которые на самом деле принадлежат крупным технологическим компаниям и контролируются ими.
Примерно в 2019 году Сэм привлек более 1 миллиарда долларов. Таким образом, значительная часть его навыков заключается в ведении переговоров о сделке. **Это была огромная сделка, Сэм получил необходимые ему средства и вычислительную мощность, в которой он нуждался. Позже они привлекли еще 11 с лишним миллиардов долларов от **Microsoft, в общей сложности почти 13 миллиардов долларов. Это большая причина, почему он так важен.
Технология Тенсент:
Вы упомянули Microsoft, но она полностью отставала от своих конкурентов в последней волне ИИ. Тогда почему Microsoft может воспользоваться этой возможностью на этой волне искусственного интеллекта и действовать так быстро?
Кейд Мец:
Это интересный шаг для Microsoft. Когда-то они отставали от конкурентов, но осознавали важность технологии, которую создавали. Они и раньше сталкивались со многими трудностями.У его оппонента Google и других компаний есть сценарий, в котором эта технология может быть использована: Google впервые развернула нейронные сети в больших масштабах на телефонах Android и своем цифровом помощнике Google Home для распознавания речи. Поэтому, когда вы используете эти умные колонки у себя дома, они могут ответить на ваши вопросы. Google может начать развертывание этой технологии так быстро, потому что у них есть сценарии и оборудование для ее развертывания. Microsoft не имеет этого сценария.
Но когда Microsoft, наконец, попыталась развернуть его, они столкнулись с другими проблемами. Несколько лет назад они запустили в США чат-бота под названием Tay, и почти сразу после того, как он попал на прилавки, он начал генерировать оскорбительные сообщения, в том числе расистские. Microsoft может снять его только в ближайшее время.
**Это одна сторона истории, поскольку технологии искусственного интеллекта развиваются в США, поскольку эти системы иногда генерируют ненужный текст, предвзятый против определенных людей и провоцирующий разжигание ненависти. Поэтому крупным компаниям сложно решиться на запуск этого продукта, и они не хотят рисковать. Но Microsoft сотрудничает с OpenAI, которая запускает систему, чтобы люди не так сильно реагировали на ее недостатки, как на Microsoft. ** Люди согласятся с тем, что эти ошибки исходят от небольшой и неизвестной компании, но не от такой известной компании, как Microsoft.
Технология Тенсент:
По вашему наблюдению, насколько велик разрыв между Китаем и США в области искусственного интеллекта? Как вы думаете, какие преимущества у Китая в области искусственного интеллекта?
Кейд Мец:
Китай уже некоторое время работает над этим. Есть много людей и компаний, которые разбираются в задействованных здесь технологиях, но могут возникнуть трудности. Компьютерные чипы, необходимые для обучения этих систем, производятся американскими компаниями на самом высоком уровне. Сейчас действует запрет на торговлю, эти чипы нельзя продавать в Китай. Это может быть недостатком.
Посмотрим, что получится, когда дело дойдет до создания этой технологии. ** Сэм Альтман недавно сказал, что, по его мнению, Китай отстает на два года. Это оценка. Я думаю, что индустрия в целом может довольно быстро догнать то, что он и его компания делают. Мы уже начинаем это видеть, и я думаю, что это может произойти и в Китае. **
Технология Тенсент:
Этот разрыв увеличивается или уменьшается?
Кейд Мец:
Из-за запрета на торговлю трудно сказать. Это трудность, с которой сталкивается Китай. Насколько я знаю, Китай усердно работает над созданием, проектированием и поставкой чипов и оборудования, необходимых для центров обработки данных.
** Будь то в Китае или в Соединенных Штатах, нам придется иметь дело со многими потенциальными ролями, которые играют торговые трения, такие как конкуренция. В настоящее время общепризнано, что технология OpenAI в настоящее время опережает большинство своих конкурентов. Но в мире есть множество других компаний, у которых достаточно знаний, денег и доступа к ресурсам, необходимым для реальной конкуренции. **
Таким образом, мы все еще находимся на ранних стадиях конкуренции с ИИ, и нам еще предстоит изучить много путей. Результата еще нужно дождаться.
Технология Тенсент:
Вы упомянули Baidu в своей книге. Китайская компания также начала экспериментировать с такого рода технологиями искусственного интеллекта в 2012 году, уже на ранних этапах гонки. Как вы думаете, почему сегодня он не проявил силы? Что, по вашему мнению, является основными факторами, способствующими этой ситуации?
Кейд Мец:
** Я думаю, что идеи движут полем. **Глубокое обучение известно во всем мире, и исследователи в Китае создали аналогичные методы. Но, как и в США, люди были поражены тем, насколько хорошо сработал тот шаг обучения с обратной связью, о котором я упоминал ранее. ** Таким образом, они на шаг позади многих в США в применении этой техники (обучение с обратной связью от человека) к большим языковым моделям. **
Технология Тенсент:
Вы упомянули, что многие другие компании также участвуют в этой гонке, кроме крупных, таких как OpenAI, Google и Meta. Есть ли небольшие компании, на которые стоит обратить внимание?
Кейд Мец:
Есть компания под названием Anthropic, которую основала группа людей, покинувших OpenAI. Компания не очень известна, но они будут играть важную роль в этом пространстве. Они помогли создать большую часть технологии, которая сформировала ChatGPT, и создали своего собственного чат-бота, который еще не был выпущен для широкой публики. По моим оценкам, его возможности будут сопоставимы с ChatGPT.
В Торонто есть компания Coherence, которая занимается чем-то подобным, в США есть компания Character.AI, основанная бывшими сотрудниками Google, и еще одна компания Inflection AI, основанная одним из основателей DeepMind. DeepMind — еще одна важная лаборатория в Лондоне, по сути принадлежащая Google.
Технология Тенсент:
Для компаний, развивающихся в сегменте ИИ, где их возможности?
Кейд Мец:
Эти небольшие области работают следующим образом: когда кто-то создает систему, называемую большой языковой моделью, вы можете использовать ее для создания всевозможных других методов. Вы можете создать чат-бота, вы можете создать поисковую систему, вы можете создать личного репетитора. ** Итак, что делает OpenAI, так это то, что они построили эту базовую систему. Они называют это GPT-4, а затем предлагают эту систему любому другому бизнесу, который захочет ее использовать. Это способ создания других приложений.
Это то, что мы начинаем видеть. ** Я думаю, вы увидите такие компании, как OpenAI, предлагающие такого рода услуги. Каждый может использовать его для создания собственных приложений поверх него. **Поэтому я думаю, что есть множество возможностей, когда компании могут использовать этот основной сервис, а затем создавать на его основе новые вещи и продавать эти приложения. Но самое сложное — построить этот основной сервис, и не многие компании могут это сделать. В США есть такие гиганты, как Google, Microsoft и Meta, и лишь немногие стартапы обладают необходимым капиталом и талантами. Как я уже говорил, вам нужны сотни миллионов долларов, чтобы построить эту базовую систему. **Поэтому в настоящее время небольшим компаниям сложно конкурировать с ними в плане построения базовой модели. **
Многие люди думают, что по мере снижения цен и улучшения проектов с открытым исходным кодом людям станет легче создавать свои собственные базовые системы, и со временем это изменится. Но я не уверен.
Две вехи в развитии ИИ: аукцион и рождение ChatGPT
Технология Тенсент:
Как старший автор ИИ, вы в основном сосредоточились на области глубокого обучения в течение своей десятилетней карьеры, и вы установили все важные роли в этой области и участвовали в различных решающих моментах между ними. Что побудило вас обратить внимание на это направление?
Кейд Мец:
Примерно в 2011 или 2012 году я присоединился к Wired в Сан-Франциско. Это одно из направлений, на котором я решил сосредоточиться. В то время, более десяти лет назад, уже чувствовалось, что эта область станет очень важной. Именно тогда произошла пара поворотных моментов, заинтересовавших меня технологией.
Хинтон — главный герой книги «Революция глубокого обучения», и я писал о его росте и ключевой концепции нейронных сетей, которая привела к многим достижениям за последние 10 лет. В конце концов он присоединился к Google в 2013 году.
Позже я узнал, что это был аукцион между крупнейшими мировыми технологическими компаниями, включая Google, Microsoft и китайскую Baidu. Это был ключевой момент, и вы могли видеть, что что-то начинает происходить. С годами я начал все больше и больше охватывать пространство и познакомился с такими людьми, как Хинтон и его давний коллега Янн Лекун, который в конечном итоге присоединился к Facebook, а теперь и к Meta, среди других людей в этой области. Мы начали много освещать в Wired, а потом это становилось все больше и больше. В конце концов, я решил написать книгу об этой области, которую продолжал освещать, когда перешел из Wired в The New York Times.
Технология Тенсент:
Как репортер, который долгое время следит за искусственным интеллектом, это похоже на прохождение цикла, вы пережили тяжелый период в области машинного обучения, искусственного интеллекта. По вашему мнению, что заставило Хинтона и других упорствовать?
Кейд Мец:
Хинтон начал работать над нейронными сетями в 1972 году. В то время почти никто не верил, что это удастся, потому что** вся область искусственного интеллекта отказалась от направления нейронных сетей. Но ** Хинтон — человек собственного мнения, который действительно верит в то, во что он верит, и он непоколебим в этом направлении.
** К 1980-м годам, во многом благодаря собственным усилиям Хинтона, технология значительно продвинулась вперед. Многие снова стали верить в эту идею. Но в начале 90-х люди снова сдались, но он продолжал работать, и всегда сохранял свою последовательную позицию. ** Они верили, что идея будет улучшаться, и были правы. Часть того, что делает эту историю настолько интересной, заключается в том, что они продолжают работать даже перед лицом такого большого скептицизма, даже со стороны их близких коллег.
Моментом, который действительно открыл глаза всей индустрии, стало то, что сейчас известно как статья AlexNet. Эта исследовательская работа, написанная Хинтоном и двумя его студентами из Университета Торонто, показывает, что нейронные сети могут добиться больших успехов в распознавании изображений, идентифицируя такие объекты на фотографиях, как цветы, автомобили, люди, животные и т. д.
Когда статья была опубликована в 2012 году, она открыла глаза Google, Microsoft, Baidu и, в конечном итоге, Facebook. Мы видим эту войну за таланты, это стремление применить эту идею внутри некоторых из крупнейших компаний на планете не только для распознавания изображений, но и для распознавания речи, перевода и так далее. Эта бумага была поворотным моментом. Вот почему моя книга начинается с этой статьи**. Именно с этого момента Хинтон продал свою компанию с аукциона тому, кто больше заплатит, и это дало толчок всему остальному. **
С тех пор и по сегодняшний день мы продолжали совершенствоваться. Вышеупомянутое пробуждение отраслевой осведомленности в 2012 году было критическим моментом, и 10 лет спустя был выпущен ChatGPT, что является еще одним критическим моментом. Оба эти момента являются очень важными поворотными точками, когда мы оглядываемся назад на историю ИИ.
Технология Тенсент:
**В своей книге вы описываете развитие глубокого обучения, а такие этапы разработки продуктов, как AlphaGo, Deepfake и серия GPT, вызвали широкое общественное обсуждение. Но до появления ChatGPT все действительно чувствовали, что грядет настоящая промышленная революция.Чем же так отличается серия GPT? **
Кейд Мец:
Это большой вопрос. Технологии, связанные с GPT и ChatGPT, разрабатывались уже некоторое время. Несколько компаний разрабатывали эту технику в течение последних пяти лет: OpenAI в конечном итоге разработал Chat GPT, а такие компании, как Google, Meta (ранее Facebook) и Microsoft, пять лет назад также начали разрабатывать так называемые большие языковые модели.
Идея технологии заключается в создании нейронной сети, математической системы, которая может учиться на данных. Скармливайте ему столько текста, сколько он может, и он анализирует этот текст, и в процессе анализа этого текста он учится генерировать сам текст. Анализируя статьи в Википедии, сообщения в блогах, журналы чатов и различный контент в Интернете, он обнаружил закономерности в том, как мы складываем слова, и научился это делать. Мы видели, как эта технология реализовывалась за последние несколько лет, и было выпущено несколько интересных систем.
OpenAI выпустил GPT-2, GPT-3, все они очень впечатляют. Мы видим, как эти системы начинают производить текст, как люди. Но именно выпуск ChatGPT заставил широкую публику осознать это. Другие компании выпускали собственных чат-ботов еще месяцы, недели назад, например, Meta (ex-Facebook) выпустила чат-бота в научном сообществе, но он был не только неинтересен людям, но и подвергался насмешкам критики. Потому что это создает дезинформацию, и люди очень расстроены этим. Мета быстро сняла его. Но вскоре после этого OpenAI выпустила ChatGPT в Twitter.
** Он стал популярным отчасти из-за того, как он был выпущен, а отчасти из-за компании, которая его выпустила. Но ChatGPT улучшает некоторые ключевые технические аспекты. Потому что при создании этих больших языковых моделей, полученных из всего Интернета, они применяют к ним человеческую обратную связь. Они попросили людей оценить ответы чат-бота. Они просят людей оценить ответ как хороший? это реально Это работает? Они ставят «нравится» или «не нравится», а затем возвращают эти оценки обратно в систему и позволяют ей учиться на этих оценках. **
Таким образом, они смогли отточить его до такой степени, что почти каждый раз, когда чат-бота спрашивали, он выдавал убедительный текст. Это не всегда может быть правдой и по-прежнему генерировать дезинформацию, но ** она общается с людьми отзывчивым способом, который люди на самом деле используют. Не только со специалистами в этой области, но и с кем угодно. Это действительно захватило воображение людей. **Произошел настоящий сдвиг в восприятии этой технологии не только среди обычных людей, но и среди многих исследователей в этой области техники. Популярность ChatGPT открыла новую эру технологий этого типа и новую гонку за все более впечатляющим искусственным интеллектом.
Технология Тенсент:
Итак, вы думаете, что ключевым техническим фактором успеха ChatGPT является в основном RLHF (обучение с обратной связью)?
Кейд Мец:
Да, если вы используете какую-то предыдущую версию, например **GPT-3, иногда это может впечатлить, если вы спросите об этом определенным образом. Например, если вы попросите его произнести речь в стиле Дональда Трампа, есть примерно половина шанса, что он произведет впечатляющую речь. Это немного похоже на игру в кости, иногда она дает вам то, что вы хотите, а иногда нет. При этом система не привлекает внимания обычных людей. ** Но они взяли эту базовую систему, но каждый раз, когда система давала ответ, они заставляли аннотаторов оценивать его. Он может получать оценки от людей, видеть, как они оценивают эти ответы, и использовать это для переобучения системы. Аннотатор сообщает GPT, какой ответ является хорошим, а какой — плохим.
В конце концов, у OpenAI появился чат-бот, который почти каждый раз может общаться как человек. Они ставят эту систему перед обычными людьми, и это бурное обсуждение — то, как люди реагируют на ее появление. В Твиттере любой может использовать его, и люди действительно реагируют на него.
ОИИ еще далеко, но его приход заменит всю ценность человеческого труда
Технология Тенсент:
Некоторое время назад Маск сказал в интервью, что AGI будет реализован в течение 5-6 лет, как вы думаете, будет ли AGI легкой задачей?
Кейд Мец:
Трудно сказать, и на эту тему много споров. ** Мы знаем, что современные системы искусственного интеллекта далеки от этого уровня. Они могут впечатляющим образом воспроизводить язык, но они не могут рассуждать, как люди, и у них нет человеческого здравого смысла. **
Многие люди считают, что нам нужны новые способы дать им эту способность, и наши текущие методы не могут заставить их достичь ОИИ. Им нужно знать больше о физическом мире, чем просто язык. По этому поводу идет много споров и разногласий, но это определенно не то, о чем нам нужно думать сегодня, и мы еще недостаточно близки к ОИИ.
Технология Тенсент:
Как вы думаете, чего не хватает нынешней системе по сравнению с настоящим общим искусственным интеллектом?
Кейд Мец:
При использовании этих систем можно легко обнаружить недостатки текущего ИИ. Если вы попытаетесь заставить их рассуждать как люди, иногда они могут подражать, но в большинстве случаев не могут.
Это настоящая трудность. **Самая большая разница между ними и AGI заключается в том, что они генерируют правдоподобный текст и действительно могут рассуждать. **
**Эти системы очень хорошо справляются с тем, что произошло в прошлом, то есть с тем, что задокументировано в Интернете. Но они не говорят о будущем и не размышляют о том, что может произойти. ** У нас с вами может быть такой разговор, когда мы говорим о будущем и думаем о том, что может произойти. Эти системы не умеют этого делать. Они хорошо имитируют то, что видели раньше. Поэтому они очень хорошо проходят стандартизированные тесты. Они так хорошо справляются с такими тестами, как юриспруденция, естествознание и математика в средней школе, что вызывают много шумихи в СМИ.
**Но другие исследования показали, что если вы зададите им только совершенно новые вопросы, вопросы, которые были написаны после того, как они были обучены, они не будут работать так же хорошо. Поэтому, отвечая на все эти стандартизированные вопросы, они не обязательно рассуждают. **Они повторяют то, что видели раньше.
Технология Тенсент:
По поводу угрозы ИИ, такой как непрозрачность, вы записали интересный отрывок из книги Хинтона «Люди должны жить с проблемой «черного ящика», даже если вы не можете видеть внутреннюю работу, они будут делать то, что им положено. делать", но недавно Хинтон ушел из Google, и вы также дали ему интервью, в котором он выразил много беспокойства по поводу ИИ. Как вы понимаете изменение отношения Хинтона к ИИ?
Кейд Мец:
Его мышление определенно изменилось. Когда я опубликовал книгу, он думал, что риски, связанные с искусственным интеллектом, невелики. Но в прошлом году он изменил свое мнение, когда увидел технологию ChatGPT, которую мы видим сейчас.
Он пришел к выводу, что в некоторых отношениях системы более мощные, чем человеческий мозг. ** Мы с вами не можем понять весь Интернет, он недосягаем для человека. Мы не можем извлечь уроки из такого количества данных, но система может. **Он обеспокоен тем, что они используются для распространения дезинформации, в данном случае ненастоящего текста, ненастоящего изображения, ненастоящего видео.
**Вдобавок к этому, он также беспокоится о том, что система начинает отнимать у людей рабочие места; его также беспокоят некоторые более серьезные проблемы, такие как использование автоматизированных систем на поле боя, использование их в качестве оружия; он даже обеспокоен тем, что в более длительный период времени, мы потеряем контроль над ИИ. **
Технология Тенсент:
Давний коллега Хинтона Янн Лекун и другие ученые в области ИИ действительно много говорили в последнее время о преувеличении средств массовой информации возможностей и угроз ИИ. Как вы думаете, он прав? Каким образом средства массовой информации могут усложнить эти вопросы больше, чем они есть на самом деле?
Кейд Мец:
** Я думаю, что СМИ преувеличивают. Когда Chat GPT был впервые выпущен, люди не видели его недостатков, и прошло много времени, прежде чем они поняли, что он генерирует дезинформацию, чтобы ввести людей в заблуждение.Многие люди, в том числе журналисты, с трудом понимают, что происходит.Поэтому они продолжают вводить людей в заблуждение по мере их распространения. ** В этом случае легко может произойти чрезмерная шумиха.
Конечно, иногда умышленное преувеличение происходит от недоразумений, но одни люди накручивают намеренно, а другие бессознательно. Но я думаю, это в основном потому, что люди не до конца понимают, что они видят.
Технология Тенсент:
Как вы думаете, каково историческое значение нынешнего бума ИИ? Это начало новой промышленной революции?
Кейд Мец:
Возможно. Я думаю, что мы продолжим видеть улучшения в этих системах. **Они смогут обрабатывать не только текст, но и изображения. Мы видели, как последняя версия технологии, созданной OpenAI, берет изображение и описывает, что на нем находится, отвечая на вопросы об этом. Это еще не общедоступно, но это часть того, что они построили. Он обещает, что все больше и больше навыков будут похожи на человеческие и продолжат менять работу людей.
Поэтому я думаю, что то, что мы видели за последние шесть месяцев, говорит о том, что в ближайшие несколько лет нас ждет действительно большой сдвиг. Похоже, что эта трансформация будет столь же далеко идущей, как и первая промышленная революция. Мы все еще находимся на ранних стадиях. Эти вещи часто идут медленнее, чем люди думают. Но я думаю, что мы движемся в этом направлении.
Технология Тенсент:
Как, по вашему мнению, ИИ изменит это общество? Где ценность человека, когда реализуется ОИИ?
Кейд Мец:
Я думаю, что людям было бы трудно иметь систему, которая может делать все то же, что и человеческий мозг, так называемый ОИИ.
**Если бы машина могла делать все то же, что и человек, тогда ценность работника упала бы до нуля, потому что использовать машину было бы дешевле, чем нанимать человека. На мой взгляд, это не очень хорошая ситуация для человека. ** Но ИИ пока нет.
Возьмем в качестве примера компьютерных программистов. Сегодня система может очень хорошо генерировать компьютерные программы и компьютерные коды, но в коде все еще могут быть дефекты. Ей по-прежнему нужен опытный программист, который возьмет на себя созданный ими код, отредактирует и интегрирует его. большая программа, в конечном итоге создающая приложение. По мере того, как эти системы будут улучшаться с течением времени, они заменят все больше и больше того, что делают люди. Проблема на данном этапе заключается в том, что ИИ скоро начнет заменять менее опытных младших программистов, людей, находящихся на дне индустрии программистов, которые делают то же самое, что и ИИ, пишут какой-то базовый код и передают его более опытным. программисты люди для интеграции.
** По мере того, как ИИ продолжает совершенствоваться, машины, безусловно, будут все больше и больше меняться, но мы еще не достигли того момента, когда ИИ внезапно заменит большое количество рабочих мест. **
Еще меня беспокоит то, что эти системы могут генерировать реалистичный текст и изображения. Они даже начинают генерировать видео на лету, мы не сможем отличить, что реально, а что нет в Интернете, и нам абсолютно необходимо изменить свое мышление при просмотре почти всего в Интернете. Вы должны спросить массы, в силах ли они изменить свое мышление в целом. **