Назва «Три великі трійки в глибокому навчанні», безумовно, не є чужою для читачів під час зростання ШІ. Але які критерії оцінки використовуються, щоб виділити Гінтона, Янна Лекуна та Йошуа Бенгіо як гігантів серед талантів глибокого навчання? Немає змагань, дебатів і рейтингів.Це звання визначив найвідоміший репортер у сфері штучного інтелекту Кейд Метц ще 18 років тому.
Як старший автор журналу Wired, головний автор колонки про штучний інтелект у New York Times та автор книги Deep Learning Revolution, Кейд Метц взяв інтерв’ю у всіх відомих експертів у галузі штучного інтелекту протягом більш ніж десяти років. досвіду роботи, Сем Альтман проконсультувався з ним перед запуском ChatGPT, а Хінтон поговорив з ним після того, як покинув Google. Завдяки контакту з цими ключовими діячами він також заглибився в такі гіганти штучного інтелекту, як Microsoft, Google і Meta, щоб викопати основні моменти та драматичні сцени, що стоять за різними основними бізнес-рішеннями.Книга «Революція глибокого навчання», написана деякий час тому, також була написана. вперше розкрито Таємний аукціон, який змінив курс на штучний інтелект десять років тому.
У книзі детально розповідається про аукціон, який відбувся в 2012 році і мав глибокий вплив на всю індустрію штучного інтелекту.
У грудні 2012 року Хінтон, який не міг сидіти на місці через грижу міжхребцевого диска, залишився з двома своїми студентами на тиждень у готелі-казино біля підніжжя лижних гір озера Тахо. Він і його новостворена компанія без будь-яких продуктів приймають раунди торгів від найвідоміших компаній світу, включаючи Microsoft, Google, Deepmind і Baidu.
Найбільш драматична сцена виникла, коли Хінтон мав справу з раптовим візитом Ю Кая, тодішнього заступника декана науково-дослідного інституту, надісланого Baidu.Щоб «не дозволити йому думати, що я старий», він попросив своїх студентів збирайте речі щоразу, щоб дозволити йому Біль у поперековому відділі полегшив балдахін, який тимчасово був побудований з подушок для дивана, що викликало у них неабияке хвилювання. Під час певного візиту Хінтон зіткнувся з лівим рюкзаком Ю Кая і довго боровся зі студентами, чи варто шукати інформацію про резервну ціну Baidu. Але врешті-решт гідність змусила їх здатися. Нарешті, через тиждень, Хінтон прийняв пропозицію Google, продав компанію, яка досі була абсолютно порожньою, гіганту за 44 мільйони доларів і відкрив завісу гігантської війни ШІ.
Протягом усієї його кар'єри такі сцени, повні деталей і драматичних конфліктів, можна побачити всюди. Тому не буде перебільшенням назвати його найглибшим спостерігачем у сфері ШІ.
У цьому інтерв’ю Метц ще раз продемонстрував свої глибокі знання в галузі штучного інтелекту, від історії та основних моментів глибокого навчання до майбутнього ШІ та його впливу на людське суспільство. Він також у стилі спостерігача оцінив ситуацію зі штучним інтелектом у Китаї.
Він вважає, що Сем Альтман може виділити OpenAI головним чином тому, що його потужна здатність до переговорів сприяла співпраці між OpenAI і Microsoft. Він також вважає, що розрив між Китаєм і Сполученими Штатами в ШІ не такий великий, як думає громадськість, оскільки сама існуюча технологія не має рову. Щодо майбутнього штучного інтелекту, його хвилює те ж саме, що й Хінтона, і він хвилюватиметься, що поява AGI призведе до величезних змін у суспільстві. Спостерігачі зрозуміли, нижче наведені висновки спостерігачів ШІ.
Зосередитися на:
1 Два важливі моменти в розвитку штучного інтелекту, один — це публікація статті AlexNet, що дозволяє академічній спільноті зрозуміти, що нейронні мережі можуть досягти великих успіхів у розпізнаванні зображень. Іншим є випуск ChatGPT, який відкрив очі громадськості.
2 Дуже ймовірно, що китайські компанії незабаром наздоженуть OpenAI щодо мовних моделей, оскільки загальний розрив у знаннях, фінансуванні та ресурсах між ними не такий великий.
3 Ажіотаж навколо штучного інтелекту існує, тому що люди мало знають про обмеження системи. GPT слабкий у міркуваннях і прогнозах, набагато нижче рівня AGI. Але ризики ШІ на цьому етапі справді реальні.
4 Якщо прийде ГРМ, стан людини буде гіршим. Тому що їхня цінність як працівників тоді впаде до нуля, і буде дешевше, щоб машини робили все це, ніж наймати людей. Але нинішній ШІ ще далекий від цієї мети.
Розрив між Китаєм і Сполученими Штатами не такий великий, ШІ не має рову
Технологія Tencent:
Тепер, коли історія OpenAI потрапила в центр уваги, ви багато написали про її заснування та шлях у своїй книзі. Чи можете ви поговорити про Сема Альтмана? Які якості допомогли йому привести OpenAI туди, де вона є сьогодні?
Кейд Мец:
**Сем дуже амбітний і йому вдається переконувати людей робити те, що він хоче від них. Відверто кажучи, він добре вміє створювати команди та направляти їх на певний шлях. **Це не лише рівень розвитку навичок. Для цього їм потрібні великі гроші. Навчання таких типів систем коштує десятки мільйонів, якщо не сотні мільйонів доларів. Я вже говорив, що аналіз усього тексту в Інтернеті та навчання, а також надання можливості цим системам навчатися самостійно займають місяці та потребують масивних обчислювальних систем, які насправді належать і контролюються великими технологічними компаніями.
Приблизно у 2019 році Сем зібрав понад 1 мільярд доларів. Тож значною частиною його навичок є ведення переговорів щодо угоди. **Це була величезна угода, Сем отримав необхідні кошти та необхідну обчислювальну потужність. Пізніше вони залучили ще понад 11 мільярдів доларів від **Microsoft, на загальну суму майже 13 мільярдів доларів. Це вагома причина, чому він такий ключовий.
Технологія Tencent:
Ви згадали Microsoft, але вона повністю відстала від своїх конкурентів в останній хвилі ШІ. Тоді чому Microsoft може скористатися цією можливістю в цій хвилі ШІ та діяти так швидко?
Кейд Мец:
Це цікавий крок для Microsoft. Колись вони відставали від конкурентів, але усвідомлювали важливість технології, яку створювали. Вони також стикалися з багатьма труднощами раніше.Опонент Google та інші компанії мають сценарій, за яким цю технологію можна використовувати: Google вперше широко розгорнув нейронні мережі на телефонах Android і своєму цифровому помічнику Google Home для розпізнавання мовлення. Тому, коли ви використовуєте ці розумні колонки у своєму домі, вони зможуть відповісти на ваші запитання. Google може почати розгортати цю технологію так швидко, тому що у них є сценарії та апаратне забезпечення для її розгортання. Microsoft не має такого сценарію.
Але коли Microsoft нарешті спробувала його розгорнути, вони зіткнулися з іншими проблемами. Кілька років тому вони запустили чат-бот під назвою Tay у США, і майже одразу після того, як він потрапив на полиці, він почав генерувати кілька образливих повідомлень, у тому числі расистських. Корпорація Майкрософт може видалити це лише найближчим часом.
**Це одна сторона історії, оскільки технологія штучного інтелекту розвивається в США, оскільки ці системи іноді генерують непотрібний текст, упереджений проти певних людей і породжує ворожнечу. Тому великим компаніям важко прийняти рішення про випуск цього продукту, і вони не хочуть ризикувати. Але Microsoft співпрацює з OpenAI, який запускає систему, щоб люди не реагували на її недоліки так різко, як на Microsoft. ** Люди погодяться, що ці помилки походять від невеликої та невідомої компанії, але не від такої відомої компанії, як Microsoft.
Технологія Tencent:
За вашими спостереженнями, наскільки великий розрив між Китаєм і США у сфері штучного інтелекту? Які, на вашу думку, переваги має Китай у штучному інтелекті?
Кейд Мец:
Китай вже деякий час працює над цим. Є багато людей і компаній, які розуміються на задіяних тут технологіях, але можуть виникнути труднощі. Комп'ютерні мікросхеми, необхідні для навчання цих систем, виробляються на найвищому рівні американськими компаніями. Зараз діє заборона на торгівлю, ці чіпи не можна продавати в Китай. Це може бути недоліком.
Ми побачимо, як це вийде, коли справа дійде до створення цієї технології. **Сем Альтман нещодавно сказав, що, на його думку, Китай відстає на два роки. Це оцінка. Я думаю, що індустрія в цілому може досить швидко наздогнати те, що він і його компанія роблять. Ми вже починаємо це бачити, і я думаю, що це також може статися в Китаї. **
Технологія Tencent:
Цей розрив збільшується чи зменшується?
Кейд Мец:
Через заборону торгівлі важко сказати. Це труднощі, з якими стикається Китай. Наскільки мені відомо, Китай наполегливо працює над створенням, проектуванням і постачанням мікросхем і обладнання, необхідних для центрів обробки даних.
**Незалежно від того, в Китаї чи в Сполучених Штатах нам доведеться мати справу з багатьма потенційними ролями, які відіграють торгові суперечки, наприклад конкуренція. Зараз загальновизнано, що технологія OpenAI наразі випереджає більшість своїх конкурентів. Але у світі є багато інших компаній, які мають достатньо знань, грошей і доступу до ресурсів, необхідних для справжньої конкуренції. **
Таким чином, ми все ще перебуваємо на ранніх стадіях конкуренції зі штучним інтелектом, і нам ще належить дослідити багато доріг. Результат ще потрібно почекати і побачити.
Технологія Tencent:
Ви згадали Baidu у своїй книзі. Китайська компанія також почала експериментувати з цим видом технології штучного інтелекту в 2012 році, вже на ранніх стадіях гонки. Як ви думаєте, чому сьогодні не виявилося сили? Які, на вашу думку, основні фактори, що сприяють цій ситуації?
Кейд Мец:
**Я вважаю, що ідеї розвиваються. **Глибоке навчання відоме в усьому світі, і дослідники в Китаї розробили подібні методи. Але так само, як і в США, люди були вражені тим, наскільки добре спрацював той етап навчання зворотного зв’язку, про який я згадував раніше. **Таким чином, вони на крок відстають від багатьох у США у застосуванні цієї техніки (навчання з людським відгуком) до великих мовних моделей. **
Технологія Tencent:
Ви згадали, що багато інших компаній також беруть участь у цій гонці, окрім великих, таких як OpenAI, Google і Meta, чи є маленькі компанії, на які варто звернути увагу?
Кейд Мец:
Є компанія Anthropic, яка була заснована групою людей, які залишили OpenAI. Компанія не дуже відома, але вона буде важливою в цьому просторі. Вони допомогли розробити значну частину технології, яка сформувала ChatGPT, і створили власного чат-бота, який ще не був випущений для широкого загалу. Я оцінюю, що його можливості можна порівняти з ChatGPT.
У Торонто є компанія під назвою Coherence, яка робить щось подібне; у США є компанія під назвою Character.AI, заснована колишніми працівниками Google; є ще одна компанія під назвою Inflection AI, заснована одним із засновників DeepMind of. DeepMind — ще одна важлива лабораторія в Лондоні, яка фактично належить Google.
Технологія Tencent:
Які можливості для компаній, що розвиваються в сегменті AI?
Кейд Мец:
Принцип роботи цих невеликих доменів полягає в тому, що як тільки хтось побудує систему, яка називається великою мовною моделлю, ви можете використовувати її для побудови всіх видів інших методів. Ви можете створити чат-бота, ви можете створити пошукову систему, ви можете створити персонального репетитора. **То що робить OpenAI, вони створили цю основну систему. Вони називають це GPT-4, а потім пропонують цю систему будь-якому іншому бізнесу, який хоче її використовувати. Це спосіб створення інших програм.
Це те, що ми починаємо бачити. **Я думаю, ви побачите такі компанії, як OpenAI, які пропонують такі послуги. Кожен може використовувати його для створення власних додатків на його основі. **Тож я думаю, що існують різноманітні можливості, коли компанії можуть використовувати цю основну послугу, а потім створювати на її основі нові речі та продавати ці програми. Але найскладніше — побудувати цей основний сервіс, і не багато компаній можуть це зробити. У Сполучених Штатах є такі гіганти, як Google, Microsoft і Meta, і лише кілька стартапів мають необхідний капітал і талант. Як я вже казав раніше, вам потрібні сотні мільйонів доларів, щоб створити цю основну систему. **Тож наразі меншим компаніям важко конкурувати з ними щодо створення базової моделі. **
Багато людей думають, що зі зниженням цін і покращенням проектів з відкритим кодом людям стане простіше створювати власні базові системи, і це з часом зміниться. Але я не впевнений.
Дві віхи в розвитку ШІ: аукціон і народження ChatGPT
Технологія Tencent:
Як старший автор штучного інтелекту, ви в основному зосереджувалися на сфері глибокого навчання протягом своєї десятирічної кар’єри, і ви закріпили всі важливі ролі в цій галузі та брали участь у різних вирішальних моментах між ними. Що спонукало Вас звернути увагу на цю сферу?
Кейд Мец:
Приблизно у 2011 чи 2012 я приєднався до Wired у Сан-Франциско. Це один із напрямків, на якому я вирішив зосередитися. У той час більше десяти років тому вже було чутно, що це поле стане дуже важливим. Саме тоді сталася пара ключових моментів, які зацікавили мене технологією.
Хінтон є головним героєм книги «Революція глибокого навчання», і я писав про його підйом і ключову концепцію нейронних мереж, яка спонукала до багатьох досягнень за останні 10 років. Зрештою він приєднався до Google у 2013 році.
Пізніше я дізнався, що це був аукціон між деякими з найбільших світових технологічних компаній, включаючи Google, Microsoft і китайську Baidu. Це був ключовий момент, і ви могли побачити, як щось почало відбуватися. З роками я почав охоплювати простір все більше і більше, і познайомився з такими людьми, як Хінтон і його давній колега Ян Лекун, який згодом приєднався до Facebook, а тепер і до Meta, серед інших людей у цій галузі. Ми почали робити багато висвітлення в Wired, а потім воно ставало все більшим і більшим. Зрештою я вирішив написати книгу про цю сферу, яку я продовжив висвітлювати, коли перейшов з Wired до The New York Times.
Технологія Tencent:
Як репортер, який тривалий час стежив за штучним інтелектом, це ніби проходив цикл. Ви пережили найважчий період у сфері машинного навчання, штучного інтелекту. На вашу думку, що змусило Гінтона та інших наполягати?
Кейд Мец:
Хінтон почав працювати над нейронними мережами в 1972 році. Тоді майже ніхто не вірив, що це вдасться, тому що** вся сфера штучного інтелекту відмовилася від напряму нейронних мереж. Але ** Хінтон — людина зі своїм розумом, яка дійсно вірить у те, у що вірить, і він непохитний у цьому напрямку.
**До 1980-х років, значною мірою завдяки власним зусиллям Гінтона, технологія досягла значного прогресу. Багато людей знову почали вірити в цю ідею. Але на початку 90-х люди знову здалися, але він продовжував працювати, і він завжди зберігав свою послідовність. ** Вони вірили, що ідея продовжуватиме вдосконалюватися, і мали рацію. Частина того, що робить цю історію такою цікавою, полягає в тому, що вони продовжують працювати, незважаючи на такий скептицизм, навіть з боку їхніх близьких колег.
Моментом, який дійсно відкрив очі всій індустрії, стало те, що зараз відомо як газета AlexNet. Ця дослідницька стаття, написана Хінтоном і двома його студентами з Університету Торонто, показує, що нейронні мережі можуть досягти великих успіхів у розпізнаванні зображень, ідентифікації об’єктів на фотографіях, таких як квіти, автомобілі, люди, тварини тощо.
Коли стаття була опублікована в 2012 році, вона відкрила очі Google, Microsoft, Baidu і, зрештою, Facebook. Ми бачимо цю війну за таланти, цей порив застосувати цю ідею в деяких найбільших компаніях на планеті, не лише для розпізнавання зображень, але й для розпізнавання мови, перекладу тощо. Цей документ був ключовим моментом. Ось чому моя книга починається з цього паперу**, це той момент, коли Хінтон продав свою компанію на аукціоні тому, хто запропонував найвищу ціну, і це викликало все інше. **
З тих пір і до сьогодні ми продовжуємо вдосконалюватися. Згадане вище пробудження обізнаності галузі в 2012 році стало критичним моментом, а через 10 років було випущено ChatGPT, що є ще одним критичним моментом. Обидва ці моменти є дуже важливими поворотними моментами, коли ми озираємося на історію ШІ.
Технологія Tencent:
**У своїй книзі ви описуєте розвиток глибокого навчання, а такі віхи продуктів, як AlphaGo, Deepfake і серія GPT, викликали широке громадське обговорення. Але до появи ChatGPT всі справді відчували, що наближається справжня промислова революція.Чим же серія GPT така різна? **
Кейд Мец:
Це чудове запитання. Технології, пов’язані з GPT і ChatGPT, розроблялися протягом деякого часу. Кілька компаній розробляли цю техніку протягом останніх п’яти років, причому OpenAI зрештою розробила Chat GPT, а такі компанії, як Google, Meta (раніше Facebook) і Microsoft також почали розробляти так звані великі мовні моделі п’ять років тому.
Ідея технології полягає в тому, щоб побудувати нейронну мережу, математичну систему, яка може навчатися на даних. Подайте йому якомога більше тексту, і він проаналізує цей текст, і в процесі аналізу цього тексту він навчиться генерувати текст сам. Аналізуючи статті Вікіпедії, дописи в блогах, журнали чатів і різний вміст в Інтернеті, він розпізнав шаблони в тому, як ми складаємо слова, і навчився це робити. Протягом останніх кількох років ми бачили, як ця технологія реалізується, і було випущено кілька цікавих систем.
OpenAI випустив GPT-2, GPT-3, усі вони дуже вражаючі. Ми бачимо, як ці системи починають створювати текст, як люди. Але саме випуск ChatGPT змусив широку громадськість це зрозуміти. Інші компанії випустили свої власні чат-боти навіть місяці, тижні тому, як Meta (колишній Facebook) випустила чат-бота в науковому співтоваристві, але він був не тільки нецікавим для людей, його також критикували і глузували. Тому що це створює дезінформацію, і люди цим дуже засмучені. Мета швидко зняв це. Але незабаром після цього OpenAI випустив ChatGPT у Twitter.
**Він став популярним частково завдяки тому, як він був випущений, а частково завдяки компанії, яка його випустила. Але ChatGPT покращує деякі ключові технічні аспекти. Тому що, будуючи ці великі мовні моделі, вивчені з усього Інтернету, вони застосовують до них відгук людини. Вони попросили людей оцінити відповіді чат-бота. Чи просять вони оцінити відповідь як хорошу? це реально Це працює? Вони ставлять йому «подобається» або «не подобається», а потім повертають ці оцінки в систему та дозволяють їй вчитися на цих оцінках. **
Таким чином вони змогли відточити це до того, що майже кожен раз, коли чат-бот запитував, він видавав переконливий текст. Це може не завжди бути правдою та все одно генерувати дезінформацію, але **воно доноситься до людей чуйним способом, яким люди насправді користуються. Не лише з фахівцями у цій галузі, а з ким завгодно. Це справді захопило уяву людей. **Відбувся справжній зсув у сприйнятті цієї технології не лише серед звичайних людей, але й серед багатьох дослідників у цій галузі технологій. Популярність ChatGPT започаткувала нову еру цього типу технологій і нову гонку до все більш вражаючого штучного інтелекту.
Технологія Tencent:
Отже, ви вважаєте, що ключовим технічним фактором успіху ChatGPT є в основному RLHF (навчання за допомогою відгуків людей)?
Кейд Мец:
Так, якщо ви використовуєте якусь попередню версію, наприклад **GPT-3, іноді це може вражати, коли ви запитуєте про це певним чином. Наприклад, якщо ви попросите його говорити в стилі Дональда Трампа, є приблизно половина шансів, що він вимовить вражаючу промову. Це трохи схоже на кидання кубиків, іноді це дає вам те, що ви хочете, а іноді ні. У цьому випадку система не привертає уваги звичайних людей. **Але вони взяли цю базову систему, але кожного разу, коли система видавала відповідь, вони змушували анотаторів оцінювати її. Він може брати оцінки від людей, бачити, як вони оцінюють ці відповіді, і використовувати це для перенавчання системи. Анотатор повідомляє GPT, яка відповідь хороша, а яка погана.
Згодом OpenAI отримав чат-бота, який майже кожного разу може спілкуватися як людина. Вони представили цю систему простим людям, і ця гаряча дискусія є тим, як люди реагують на її появу. У Твіттері будь-хто може ним скористатися, і люди справді реагують на це.
AGI ще далеко, але його поява замінить всю цінність людської праці
Технологія Tencent:
Деякий час тому Маск сказав в інтерв’ю, що AGI буде реалізовано протягом 5-6 років.Як ви думаєте, AGI буде легкою метою?
Кейд Мец:
Це дійсно важко сказати, і на цю тему точиться багато суперечок. **Ми знаємо, що сучасні системи штучного інтелекту далеко не на цьому рівні. Вони можуть вимовляти вражаючу мову, але вони не можуть міркувати, як люди, і не мають людського здорового глузду. **
Багато людей вважають, що нам потрібні нові способи, щоб дати їм цю здатність, і наші поточні методи не можуть допомогти їм досягти AGI. Їм потрібно знати більше про фізичний світ, ніж просто мову. Про це багато дискусій і розбіжностей, але це точно не те, про що ми повинні думати сьогодні, і ми ще не достатньо близькі до AGI.
Технологія Tencent:
Як ви думаєте, чого не вистачає поточній системі порівняно зі справжнім загальним штучним інтелектом?
Кейд Мец:
При використанні цих систем можна легко знайти недоліки поточного ШІ. Якщо ви спробуєте змусити їх міркувати як люди, іноді вони можуть наслідувати, але здебільшого вони не можуть.
Це справжня складність. **Найбільша різниця між ними та AGI полягає в тому, що вони створюють правдоподібний текст і можуть міркувати. **
**Ці системи дуже добре справляються з подіями, які відбулися в минулому, тобто з тим, що задокументовано в Інтернеті. Але вони не говорять про майбутнє і міркують про те, що може статися. **Ми з вами можемо вести цю розмову, де ми будемо говорити про майбутнє та думати про те, що може статися. Ці системи погано справляються з цим. Вони добре вміють імітувати те, що бачили раніше. Тож вони дуже добре складають стандартизовані тести. Вони настільки добре складають іспити з права, природничих наук і математики в середній школі, що викликають багато шуму в ЗМІ.
**Але інші дослідження показали, що якщо ви ставите їм лише абсолютно нові запитання, які були написані після їхнього навчання, вони не працюють так добре. Отже, хоча вони відповідають на всі ці стандартизовані запитання, вони не обов’язково міркують. **Вони повторюють те, що бачили раніше.
Технологія Tencent:
Щодо загрози штучного інтелекту, наприклад непрозорості, ви записали цікавий уривок із Хінтона в книзі «Людям потрібно жити з проблемою «чорної скриньки», навіть якщо ви не бачите внутрішньої роботи, вони будуть робити те, що від них вимагається. робити», але нещодавно Хінтон залишив Google, і ви також дали з ним інтерв’ю, в якому він висловив багато занепокоєння щодо ШІ. Як ви розумієте зміну ставлення Хінтона до ШІ?
Кейд Мец:
Його мислення точно змінилося. Коли я опублікував книгу, він вважав ризики ШІ досить віддаленими. Але минулого року він змінив свою думку, коли побачив технологію ChatGPT, яку ми бачимо зараз.
Він усвідомив, що певним чином системи є потужнішими за людський мозок. **Ми з вами не можемо осягнути весь Інтернет, він недоступний для людини. Ми не можемо вивчити таку кількість даних, але система може. **Він стурбований тим, що їх використовують для поширення дезінформації, у цьому випадку тексту, який не відповідає дійсності, зображення, яке не відповідає дійсності, відео, яке не відповідає дійсності.
**На додаток до цього, він також стурбований тим, що система починає забирати робочі місця людей; також стурбований деякими більшими проблемами, такими як використання автоматизованих систем на полі бою, їх використання як зброї; він навіть стурбований тим, що в протягом більш тривалого періоду часу ми втратимо контроль над ШІ. **
Технологія Tencent:
Давній колега Хінтона Янн Лекун та інші вчені зі штучного інтелекту останнім часом дійсно багато говорили про перебільшення ЗМІ можливостей і загроз ШІ. Як ви думаєте, він правий? Яким чином ЗМІ можуть ускладнити ці справи більше, ніж вони є насправді?
Кейд Мец:
**Я думаю, що ЗМІ дійсно перебільшують. Коли Chat GPT було вперше випущено, люди не бачили його недоліків, і знадобилося багато часу, перш ніж вони зрозуміли, що він генерує дезінформацію, щоб ввести людей в оману. Багатьом людям, у тому числі журналістам, важко зрозуміти, що відбувається. Тому вони продовжують вводити людей в оману, коли вони поширюються. **У цьому випадку може легко виникнути надмірна реклама.
Звичайно, іноді навмисне перебільшення виникає через непорозуміння, але одні люди розкручують навмисно, а інші несвідомо. Але я думаю, що це здебільшого тому, що люди не до кінця розуміють, що вони бачать.
Технологія Tencent:
Яке, на вашу думку, історичне значення нинішнього буму ШІ? Чи це початок нової промислової революції?
Кейд Мец:
Можливо. Я думаю, ми й надалі спостерігатимемо вдосконалення цих систем. **Вони зможуть обробляти не лише текст, а й зображення. Ми бачили, як остання версія технології, розробленої OpenAI, бере зображення та описує, що в ньому міститься, відповідаючи на запитання про це. Це ще не публічно, але це частина того, що вони створили. Це обіцяє, що все більше й більше навичок буде подібним до людських і продовжуватиме змінювати роботу людей.
Тож я думаю, що те, що ми бачили за останні шість місяців, говорить про те, що ми матимемо справді великі зміни в наступні кілька років. Схоже, що ця трансформація буде такою ж масштабною, як перша промислова революція. Ми все ще на ранніх стадіях. Ці речі часто відбуваються повільніше, ніж люди думають. Але я думаю, що ми рухаємося в цьому напрямку.
Технологія Tencent:
Як, на вашу думку, ШІ змінить це суспільство? Де цінність людей, коли реалізується AGI?
Кейд Мец:
Я думаю, що для людей було б важко мати систему, яка могла б робити все, що може зробити людський мозок, так званий AGI.
**Якби машина могла робити все, що може робити людина, тоді цінність працівника впала б до нуля, тому що використовувати машину було б дешевше, ніж найняти людину. На мій погляд, це погана ситуація для людей. ** Але штучного інтелекту ще немає.
Візьмемо комп’ютерних програмістів як приклад. Сьогодні система може створювати комп’ютерні програми та комп’ютерні коди дуже добре, але код все ще може мати дефекти. Вона все ще потребує досвідченого програміста, щоб взяти на себе створений ними код, відредагувати та інтегрувати його. більшу програму, зрештою створюючи програму. Оскільки з часом ці системи вдосконалюватимуться, вони замінюватимуть усе більше того, що роблять люди. Проблема на цьому етапі полягає в тому, що штучний інтелект незабаром почне замінювати менш досвідчених програмістів-молодших, людей, які знаходяться на дні індустрії програмістів, які роблять те саме, що й штучний інтелект, пишуть базовий код і передають його більш досвідченим. програмістів, людей для інтеграції.
** Оскільки штучний інтелект продовжує вдосконалюватися, машини, безсумнівно, все більше змінюватимуть ситуацію, але ми ще не на тому етапі, коли штучний інтелект раптово замінить велику кількість робочих місць. **
Інше, що мене хвилює, полягає в тому, що ці системи можуть генерувати реалістичний текст і зображення. Вони навіть починають генерувати відео на льоту, ми не зможемо відрізнити правду від того, чого немає в Інтернеті, і нам доведеться абсолютно змінити наше мислення під час перегляду майже будь-чого в Інтернеті. Ви повинні запитати маси, чи мають вони силу змінити спосіб мислення в цілому. **
Переглянути оригінал
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Інтерв’ю з легендарним репортером зі штучного інтелекту Кейдом Метцом: У галузі немає рову, і Китай скоро наздожене OpenAI
Автор Tencent Technology Хао Боян
Назва «Три великі трійки в глибокому навчанні», безумовно, не є чужою для читачів під час зростання ШІ. Але які критерії оцінки використовуються, щоб виділити Гінтона, Янна Лекуна та Йошуа Бенгіо як гігантів серед талантів глибокого навчання? Немає змагань, дебатів і рейтингів.Це звання визначив найвідоміший репортер у сфері штучного інтелекту Кейд Метц ще 18 років тому.
Як старший автор журналу Wired, головний автор колонки про штучний інтелект у New York Times та автор книги Deep Learning Revolution, Кейд Метц взяв інтерв’ю у всіх відомих експертів у галузі штучного інтелекту протягом більш ніж десяти років. досвіду роботи, Сем Альтман проконсультувався з ним перед запуском ChatGPT, а Хінтон поговорив з ним після того, як покинув Google. Завдяки контакту з цими ключовими діячами він також заглибився в такі гіганти штучного інтелекту, як Microsoft, Google і Meta, щоб викопати основні моменти та драматичні сцени, що стоять за різними основними бізнес-рішеннями.Книга «Революція глибокого навчання», написана деякий час тому, також була написана. вперше розкрито Таємний аукціон, який змінив курс на штучний інтелект десять років тому.
У книзі детально розповідається про аукціон, який відбувся в 2012 році і мав глибокий вплив на всю індустрію штучного інтелекту.
У грудні 2012 року Хінтон, який не міг сидіти на місці через грижу міжхребцевого диска, залишився з двома своїми студентами на тиждень у готелі-казино біля підніжжя лижних гір озера Тахо. Він і його новостворена компанія без будь-яких продуктів приймають раунди торгів від найвідоміших компаній світу, включаючи Microsoft, Google, Deepmind і Baidu.
Найбільш драматична сцена виникла, коли Хінтон мав справу з раптовим візитом Ю Кая, тодішнього заступника декана науково-дослідного інституту, надісланого Baidu.Щоб «не дозволити йому думати, що я старий», він попросив своїх студентів збирайте речі щоразу, щоб дозволити йому Біль у поперековому відділі полегшив балдахін, який тимчасово був побудований з подушок для дивана, що викликало у них неабияке хвилювання. Під час певного візиту Хінтон зіткнувся з лівим рюкзаком Ю Кая і довго боровся зі студентами, чи варто шукати інформацію про резервну ціну Baidu. Але врешті-решт гідність змусила їх здатися. Нарешті, через тиждень, Хінтон прийняв пропозицію Google, продав компанію, яка досі була абсолютно порожньою, гіганту за 44 мільйони доларів і відкрив завісу гігантської війни ШІ.
Протягом усієї його кар'єри такі сцени, повні деталей і драматичних конфліктів, можна побачити всюди. Тому не буде перебільшенням назвати його найглибшим спостерігачем у сфері ШІ.
У цьому інтерв’ю Метц ще раз продемонстрував свої глибокі знання в галузі штучного інтелекту, від історії та основних моментів глибокого навчання до майбутнього ШІ та його впливу на людське суспільство. Він також у стилі спостерігача оцінив ситуацію зі штучним інтелектом у Китаї.
Він вважає, що Сем Альтман може виділити OpenAI головним чином тому, що його потужна здатність до переговорів сприяла співпраці між OpenAI і Microsoft. Він також вважає, що розрив між Китаєм і Сполученими Штатами в ШІ не такий великий, як думає громадськість, оскільки сама існуюча технологія не має рову. Щодо майбутнього штучного інтелекту, його хвилює те ж саме, що й Хінтона, і він хвилюватиметься, що поява AGI призведе до величезних змін у суспільстві. Спостерігачі зрозуміли, нижче наведені висновки спостерігачів ШІ.
Розрив між Китаєм і Сполученими Штатами не такий великий, ШІ не має рову
Технологія Tencent:
Тепер, коли історія OpenAI потрапила в центр уваги, ви багато написали про її заснування та шлях у своїй книзі. Чи можете ви поговорити про Сема Альтмана? Які якості допомогли йому привести OpenAI туди, де вона є сьогодні?
Кейд Мец:
**Сем дуже амбітний і йому вдається переконувати людей робити те, що він хоче від них. Відверто кажучи, він добре вміє створювати команди та направляти їх на певний шлях. **Це не лише рівень розвитку навичок. Для цього їм потрібні великі гроші. Навчання таких типів систем коштує десятки мільйонів, якщо не сотні мільйонів доларів. Я вже говорив, що аналіз усього тексту в Інтернеті та навчання, а також надання можливості цим системам навчатися самостійно займають місяці та потребують масивних обчислювальних систем, які насправді належать і контролюються великими технологічними компаніями.
Приблизно у 2019 році Сем зібрав понад 1 мільярд доларів. Тож значною частиною його навичок є ведення переговорів щодо угоди. **Це була величезна угода, Сем отримав необхідні кошти та необхідну обчислювальну потужність. Пізніше вони залучили ще понад 11 мільярдів доларів від **Microsoft, на загальну суму майже 13 мільярдів доларів. Це вагома причина, чому він такий ключовий.
Технологія Tencent:
Ви згадали Microsoft, але вона повністю відстала від своїх конкурентів в останній хвилі ШІ. Тоді чому Microsoft може скористатися цією можливістю в цій хвилі ШІ та діяти так швидко?
Кейд Мец:
Це цікавий крок для Microsoft. Колись вони відставали від конкурентів, але усвідомлювали важливість технології, яку створювали. Вони також стикалися з багатьма труднощами раніше.Опонент Google та інші компанії мають сценарій, за яким цю технологію можна використовувати: Google вперше широко розгорнув нейронні мережі на телефонах Android і своєму цифровому помічнику Google Home для розпізнавання мовлення. Тому, коли ви використовуєте ці розумні колонки у своєму домі, вони зможуть відповісти на ваші запитання. Google може почати розгортати цю технологію так швидко, тому що у них є сценарії та апаратне забезпечення для її розгортання. Microsoft не має такого сценарію.
Але коли Microsoft нарешті спробувала його розгорнути, вони зіткнулися з іншими проблемами. Кілька років тому вони запустили чат-бот під назвою Tay у США, і майже одразу після того, як він потрапив на полиці, він почав генерувати кілька образливих повідомлень, у тому числі расистських. Корпорація Майкрософт може видалити це лише найближчим часом.
**Це одна сторона історії, оскільки технологія штучного інтелекту розвивається в США, оскільки ці системи іноді генерують непотрібний текст, упереджений проти певних людей і породжує ворожнечу. Тому великим компаніям важко прийняти рішення про випуск цього продукту, і вони не хочуть ризикувати. Але Microsoft співпрацює з OpenAI, який запускає систему, щоб люди не реагували на її недоліки так різко, як на Microsoft. ** Люди погодяться, що ці помилки походять від невеликої та невідомої компанії, але не від такої відомої компанії, як Microsoft.
Технологія Tencent:
За вашими спостереженнями, наскільки великий розрив між Китаєм і США у сфері штучного інтелекту? Які, на вашу думку, переваги має Китай у штучному інтелекті?
Кейд Мец:
Китай вже деякий час працює над цим. Є багато людей і компаній, які розуміються на задіяних тут технологіях, але можуть виникнути труднощі. Комп'ютерні мікросхеми, необхідні для навчання цих систем, виробляються на найвищому рівні американськими компаніями. Зараз діє заборона на торгівлю, ці чіпи не можна продавати в Китай. Це може бути недоліком.
Ми побачимо, як це вийде, коли справа дійде до створення цієї технології. **Сем Альтман нещодавно сказав, що, на його думку, Китай відстає на два роки. Це оцінка. Я думаю, що індустрія в цілому може досить швидко наздогнати те, що він і його компанія роблять. Ми вже починаємо це бачити, і я думаю, що це також може статися в Китаї. **
Технологія Tencent:
Цей розрив збільшується чи зменшується?
Кейд Мец:
Через заборону торгівлі важко сказати. Це труднощі, з якими стикається Китай. Наскільки мені відомо, Китай наполегливо працює над створенням, проектуванням і постачанням мікросхем і обладнання, необхідних для центрів обробки даних.
**Незалежно від того, в Китаї чи в Сполучених Штатах нам доведеться мати справу з багатьма потенційними ролями, які відіграють торгові суперечки, наприклад конкуренція. Зараз загальновизнано, що технологія OpenAI наразі випереджає більшість своїх конкурентів. Але у світі є багато інших компаній, які мають достатньо знань, грошей і доступу до ресурсів, необхідних для справжньої конкуренції. **
Таким чином, ми все ще перебуваємо на ранніх стадіях конкуренції зі штучним інтелектом, і нам ще належить дослідити багато доріг. Результат ще потрібно почекати і побачити.
Технологія Tencent:
Ви згадали Baidu у своїй книзі. Китайська компанія також почала експериментувати з цим видом технології штучного інтелекту в 2012 році, вже на ранніх стадіях гонки. Як ви думаєте, чому сьогодні не виявилося сили? Які, на вашу думку, основні фактори, що сприяють цій ситуації?
Кейд Мец:
**Я вважаю, що ідеї розвиваються. **Глибоке навчання відоме в усьому світі, і дослідники в Китаї розробили подібні методи. Але так само, як і в США, люди були вражені тим, наскільки добре спрацював той етап навчання зворотного зв’язку, про який я згадував раніше. **Таким чином, вони на крок відстають від багатьох у США у застосуванні цієї техніки (навчання з людським відгуком) до великих мовних моделей. **
Технологія Tencent:
Ви згадали, що багато інших компаній також беруть участь у цій гонці, окрім великих, таких як OpenAI, Google і Meta, чи є маленькі компанії, на які варто звернути увагу?
Кейд Мец:
Є компанія Anthropic, яка була заснована групою людей, які залишили OpenAI. Компанія не дуже відома, але вона буде важливою в цьому просторі. Вони допомогли розробити значну частину технології, яка сформувала ChatGPT, і створили власного чат-бота, який ще не був випущений для широкого загалу. Я оцінюю, що його можливості можна порівняти з ChatGPT.
У Торонто є компанія під назвою Coherence, яка робить щось подібне; у США є компанія під назвою Character.AI, заснована колишніми працівниками Google; є ще одна компанія під назвою Inflection AI, заснована одним із засновників DeepMind of. DeepMind — ще одна важлива лабораторія в Лондоні, яка фактично належить Google.
Технологія Tencent:
Які можливості для компаній, що розвиваються в сегменті AI?
Кейд Мец:
Принцип роботи цих невеликих доменів полягає в тому, що як тільки хтось побудує систему, яка називається великою мовною моделлю, ви можете використовувати її для побудови всіх видів інших методів. Ви можете створити чат-бота, ви можете створити пошукову систему, ви можете створити персонального репетитора. **То що робить OpenAI, вони створили цю основну систему. Вони називають це GPT-4, а потім пропонують цю систему будь-якому іншому бізнесу, який хоче її використовувати. Це спосіб створення інших програм.
Це те, що ми починаємо бачити. **Я думаю, ви побачите такі компанії, як OpenAI, які пропонують такі послуги. Кожен може використовувати його для створення власних додатків на його основі. **Тож я думаю, що існують різноманітні можливості, коли компанії можуть використовувати цю основну послугу, а потім створювати на її основі нові речі та продавати ці програми. Але найскладніше — побудувати цей основний сервіс, і не багато компаній можуть це зробити. У Сполучених Штатах є такі гіганти, як Google, Microsoft і Meta, і лише кілька стартапів мають необхідний капітал і талант. Як я вже казав раніше, вам потрібні сотні мільйонів доларів, щоб створити цю основну систему. **Тож наразі меншим компаніям важко конкурувати з ними щодо створення базової моделі. **
Багато людей думають, що зі зниженням цін і покращенням проектів з відкритим кодом людям стане простіше створювати власні базові системи, і це з часом зміниться. Але я не впевнений.
Дві віхи в розвитку ШІ: аукціон і народження ChatGPT
Технологія Tencent:
Як старший автор штучного інтелекту, ви в основному зосереджувалися на сфері глибокого навчання протягом своєї десятирічної кар’єри, і ви закріпили всі важливі ролі в цій галузі та брали участь у різних вирішальних моментах між ними. Що спонукало Вас звернути увагу на цю сферу?
Кейд Мец:
Приблизно у 2011 чи 2012 я приєднався до Wired у Сан-Франциско. Це один із напрямків, на якому я вирішив зосередитися. У той час більше десяти років тому вже було чутно, що це поле стане дуже важливим. Саме тоді сталася пара ключових моментів, які зацікавили мене технологією.
Хінтон є головним героєм книги «Революція глибокого навчання», і я писав про його підйом і ключову концепцію нейронних мереж, яка спонукала до багатьох досягнень за останні 10 років. Зрештою він приєднався до Google у 2013 році.
Пізніше я дізнався, що це був аукціон між деякими з найбільших світових технологічних компаній, включаючи Google, Microsoft і китайську Baidu. Це був ключовий момент, і ви могли побачити, як щось почало відбуватися. З роками я почав охоплювати простір все більше і більше, і познайомився з такими людьми, як Хінтон і його давній колега Ян Лекун, який згодом приєднався до Facebook, а тепер і до Meta, серед інших людей у цій галузі. Ми почали робити багато висвітлення в Wired, а потім воно ставало все більшим і більшим. Зрештою я вирішив написати книгу про цю сферу, яку я продовжив висвітлювати, коли перейшов з Wired до The New York Times.
Технологія Tencent:
Як репортер, який тривалий час стежив за штучним інтелектом, це ніби проходив цикл. Ви пережили найважчий період у сфері машинного навчання, штучного інтелекту. На вашу думку, що змусило Гінтона та інших наполягати?
Кейд Мец:
Хінтон почав працювати над нейронними мережами в 1972 році. Тоді майже ніхто не вірив, що це вдасться, тому що** вся сфера штучного інтелекту відмовилася від напряму нейронних мереж. Але ** Хінтон — людина зі своїм розумом, яка дійсно вірить у те, у що вірить, і він непохитний у цьому напрямку.
**До 1980-х років, значною мірою завдяки власним зусиллям Гінтона, технологія досягла значного прогресу. Багато людей знову почали вірити в цю ідею. Але на початку 90-х люди знову здалися, але він продовжував працювати, і він завжди зберігав свою послідовність. ** Вони вірили, що ідея продовжуватиме вдосконалюватися, і мали рацію. Частина того, що робить цю історію такою цікавою, полягає в тому, що вони продовжують працювати, незважаючи на такий скептицизм, навіть з боку їхніх близьких колег.
Моментом, який дійсно відкрив очі всій індустрії, стало те, що зараз відомо як газета AlexNet. Ця дослідницька стаття, написана Хінтоном і двома його студентами з Університету Торонто, показує, що нейронні мережі можуть досягти великих успіхів у розпізнаванні зображень, ідентифікації об’єктів на фотографіях, таких як квіти, автомобілі, люди, тварини тощо.
Коли стаття була опублікована в 2012 році, вона відкрила очі Google, Microsoft, Baidu і, зрештою, Facebook. Ми бачимо цю війну за таланти, цей порив застосувати цю ідею в деяких найбільших компаніях на планеті, не лише для розпізнавання зображень, але й для розпізнавання мови, перекладу тощо. Цей документ був ключовим моментом. Ось чому моя книга починається з цього паперу**, це той момент, коли Хінтон продав свою компанію на аукціоні тому, хто запропонував найвищу ціну, і це викликало все інше. **
З тих пір і до сьогодні ми продовжуємо вдосконалюватися. Згадане вище пробудження обізнаності галузі в 2012 році стало критичним моментом, а через 10 років було випущено ChatGPT, що є ще одним критичним моментом. Обидва ці моменти є дуже важливими поворотними моментами, коли ми озираємося на історію ШІ.
Технологія Tencent:
**У своїй книзі ви описуєте розвиток глибокого навчання, а такі віхи продуктів, як AlphaGo, Deepfake і серія GPT, викликали широке громадське обговорення. Але до появи ChatGPT всі справді відчували, що наближається справжня промислова революція.Чим же серія GPT така різна? **
Кейд Мец:
Це чудове запитання. Технології, пов’язані з GPT і ChatGPT, розроблялися протягом деякого часу. Кілька компаній розробляли цю техніку протягом останніх п’яти років, причому OpenAI зрештою розробила Chat GPT, а такі компанії, як Google, Meta (раніше Facebook) і Microsoft також почали розробляти так звані великі мовні моделі п’ять років тому.
Ідея технології полягає в тому, щоб побудувати нейронну мережу, математичну систему, яка може навчатися на даних. Подайте йому якомога більше тексту, і він проаналізує цей текст, і в процесі аналізу цього тексту він навчиться генерувати текст сам. Аналізуючи статті Вікіпедії, дописи в блогах, журнали чатів і різний вміст в Інтернеті, він розпізнав шаблони в тому, як ми складаємо слова, і навчився це робити. Протягом останніх кількох років ми бачили, як ця технологія реалізується, і було випущено кілька цікавих систем.
OpenAI випустив GPT-2, GPT-3, усі вони дуже вражаючі. Ми бачимо, як ці системи починають створювати текст, як люди. Але саме випуск ChatGPT змусив широку громадськість це зрозуміти. Інші компанії випустили свої власні чат-боти навіть місяці, тижні тому, як Meta (колишній Facebook) випустила чат-бота в науковому співтоваристві, але він був не тільки нецікавим для людей, його також критикували і глузували. Тому що це створює дезінформацію, і люди цим дуже засмучені. Мета швидко зняв це. Але незабаром після цього OpenAI випустив ChatGPT у Twitter.
**Він став популярним частково завдяки тому, як він був випущений, а частково завдяки компанії, яка його випустила. Але ChatGPT покращує деякі ключові технічні аспекти. Тому що, будуючи ці великі мовні моделі, вивчені з усього Інтернету, вони застосовують до них відгук людини. Вони попросили людей оцінити відповіді чат-бота. Чи просять вони оцінити відповідь як хорошу? це реально Це працює? Вони ставлять йому «подобається» або «не подобається», а потім повертають ці оцінки в систему та дозволяють їй вчитися на цих оцінках. **
Таким чином вони змогли відточити це до того, що майже кожен раз, коли чат-бот запитував, він видавав переконливий текст. Це може не завжди бути правдою та все одно генерувати дезінформацію, але **воно доноситься до людей чуйним способом, яким люди насправді користуються. Не лише з фахівцями у цій галузі, а з ким завгодно. Це справді захопило уяву людей. **Відбувся справжній зсув у сприйнятті цієї технології не лише серед звичайних людей, але й серед багатьох дослідників у цій галузі технологій. Популярність ChatGPT започаткувала нову еру цього типу технологій і нову гонку до все більш вражаючого штучного інтелекту.
Технологія Tencent:
Отже, ви вважаєте, що ключовим технічним фактором успіху ChatGPT є в основному RLHF (навчання за допомогою відгуків людей)?
Кейд Мец:
Так, якщо ви використовуєте якусь попередню версію, наприклад **GPT-3, іноді це може вражати, коли ви запитуєте про це певним чином. Наприклад, якщо ви попросите його говорити в стилі Дональда Трампа, є приблизно половина шансів, що він вимовить вражаючу промову. Це трохи схоже на кидання кубиків, іноді це дає вам те, що ви хочете, а іноді ні. У цьому випадку система не привертає уваги звичайних людей. **Але вони взяли цю базову систему, але кожного разу, коли система видавала відповідь, вони змушували анотаторів оцінювати її. Він може брати оцінки від людей, бачити, як вони оцінюють ці відповіді, і використовувати це для перенавчання системи. Анотатор повідомляє GPT, яка відповідь хороша, а яка погана.
Згодом OpenAI отримав чат-бота, який майже кожного разу може спілкуватися як людина. Вони представили цю систему простим людям, і ця гаряча дискусія є тим, як люди реагують на її появу. У Твіттері будь-хто може ним скористатися, і люди справді реагують на це.
AGI ще далеко, але його поява замінить всю цінність людської праці
Технологія Tencent:
Деякий час тому Маск сказав в інтерв’ю, що AGI буде реалізовано протягом 5-6 років.Як ви думаєте, AGI буде легкою метою?
Кейд Мец:
Це дійсно важко сказати, і на цю тему точиться багато суперечок. **Ми знаємо, що сучасні системи штучного інтелекту далеко не на цьому рівні. Вони можуть вимовляти вражаючу мову, але вони не можуть міркувати, як люди, і не мають людського здорового глузду. **
Багато людей вважають, що нам потрібні нові способи, щоб дати їм цю здатність, і наші поточні методи не можуть допомогти їм досягти AGI. Їм потрібно знати більше про фізичний світ, ніж просто мову. Про це багато дискусій і розбіжностей, але це точно не те, про що ми повинні думати сьогодні, і ми ще не достатньо близькі до AGI.
Технологія Tencent:
Як ви думаєте, чого не вистачає поточній системі порівняно зі справжнім загальним штучним інтелектом?
Кейд Мец:
При використанні цих систем можна легко знайти недоліки поточного ШІ. Якщо ви спробуєте змусити їх міркувати як люди, іноді вони можуть наслідувати, але здебільшого вони не можуть.
Це справжня складність. **Найбільша різниця між ними та AGI полягає в тому, що вони створюють правдоподібний текст і можуть міркувати. **
**Ці системи дуже добре справляються з подіями, які відбулися в минулому, тобто з тим, що задокументовано в Інтернеті. Але вони не говорять про майбутнє і міркують про те, що може статися. **Ми з вами можемо вести цю розмову, де ми будемо говорити про майбутнє та думати про те, що може статися. Ці системи погано справляються з цим. Вони добре вміють імітувати те, що бачили раніше. Тож вони дуже добре складають стандартизовані тести. Вони настільки добре складають іспити з права, природничих наук і математики в середній школі, що викликають багато шуму в ЗМІ.
**Але інші дослідження показали, що якщо ви ставите їм лише абсолютно нові запитання, які були написані після їхнього навчання, вони не працюють так добре. Отже, хоча вони відповідають на всі ці стандартизовані запитання, вони не обов’язково міркують. **Вони повторюють те, що бачили раніше.
Технологія Tencent:
Щодо загрози штучного інтелекту, наприклад непрозорості, ви записали цікавий уривок із Хінтона в книзі «Людям потрібно жити з проблемою «чорної скриньки», навіть якщо ви не бачите внутрішньої роботи, вони будуть робити те, що від них вимагається. робити», але нещодавно Хінтон залишив Google, і ви також дали з ним інтерв’ю, в якому він висловив багато занепокоєння щодо ШІ. Як ви розумієте зміну ставлення Хінтона до ШІ?
Кейд Мец:
Його мислення точно змінилося. Коли я опублікував книгу, він вважав ризики ШІ досить віддаленими. Але минулого року він змінив свою думку, коли побачив технологію ChatGPT, яку ми бачимо зараз.
Він усвідомив, що певним чином системи є потужнішими за людський мозок. **Ми з вами не можемо осягнути весь Інтернет, він недоступний для людини. Ми не можемо вивчити таку кількість даних, але система може. **Він стурбований тим, що їх використовують для поширення дезінформації, у цьому випадку тексту, який не відповідає дійсності, зображення, яке не відповідає дійсності, відео, яке не відповідає дійсності.
**На додаток до цього, він також стурбований тим, що система починає забирати робочі місця людей; також стурбований деякими більшими проблемами, такими як використання автоматизованих систем на полі бою, їх використання як зброї; він навіть стурбований тим, що в протягом більш тривалого періоду часу ми втратимо контроль над ШІ. **
Технологія Tencent:
Давній колега Хінтона Янн Лекун та інші вчені зі штучного інтелекту останнім часом дійсно багато говорили про перебільшення ЗМІ можливостей і загроз ШІ. Як ви думаєте, він правий? Яким чином ЗМІ можуть ускладнити ці справи більше, ніж вони є насправді?
Кейд Мец:
**Я думаю, що ЗМІ дійсно перебільшують. Коли Chat GPT було вперше випущено, люди не бачили його недоліків, і знадобилося багато часу, перш ніж вони зрозуміли, що він генерує дезінформацію, щоб ввести людей в оману. Багатьом людям, у тому числі журналістам, важко зрозуміти, що відбувається. Тому вони продовжують вводити людей в оману, коли вони поширюються. **У цьому випадку може легко виникнути надмірна реклама.
Звичайно, іноді навмисне перебільшення виникає через непорозуміння, але одні люди розкручують навмисно, а інші несвідомо. Але я думаю, що це здебільшого тому, що люди не до кінця розуміють, що вони бачать.
Технологія Tencent:
Яке, на вашу думку, історичне значення нинішнього буму ШІ? Чи це початок нової промислової революції?
Кейд Мец:
Можливо. Я думаю, ми й надалі спостерігатимемо вдосконалення цих систем. **Вони зможуть обробляти не лише текст, а й зображення. Ми бачили, як остання версія технології, розробленої OpenAI, бере зображення та описує, що в ньому міститься, відповідаючи на запитання про це. Це ще не публічно, але це частина того, що вони створили. Це обіцяє, що все більше й більше навичок буде подібним до людських і продовжуватиме змінювати роботу людей.
Тож я думаю, що те, що ми бачили за останні шість місяців, говорить про те, що ми матимемо справді великі зміни в наступні кілька років. Схоже, що ця трансформація буде такою ж масштабною, як перша промислова революція. Ми все ще на ранніх стадіях. Ці речі часто відбуваються повільніше, ніж люди думають. Але я думаю, що ми рухаємося в цьому напрямку.
Технологія Tencent:
Як, на вашу думку, ШІ змінить це суспільство? Де цінність людей, коли реалізується AGI?
Кейд Мец:
Я думаю, що для людей було б важко мати систему, яка могла б робити все, що може зробити людський мозок, так званий AGI.
**Якби машина могла робити все, що може робити людина, тоді цінність працівника впала б до нуля, тому що використовувати машину було б дешевше, ніж найняти людину. На мій погляд, це погана ситуація для людей. ** Але штучного інтелекту ще немає.
Візьмемо комп’ютерних програмістів як приклад. Сьогодні система може створювати комп’ютерні програми та комп’ютерні коди дуже добре, але код все ще може мати дефекти. Вона все ще потребує досвідченого програміста, щоб взяти на себе створений ними код, відредагувати та інтегрувати його. більшу програму, зрештою створюючи програму. Оскільки з часом ці системи вдосконалюватимуться, вони замінюватимуть усе більше того, що роблять люди. Проблема на цьому етапі полягає в тому, що штучний інтелект незабаром почне замінювати менш досвідчених програмістів-молодших, людей, які знаходяться на дні індустрії програмістів, які роблять те саме, що й штучний інтелект, пишуть базовий код і передають його більш досвідченим. програмістів, людей для інтеграції.
** Оскільки штучний інтелект продовжує вдосконалюватися, машини, безсумнівно, все більше змінюватимуть ситуацію, але ми ще не на тому етапі, коли штучний інтелект раптово замінить велику кількість робочих місць. **
Інше, що мене хвилює, полягає в тому, що ці системи можуть генерувати реалістичний текст і зображення. Вони навіть починають генерувати відео на льоту, ми не зможемо відрізнити правду від того, чого немає в Інтернеті, і нам доведеться абсолютно змінити наше мислення під час перегляду майже будь-чого в Інтернеті. Ви повинні запитати маси, чи мають вони силу змінити спосіб мислення в цілому. **