OPML: Система машинного навчання на базі блокчейн з оптимістичним підходом
OPML(Оптимістичне машинне навчання) є новим типом Блокчейн AI системи, яка може здійснювати AI моделювання та навчання/доладку Блокчейн системи оптимістичним методом. У порівнянні з ZKML, OPML здатен забезпечити нижчі витрати та вищу ефективність ML послуг. Вимоги до апаратного забезпечення OPML дуже низькі, звичайний ПК може виконувати великі мовні моделі, такі як модель 7B-LLaMA обсягом близько 26 ГБ.
OPML використовує механізм перевірки ігор для забезпечення децентралізації та перевірної консенсусу ML-сервісів. Основний процес виглядає так:
Запитувач ініціює завдання ML-сервісу
Сервер виконує завдання та подає результати на блок.
Верифікатор перевіряє результати, у разі суперечки запускається гра верифікації
Точне визначення помилкового кроку через бінарний протокол
Проведення покрокового арбітражу на смарт-контракті
Одноетапна верифікація гри
Принцип роботи протоколу точного позиціонування в один етап подібний до обчислення делегування (RDoC), припускаючи, що кілька сторін виконують однакову програму, через взаємні запитання знаходять спірні етапи, а потім арбітраж здійснюється за допомогою смарт-контрактів Блокчейн.
Основні характеристики гри OPML з одностадійною верифікацією:
Побудова спеціалізованої віртуальної машини (VM) для виконання поза ланцюгом і арбітражу в ланцюзі.
Реалізація легковісної бібліотеки DNN для підвищення ефективності AI-інференсу
Використання технології перехресної компіляції для компіляції AI-коду в інструкції VM
VM-образи використовують управління деревом Меркла, тільки кореневий хеш завантажується в блокчейн
Тестування показало, що на звичайному ПК базове DNN-інференціювання можна виконати за 2 секунди, а весь процес виклику можна завершити за 2 хвилини.
Багатоступенева верифікація гри
Щоб подолати обмеження одностадійної схеми, OPML запровадив багатоступеневу верифікаційну гру:
Використовуйте VM тільки на останньому етапі, інші етапи можуть виконуватися в локальному середовищі
Повністю використовуйте апаратні можливості прискорення, такі як CPU, GPU, TPU
Значно підвищити продуктивність виконання, зменшивши залежність від VM
Ключовий дизайн багатофазного OPML:
Представити процес обчислення ML у вигляді обчислювального графа
Виконати верифікацію гри на рівні обчислень (Phase-2)
Обчислення спірних вузлів перетворюється в команди VM для верифікації Фази-1
Використання дерев меркля для забезпечення цілісності та безпеки між етапами
Покращення продуктивності
Аналіз показує, що багатоступеневий OPML має значні переваги порівняно з одноступеневою схемою:
Швидкість обчислень підвищується в α разів ( α для GPU/паралельного прискорення )
Розмір дерева Меркла зменшився з O(mn) до O(m+n)
Ці вдосконалення значно підвищили ефективність і масштабованість системи.
Узгодженість та визначеність
Щоб забезпечити узгодженість результатів OPML, були вжиті такі заходи:
Використання фіксованої точності алгоритму ( для кількісних технологій ) зменшує вплив помилок з плаваючою комою
Використання узгодженої бібліотеки плаваючої коми для різних платформ
Ці технології ефективно долають виклики, пов'язані з плаваючими змінними та відмінностями платформ.
OPML має значні переваги в зниженні витрат та підвищенні ефективності, відкриваючи нові можливості для застосування Блокчейн AI. Проект все ще перебуває в стадії розробки, запрошуємо зацікавлених розробників приєднатися до внеску.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
14 лайків
Нагородити
14
3
Поділіться
Прокоментувати
0/400
PanicSeller69
· 07-06 12:30
Ненависть до L2, пропустив падіння Етеру | трейдер, якого контролює кошмар лонг ордера | у гаманці лише попіл
Згенерувати коментар так:
OPML про що говорить? Я тільки бачу, як приєднуються розробники.
Переглянути оригіналвідповісти на0
NestedFox
· 07-04 20:10
Трохи суворо, ця ефективність звучить досить жорстко.
OPML: нова парадигма блокчейн AI системи з низькою вартістю та високою ефективністю
OPML: Система машинного навчання на базі блокчейн з оптимістичним підходом
OPML(Оптимістичне машинне навчання) є новим типом Блокчейн AI системи, яка може здійснювати AI моделювання та навчання/доладку Блокчейн системи оптимістичним методом. У порівнянні з ZKML, OPML здатен забезпечити нижчі витрати та вищу ефективність ML послуг. Вимоги до апаратного забезпечення OPML дуже низькі, звичайний ПК може виконувати великі мовні моделі, такі як модель 7B-LLaMA обсягом близько 26 ГБ.
OPML використовує механізм перевірки ігор для забезпечення децентралізації та перевірної консенсусу ML-сервісів. Основний процес виглядає так:
Одноетапна верифікація гри
Принцип роботи протоколу точного позиціонування в один етап подібний до обчислення делегування (RDoC), припускаючи, що кілька сторін виконують однакову програму, через взаємні запитання знаходять спірні етапи, а потім арбітраж здійснюється за допомогою смарт-контрактів Блокчейн.
Основні характеристики гри OPML з одностадійною верифікацією:
Тестування показало, що на звичайному ПК базове DNN-інференціювання можна виконати за 2 секунди, а весь процес виклику можна завершити за 2 хвилини.
Багатоступенева верифікація гри
Щоб подолати обмеження одностадійної схеми, OPML запровадив багатоступеневу верифікаційну гру:
Ключовий дизайн багатофазного OPML:
Покращення продуктивності
Аналіз показує, що багатоступеневий OPML має значні переваги порівняно з одноступеневою схемою:
Ці вдосконалення значно підвищили ефективність і масштабованість системи.
Узгодженість та визначеність
Щоб забезпечити узгодженість результатів OPML, були вжиті такі заходи:
Ці технології ефективно долають виклики, пов'язані з плаваючими змінними та відмінностями платформ.
OPML має значні переваги в зниженні витрат та підвищенні ефективності, відкриваючи нові можливості для застосування Блокчейн AI. Проект все ще перебуває в стадії розробки, запрошуємо зацікавлених розробників приєднатися до внеску.
Згенерувати коментар так:
OPML про що говорить? Я тільки бачу, як приєднуються розробники.