Crypto AI'nin Kutsal Kâsesi: Merkeziyetsizlikte Eğitimde Öncü Keşifler

AI'nın tüm değer zincirinde, model eğitimi kaynak tüketiminin en yüksek olduğu, teknik engelin en fazla olduğu aşamadır ve doğrudan modelin yetenek sınırını ve gerçek uygulama etkisini belirler. Çıkarım aşamasının hafif kullanımlarına kıyasla, eğitim süreci sürekli büyük ölçekli hesaplama gücü yatırımı, karmaşık veri işleme süreçleri ve yüksek yoğunluklu optimizasyon algoritmaları desteği gerektirmektedir; bu, AI sistemlerinin inşasında gerçek "ağır sanayi"dir. Mimari paradigmalar açısından, eğitim yöntemleri dört kategoriye ayrılabilir: merkezi eğitim, dağıtık eğitim, federatif öğrenme ve bu makalede odaklanılan Merkeziyetsizlik eğitimi.

Merkeziyetsizlik eğitimi, tek bir kuruluşun yerel yüksek performanslı küme içinde tüm eğitim sürecini tamamladığı en yaygın geleneksel yöntemdir; donanım, alt yazılım, küme zamanlama sistemi ve eğitim çerçevesinin tüm bileşenleri, birleşik bir kontrol sistemi tarafından koordine edilerek çalıştırılır. Bu derin işbirliği mimarisi, bellek paylaşımı, gradyan senkronizasyonu ve hata toleransı mekanizmalarının verimliliğini en üst düzeye çıkarır ve GPT, Gemini gibi büyük ölçekli modellerin eğitimine son derece uygundur; yüksek verimlilik ve kontrol edilebilir kaynaklar avantajına sahiptir, ancak aynı zamanda veri tekelciliği, kaynak engelleri, enerji tüketimi ve tek nokta riski gibi sorunları da beraberinde getirir.

Dağıtık eğitim, günümüz büyük model eğitiminde ana akım yöntemdir; temelinde model eğitim görevlerinin parçalanarak birden fazla makineye dağıtılıp iş birliği içinde gerçekleştirilmesi yatar. Bu, tek bir makinenin hesaplama ve depolama darboğazlarını aşmak için yapılır. Fiziksel olarak "dağıtık" bir özelliğe sahip olmasına rağmen, genel olarak merkezi bir kurum tarafından kontrol edilen, yönlendirilen ve senkronize edilen bir yapıdadır ve genellikle yüksek hızlı yerel alan ağı ortamında çalışır. NVLink yüksek hızlı bağlantı teknolojisi aracılığıyla, ana düğüm tüm alt görevleri koordine eder. Ana akım yöntemler şunları içerir:

• Veri paralelliği: Her düğüm farklı veri üzerinde eğitim yapar, parametreler paylaşılır, model ağırlıkları eşleştirilmelidir.
• Model paralelliği: Modelin farklı bölümlerini farklı düğümlerde dağıtarak güçlü ölçeklenebilirlik sağlamak
• Boru hattı paralel: Aşamalı seri yürütme, verimliliği artırır
• Tensor paralelliği: Matris hesaplamalarını ince bir şekilde bölerek paralel granülasyonu artırma

Dağıtık eğitim, "merkezi kontrol + dağıtık yürütme" kombinasyonudur, aynı patronun uzaktan birden fazla "ofis" çalışanını görevi tamamlamak için koordine etmesine benzetilebilir. Şu anda neredeyse tüm ana akım büyük modeller bu şekilde eğitim tamamlamaktadır.

Merkeziyetsizlik eğitimi, daha açık ve sansüre karşı dayanıklı bir geleceği temsil eder. Temel özellikleri şunlardır: Birbirine güvenmeyen birçok düğüm, merkezi bir koordinatör olmadan eğitim görevlerini işbirliği içinde tamamlar, genellikle protokoller aracılığıyla görev dağıtımı ve işbirliği sağlanır ve katkının dürüstlüğünü güvence altına almak için kriptografik teşvik mekanizmaları kullanılır. Bu modelin karşılaştığı başlıca zorluklar şunlardır:

• Aygıt heterojenliği ve bölme zorluğu: Heterojen cihazların koordine edilmesi zor, görev bölme verimliliği düşük
• İletişim verimliliği darboğazı: Ağ iletişimi istikrarsız, gradyan senkronizasyonu darboğazı belirgin
• Güvenilir yürütme eksikliği: Güvenilir yürütme ortamının olmaması, düğümlerin gerçekten hesaplamaya katılıp katılmadığını doğrulamayı zorlaştırıyor.
• Birlikte koordinasyon eksikliği: Merkezî bir denetleyici yok, görev dağıtımı ve hata geri alma mekanizması karmaşık

Merkeziyetsizlik eğitimi, dünya genelindeki bir grup gönüllünün, her birinin hesaplama gücünü katkıda bulunarak model eğitimi gerçekleştirmesi olarak anlaşılabilir. Ancak "gerçekten uygulanabilir büyük ölçekli merkeziyetsizlik eğitimi" hala sistematik bir mühendislik zorluğu olarak kalmaktadır; bu, sistem mimarisi, iletişim protokolleri, şifre güvenliği, ekonomik mekanizmalar, model doğrulama gibi çeşitli alanları kapsamaktadır. Ancak "işbirliği etkili + dürüstlüğü teşvik etme + sonuçların doğruluğu" konuları hala erken prototip keşif aşamasındadır.

Federated learning, dağıtık ve merkeziyetsizlik arasında bir geçiş biçimi olarak, verilerin yerel olarak korunmasını ve model parametrelerinin merkezi olarak toplanmasını vurgular ve gizlilik uyumuna önem veren senaryolar için uygundur. Federated learning, dağıtık eğitim mühendislik yapısına ve yerel işbirliği yeteneğine sahipken, aynı zamanda merkeziyetsiz eğitimin veri dağıtım avantajlarını da taşır, ancak yine de güvenilir bir koordinatöre bağımlıdır ve tamamen açık ve sansüre dayanıklı özelliklere sahip değildir. Gizlilik uyumu gereksinimlerinin olduğu bir senaryoda "kontrollü merkeziyetsizlik" çözümü olarak düşünülebilir; eğitim görevleri, güven yapısı ve iletişim mekanizmaları açısından nispeten ılımlıdır ve endüstri için geçiş aşaması dağıtım yapısı olarak daha uygundur.

Merkeziyetsizlik eğitiminin sınırları, fırsatları ve gerçek yolları

Eğitim paradigması açısından, merkeziyetsizlik eğitimi tüm görev türlerine uygun değildir. Bazı senaryolarda, görev yapısının karmaşık olması, kaynak gereksinimlerinin çok yüksek olması veya işbirliği zorluğu nedeniyle, doğal olarak heterojen, güvenilir olmayan düğümler arasında verimli bir şekilde tamamlanmaya uygun değildir. Örneğin, büyük model eğitim genellikle yüksek bellek, düşük gecikme ve yüksek bant genişliği gerektirir, bu da açık ağlarda etkili bir şekilde bölünmeyi ve senkronizasyonu zorlaştırır; veri gizliliği ve egemenlik kısıtlamaları güçlü olan görevler, yasal uyumluluk ve etik kısıtlamalar nedeniyle açık paylaşım imkanı bulamaz; işbirliği teşviklerinin temelinin eksik olduğu görevler ise dış katılım motivasyonundan yoksundur. Bu sınırlar, mevcut merkeziyetsiz eğitim uygulamalarının gerçek kısıtlamalarını oluşturmaktadır.

Ancak bu, merkeziyetsiz eğitimin bir safsata olduğu anlamına gelmez. Aslında, yapısı hafif, kolay paralel hale getirilebilen ve teşvik edici görev türlerinde, merkeziyetsiz eğitim belirgin bir uygulama potansiyeli göstermektedir. Bunlar arasında ancak bunlarla sınırlı olmamak üzere: LoRA ince ayarı, davranış hizalaması türü sonrası eğitim görevleri, veri kalabalığı eğitimi ve etiketleme görevleri, kaynak kontrol edilebilir küçük temel model eğitimi ve kenar cihazların katıldığı işbirlikçi eğitim senaryoları bulunmaktadır. Bu görevler genellikle yüksek paralellik, düşük bağlılık ve heterojen hesaplama gücüne tolerans gibi özellikler taşımakta olup, P2P ağlar, Swarm protokolleri, dağıtık optimizasyon gibi yöntemler aracılığıyla işbirlikçi eğitim için son derece uygundur.

Merkeziyetsizlik antrenman klasik proje analizi

Şu anda merkeziyetsizlik eğitimi ve federatif öğrenim öncü alanında, temsilci blok zinciri projeleri arasında Prime Intellect, Pluralis.ai, Gensyn, Nous Research ve Flock.io bulunmaktadır. Teknik yenilikçilik ve mühendislik uygulama zorluğu açısından, Prime Intellect, Nous Research ve Pluralis.ai sistem mimarisi ve algoritma tasarımında birçok özgün keşif önermiştir ve mevcut teorik araştırmaların öncü yönlerini temsil etmektedir; oysa Gensyn ve Flock.io'nun uygulama yolları oldukça nettir ve ilk mühendislik ilerlemelerini görmek mümkündür. Bu makalede bu beş projenin arkasındaki temel teknolojiler ve mühendislik mimarisi sırayla analiz edilecek ve merkeziyetsiz AI eğitim sistemlerindeki farklılıklar ve tamamlayıcı ilişkileri daha fazla tartışılacaktır.

Prime Intellect: Eğitim izleri doğrulanabilir pekiştirmeli öğrenme iş birliği ağı öncüsü

Prime Intellect, güvene ihtiyaç duymayan bir AI eğitim ağı kurmayı hedefliyor, böylece herkes eğitime katılabilir ve hesaplama katkılarından güvenilir ödüller alabilir. Prime Intellect, PRIME-RL + TOPLOC + SHARDCAST üç ana modülü aracılığıyla, doğrulanabilirlik, açıklık ve teşvik mekanizması tam olan bir AI merkeziyetsiz eğitim sistemi inşa etmeyi umuyor.

Prime Intellect protokol yığını yapısı ve ana modül değerleri

Prime Intellect eğitim ana mekanizmalarının detaylı açıklaması

PRIME-RL: Ayrık Asenkron Pekiştirmeli Öğrenme Görev Mimarisi

PRIME-RL, Prime Intellect tarafından Merkeziyetsizlik eğitim senaryoları için özel olarak tasarlanmış bir görev modelleme ve yürütme çerçevesidir, heterojen ağlar ve asenkron katılım için tasarlanmıştır. Güçlendirilmiş öğrenmeyi öncelikli uyum nesnesi olarak benimser, eğitim, çıkarım ve ağırlık yükleme süreçlerini yapısal olarak ayrıştırır, böylece her eğitim düğümü yerel olarak bağımsız bir şekilde görev döngüsünü tamamlayabilir ve standart arayüzler aracılığıyla doğrulama ve toplama mekanizmaları ile işbirliği yapabilir. Geleneksel denetimli öğrenme süreçlerine kıyasla, PRIME-RL, merkezi bir planlama olmayan ortamlarda esnek eğitim gerçekleştirmek için daha uygundur, bu hem sistem karmaşıklığını azaltır hem de çoklu görev paralelliğini ve strateji evrimini desteklemek için bir temel oluşturur.

TOPLOC: Hafif Ağırlık Eğitim Davranış Doğrulama Mekanizması

TOPLOC, Prime Intellect tarafından önerilen, bir düğümün gerçekten gözlem verilerine dayanarak etkili bir strateji öğrenip öğrenmediğini belirlemek için kullanılan doğrulanabilirlik çekirdek mekanizmasıdır. ZKML gibi ağır çözümlerden farklı olarak, TOPLOC, tam model yeniden hesaplamaya dayanmaz, bunun yerine "gözlem dizisi ↔ strateji güncelleme" arasındaki yerel tutarlılık izlerini analiz ederek hafif yapı doğrulamasını tamamlar. Bu, eğitim sürecindeki davranış izlerini doğrulanabilir nesnelere dönüştüren ilk uygulamadır ve güvene dayanmayan eğitim ödül dağıtımını sağlamak için anahtar bir yeniliktir. Denetlenebilir ve teşvik edici merkeziyetsiz işbirliği eğitim ağı kurmak için uygulanabilir bir yol sunar.

SHARDCAST: Asenkron Ağırlık Toplama ve Yayılma Protokolü

SHARDCAST, Prime Intellect tarafından tasarlanan bir ağırlık yayılımı ve toplama protokolüdür; asenkron, bant genişliği kısıtlı ve düğüm durumu değişken gerçek ağ ortamları için optimize edilmiştir. Gossip yayılım mekanizmasını ve yerel senkronizasyon stratejisini birleştirerek, birden fazla düğümün farklı senkronizasyon durumlarında sürekli olarak kısmi güncellemeler göndermesine olanak tanır, bu da ağırlıkların kademeli olarak yakınsamasını ve çoklu versiyon evrimini gerçekleştirir. Merkezi veya senkronize AllReduce yöntemlerine kıyasla, SHARDCAST, merkeziyetsiz eğitimin ölçeklenebilirliğini ve hata toleransını önemli ölçüde artırır ve istikrarlı ağırlık konsensüsü ile sürekli eğitim iterasyonu için temel bir yapı taşını oluşturur.

OpenDiLoCo:Seyrek Asenkron İletişim Çerçevesi

OpenDiLoCo, Prime Intellect ekibinin DeepMind tarafından önerilen DiLoCo fikrini bağımsız olarak uygulayıp açık kaynak haline getirdiği bir iletişim optimizasyon çerçevesidir; merkeziyetsizlik eğitiminde yaygın olarak görülen bant genişliği kısıtlamaları, cihaz heterojenliği ve düğüm istikrarsızlığı gibi zorluklar için özel olarak tasarlanmıştır. Mimarisi veri paralelliğine dayanır ve Ring, Expander, Small-World gibi seyrek topoloji yapıları inşa ederek, küresel senkronizasyonun yüksek iletişim maliyetlerinden kaçınır; model işbirliği eğitimi için yalnızca yerel komşu düğümlere bağımlıdır. Asenkron güncellemeler ve kesinti tolerans mekanizmasını birleştirerek, OpenDiLoCo, tüketici düzeyindeki GPU'ların ve uç cihazların eğitim görevlerine istikrarlı bir şekilde katılmasını sağlar, küresel işbirliği eğitimine katılımı önemli ölçüde artırır ve merkeziyetsizlik eğitim ağı kurmanın temel iletişim altyapılarından biridir.

PCCL: İşbirliği İletişim Kütüphanesi

PCCL, Prime Intellect tarafından Merkeziyetsizlik AI eğitim ortamı için özelleştirilmiş hafif bir iletişim kütüphanesidir ve geleneksel iletişim kütüphanelerinin farklı cihazlar ve düşük bant genişliği ağlarındaki uyum sorunlarını çözmeyi amaçlamaktadır. PCCL, seyrek topolojiyi, gradyan sıkıştırmayı, düşük hassasiyetli senkronizasyonu ve kesintiden kurtarmayı destekler, tüketici sınıfı GPU'lar ve kararsız düğümler üzerinde çalışabilir ve OpenDiLoCo protokolünün asenkron iletişim yeteneklerinin temel bileşenidir. Eğitim ağının bant genişliği toleransını ve cihaz uyumluluğunu önemli ölçüde artırır ve gerçekten açık, güvene ihtiyaç duymayan bir işbirlikçi eğitim ağı inşa etmek için "son bir mil" iletişim altyapısını sağlamlaştırır.

Prime Intellect teşvik ağı ve rol dağılımı

Prime Intellect, herhangi birinin görevlere katılmasına ve gerçek katkılarına dayalı olarak ödüller almasına izin veren, izin gerektirmeyen, doğrulanabilir, ekonomik teşvik mekanizmalarına sahip bir eğitim ağı inşa etti. Protokol, üç ana rol üzerine çalışmaktadır:

• Görev başlatıcısı: eğitim ortamını, başlangıç modelini, ödül fonksiyonunu ve doğrulama standartlarını tanımlar.
• Eğitim düğümü: Yerel eğitimi gerçekleştir, ağırlık güncellemelerini ve gözlem izlerini gönder.
• Doğrulama Düğümü: Eğitim davranışının gerçekliğini TOPLOC mekanizması ile doğrulayarak ödül hesaplaması ve strateji birleştirmesine katılır.

Protokolün temel süreçleri, görev yayını, düğüm eğitimi, iz doğrulama, ağırlık birleştirme ve ödül dağıtımını içerir ve "gerçek eğitim davranışı" etrafında bir teşvik döngüsü oluşturur.

INTELLECT-2: İlk doğrulanabilir Merkeziyetsizlik eğitim modelinin yayımlanması

Prime Intellect, Mayıs 2025'te INTELLECT-2'yi piyasaya sürdü; bu, asenkron, güvene ihtiyaç duymayan Merkeziyetsizlik düğümleri ile işbirliği içinde eğitilen dünyanın ilk büyük ölçekli güçlendirme öğrenme modelidir ve 32B parametre ölçeğine ulaşmaktadır. INTELLECT-2 modeli, üç kıtada bulunan 100'den fazla GPU heterojen düğüm tarafından işbirliği içinde eğitilmiştir, tamamen asenkron bir mimari kullanarak, eğitim süresi 400 saati aşmıştır ve asenkron işbirliği ağının uygulanabilirliğini ve kararlılığını göstermektedir. Bu model yalnızca performans açısından bir atılım değil, aynı zamanda Prime Intellect'in önerdiği "eğitim eşitliktir" paradigmasının ilk kez sistematik olarak uygulanmasıdır. INTELLECT-2, PRIME-RL, TOPLOC ve SHARDCAST gibi temel protokol modüllerini entegre eder ve Merkeziyetsizlik eğitim ağının eğitim sürecinin açılmasını, doğrulanabilirliğini ve ekonomik teşviğini ilk kez gerçekleştirdiğini simgeler.