AIトレーニングは、特に分散トレーニングネットワークにとって興味深いところです。彼らは、トレーニングしているGPUよりも小さなモデルをトレーニングしています。ほとんどのネットワークは、消費者向けGPUに収まるように、1.5B、3B、8Bモデルのトレーニングを行っています。