Moonclip, Linear Tension ve Attention Residuals gibi üç temel yenilik, Kimi K3'ü açık kaynak modellerde ilk kez 3T parametre seviyesine taşıyarak kapalı kaynak rakiplerle rekabet edebilir hale getiriyor.
Moonclip'in arkasındaki mantık basit: küresel ölçekte kullanılabilir eğitim verisi tükenirken, aynı veri setinden iki kat fazla öğrenme çıkarmak. Kimi'nin bu ikinci derece optimizasyonu, 20T tokenlık veriyle 40T token etkisi yaratıyor. Eğitim maliyeti ve enerji tüketimi de aynı oranda düşüyor.
Linear Tension ise uzun bağlam sorununa çözüm getiriyor. Geleneksel lineer dikkat mekanizmaları uzun metinlerde performans kaybederken, Kimi'nin kendi geliştirdiği bu yapı bağlam penceresini on kat büyütüyor. Maliyet artışı da lineer kalıyor.
Hesabınız yoksa lütfen abone olun.
Hemen Abone Ol
Çinli yapay zeka hızlandırıcıları rekabeti tek çip özelliklerinden sistem düzeyinde süpernode çözümlerine taşıyor.
USDA temmuz raporu 26/27 sezonu için küresel mısır üretimini aşağı, soya üretimini yukarı yönlü revize ederken, buğday ve pirinçte de talep kaynaklı stok sıkışması sinyali veriyor.
Çin'de elektrikli ekipman ve yeni enerji sektöründe 2Ç26'da yurt içi fonlar pozisyon azaltırken, Hong Kong üzerinden gelen yabancı yatırımcılar hisse artırdı. İki kanal arasındaki bu ayrışma, sektörün alt kırılımlarında da kendini gösterdi.