Hot Chips 2026'da agentic AI inference, çip tasarımının birincil önceliği oldu. Decode ağırlıklı iş yükleri ve KV cache yönetimi mimariyi yeniden şekillendiriyor. HBM ise hâlâ arz kısıtı olmayı sürdürüyor.
Hot Chips 2026, yapay zeka altyapı yatırımlarının çok yıllı döngüsüne dair beklentileri güçlendirdi. Agentic AI kaynaklı inference iş yükleri artık sektör genelinde çip mimarisini yeniden şekillendiriyor. Katıldığımız her oturum, tasarımın birincil önceliği olarak agentic AI ile açıldı. Geçen yılki konferansta eğitim odaklı tasarım hâlâ ön plandaydı. Bu yıl tablo net biçimde değişti.
Inference, özellikle artan bağlam uzunlukları ve mixture-of-experts mimarileriyle birlikte, artık hesaplama gücünden çok bellek bant genişliğiyle sınırlı.