RTX 5090 ile yerel açık kaynak LLM’ler test ediliyor.
Yeni nesil RTX 5090 sonunda elime geçti ve merakıma yenik düşüp yerel açık kaynak LLM modelleriyle hemen birkaç test yaptım. Sonuçlar gerçekten etkileyiciydi. Şu ana kadar RTX 4090 ile çalışıyordum ama 5090, özellikle token üretimi hızında ciddi bir sıçrama göstermiş. Bu yazıda, karşılaştığım verilere ve gözlemlerime dayanarak deneyimlerimi seninle paylaşmak istedim. Detaylara geçmeden önce, bu […]