Weka'nın Yeni Depolama Platformu: AI Model Tokenlerini Önbelleğe Alma
Weka, NeuralMesh 6 adlı yeni bir depolama platformunu piyasaya sürdü. Bu platform, AI modellerinin önceden hesaplanmış tokenlerini önbelleğe alarak GPU yükünü azaltmayı amaçlıyor. Weka, bu teknolojiyle GPU belleğinin en pahalı kaynak olduğunu ve bu sorunla başa çıkmak için daha…