← Lcoalhost
Un MoE de 180B en un portátil de 32 GB: el cuello de botella es el SSD, no la CPU ni la GPU
Source :
DEV · #llm
See it live in context on Lcoalhost →