← Lcoalhost

Un MoE de 180B en un portátil de 32 GB: el cuello de botella es el SSD, no la CPU ni la GPU

Source : DEV · #llm

See it live in context on Lcoalhost →