Com utilitzar els models de llenguatge grans en el teu ordinador

Compartiu

Introducció

Els models de llenguatge locals et permeten redactar i millorar textos, resumir documents llargs, traduir continguts, respondre preguntes i ajudar-te a programar

Requisits de maquinari:

  • Memòria RAM: Mínim 16GB (32GB recomanat).
  • Processador: Un ordinador de menys de 4 anys. Si tens un Mac amb xip M1-M5, l’experiència molt millor

Aquí us expliquem amb detall quins models usar segons la vostra configuració, però un resum molt ràpid:

  • Si teniu 8GB de memòria RAM, Gemma 3 4B Q8
  • Si teniu 16GB de memòria RAM,  Gemma 3 12B Q8
  • Si teniu 32GB de memòria RAM,  Gemma 3 27B Q8

LM Studio

És ideal per explorar i descarregar models fàcilment. Disponible per a macOS, Windows i Linux.

Com instal·lar-la:

  1. Descarrega-la a lmstudio.ai.
  2. Cerqueu el model que voleu i premeu “Download”.