Com utilitzar els models de llenguatge grans en el teu ordinador

Compartiu

Introducció

Els models de llenguatge locals et permeten redactar i millorar textos, resumir documents llargs, traduir continguts, respondre preguntes i ajudar-te a programar

Requisits de maquinari:

  • Memòria RAM: Mínim 16GB (32GB recomanat).
  • Processador: Un ordinador de menys de 4 anys. Si tens un Mac amb xip M1-M5, l’experiència molt millor

Aquí us expliquem amb detall quins models usar segons la vostra configuració, però un resum molt ràpid:

  • Si teniu 8GB de memòria RAM, Gemma 3 4B Q8
  • Si teniu 16GB de memòria RAM,  Gemma 3 12B Q8
  • Si teniu 32GB de memòria RAM,  Gemma 3 27B Q8

Les 3 millors eines per començar

1. LM Studio (La més completa)

És ideal per explorar i descarregar models fàcilment.

Com instal·lar-la:

  1. Descarrega-la a lmstudio.ai.
  2. Cerqueu el model que voleu i premeu “Download”.

🌍 Com posar-la en Català:Ves a Settings > Preferences > Language i tria “Catalan”. Per a les respostes, al “System Prompt” del xat escriu: “Respon sempre en català”.

Aquí es mostraria la interfície de LM Studio configurada en català amb un xat actiu.

Exemple LM Studio Català

2. Jan (Neta i senzilla)

Molt similar a ChatGPT, ideal per a l’ús diari.

Com instal·lar-la:

  1. Descarrega-la a jan.ai.
  2. Al “Hub”, descarregueu el model.
  3. Aneu al xat i comenceu a parlar.

🌍 Configuració en català:A la barra lateral del xat (Model Settings), a l’apartat “Instructions”, posa: “Ets un assistent que sempre respon en català.”

3. GPT4All (Per als teus documents)

L’eina perfecta per analitzar els teus PDF i Word privadament.

Com instal·lar-la:

  1. Descarrega-la a gpt4all.io.
  2. Usa la funció LocalDocs per afegir les teves carpetes amb documents.

🌍 En català: A Settings > Application > Language, selecciona el català.