La intel·ligència artificial al vostre ordinador personal

Compartiu

Com utilitzar els models de llenguatge grans en el teu ordinador

Introducció

Els models de llenguatge locals et permeten redactar i millorar textos, resumir documents llargs, traduir continguts, respondre preguntes i ajudar-te a programar.
Aquí us expliquem amb detall quins models usar segons la vostra configuració, però un resum molt ràpid:

  • Si teniu 8GB de memòria RAM, Gemma 3 4B Q8
  • Si teniu 16GB de memòria RAM, Gemma 3 12B Q8
  • Si teniu 32GB de memòria RAM, Gemma 3 27B Q8

Els models Gemma 3, admeten també imatges com a entrada. Podeu adjuntar una captura de pantalla, un esquema o una foto i demanar-li que l’analitzi, descrigui o extregui informació.

LM Studio

És ideal per explorar i descarregar models fàcilment. Disponible per a macOS, Windows i Linux.

Com instal·lar-la:

  1. Descarrega-la a lmstudio.ai.
  2. Cerqueu el model que voleu i premeu “Download”.

Per començar una conversa:

  1. Quan es carrega l’aplicació podeu fer clic al llapis a la part superior esquerra o començar a escriure en la finestra de xat
  2. Assegureu-vos que teniu el model adequat seleccionat

 

Ollama

Proporciona una interfície d’usuari molt simple.  Disponible per a macOS, Windows i Linux.

Com instal·lar-la:

1. Baixar la versió https://ollama.com/download adequada per al vostre sistema operatiu
2. Fer doble clic a la baixada i seguir les instruccions

Per començar una conversa:

1. Aneu a la barra de menú i seleccioneu File -> New Chat per començar una conversa nova
2. Assegureu-vos que teniu el model adequat seleccionat

Com que els models Gemma admeten imatges també podeu demanar-li l’analitzi, descrigui o extregui informació d’una imatge.

Per últim, aquesta eina també proporcionar un línea d’ordres. Podeu accedir-hi obrint un terminal i teclejant:

ollama run gemma3

Com escriure bones indicacions (prompts)

La indicació és el text que li escriviu al model per demanar-li una tasca al model.

Com millor sigui la indicació, millor serà la resposta. Seguiu aquestes pautes:

  • Sigueu específics. En lloc de “fes-me un resum”, escriviu “fes-me un resum de tres paràgrafs d’aquest text, destacant les dates clau i les conclusions principals”.
  • Doneu-li context. El model no sap qui sou ni per a què servirà el text. Expliqueu-li: “Soc professor de secundària i necessito una explicació senzilla del canvi climàtic per a alumnes de 14 anys”.
  • Indiqueu el format que voleu. Podeu demanar-li que respongui en forma de llista, taula, correu electrònic, text corregit, punts clau, etc.
  • Itereu. Si la primera resposta no és exactament el que volíeu, demaneu-li que ho millori, que sigui més breu, que canviï el to, o que ho reformuli. El model recorda tota la conversa.

⬅ Torneu a la pàgina la intel·ligència artificial al teu ordinador personal