Ollama

Com escriure bones indicacions (prompts)

La indicació és el text que li escriviu al model per a demanar-li una tasca.

Com millor sigui la indicació, millor serà la resposta. Seguiu aquestes pautes:

• Sigueu específics. En lloc de «fes-me un resum», escriviu «fes-me un resum de tres paràgrafs d’aquest text, destacant les dates clau i les conclusions principals».
• Doneu-li context. El model no sap qui sou ni per a què servirà el text. Expliqueu-li: «Soc professor de secundària i necessito una explicació senzilla del canvi climàtic per a alumnes de 14 anys».
• Indiqueu el format que voleu. Podeu demanar-li que respongui en forma de llista, taula, correu electrònic, text corregit, punts clau, etc.
• Itereu. Si la primera resposta no és exactament el que volíeu, demaneu-li que ho millori, que sigui més breu, que canviï el to, o que ho reformuli. El model recorda tota la conversa.

Consultar els teus documents amb el model local (RAG)

Fins ara hem vist com conversar amb un model local fent servir el seu coneixement general. Però sovint el que volem és el contrari: que el model respongui basant-se en els nostres documents, no en el que va aprendre durant l’entrenament. Per exemple, consultar un conjunt de contractes, normativa interna, articles, apunts o expedients.

Aquesta tècnica s’anomena RAG (generació amb recuperació augmentada). L’eina indexa els teus documents i, quan li preguntes alguna cosa, hi busca els fragments més rellevants i els passa al model perquè redacti la resposta. El model no «aprèn» els documents: simplement els consulta cada vegada que preguntes, així que pots afegir-ne, esborrar-ne o actualitzar-ne lliurement.

Per a què és útil

• Cercar clàusules concretes en un conjunt de contractes.
• Resumir actes, informes o expedients llargs.
• Consultar normativa interna o manuals tècnics.
• Trobar referències en una biblioteca personal d’articles o apunts.
• Donar resposta a preguntes freqüents a partir de la documentació d’un producte.

Com que tot passa al teu ordinador, és especialment indicat per a gestories, despatxos d’advocats, administracions públiques, recerca o qualsevol àmbit subjecte a secret professional o protecció de dades.

Com fer-ho amb les eines que ja hem vist

AnythingLLM és la que ho fa més senzill, perquè està dissenyada precisament per a aquest cas:

1. Crea un workspace nou (l’espai on tindràs els documents d’un tema o projecte)
2. Arrossega-hi els documents (PDF, TXT, DOCX, Markdown…) o fes clic a la icona de pujar.
3. Espera que els indexi. La primera vegada pot trigar una estona segons la mida.
4. Ja pots fer preguntes dins del workspace: les respostes es basaran en els documents que hi has posat.

Pots tenir workspaces separats per a cada client, projecte o tema, cadascun amb el seu propi conjunt de documents.

Consells per obtenir bones respostes

• Prepara els documents. Un PDF escanejat sense OCR no es pot llegir. Si els teus PDF són imatges, passa’ls abans per una eina d’OCR.
• Fes preguntes específiques. «Quina és la clàusula de penalització del contracte amb l’empresa X?» funciona molt millor que «Què diu el contracte?».
• Usa la terminologia dels documents. Si el document parla d’«arrendatari», pregunta per «arrendatari», no per «llogater».
• Verifica les respostes importants. Demana sempre que et citi el fragment d’origen quan la resposta sigui rellevant.
• Comença petit. Prova primer amb 10–20 documents per veure com funciona, abans d’indexar-ne milers.
• Reindexa quan canviïn els documents. Si afegeixes o modifiques fitxers, torna a passar la indexació.

Limitacions que cal conèixer

• La qualitat de la resposta depèn del model que facis servir: amb models petits, les respostes seran més limitades. Per a documents en català, els models Gemma 3 que recomanem funcionen prou bé.
• Els models locals poden inventar-se informació (al·lucinar). No els usis com a única font per a decisions crítiques.
• Documents amb format complex (taules, columnes, fórmules) poden quedar mal segmentats i donar respostes parcials.
• La indexació de moltes pàgines pot trigar i ocupar espai de disc.