Ara podeu fer, des del vostre ordinador, tot el que fan ChatGPT o Gemini, sense enviar res a cap empresa, sense subscripcions i sense connexió a internet. Transcriviu reunions, analitzeu documents i redacteu textos amb privadesa total.
Comproveu si el vostre ordinador és compatible
Compatibilitat molt limitada Podeu fer transcripcions amb Whisper small, però els models de xat no funcionaran de forma pràctica amb 4 GB.
Compatible Podeu executar models LLM de 3B–4B (Q8) i la transcripció funciona molt bé gràcies a Apple Silicon.
Compatible — molt bona experiència Podeu córrer models LLM de 7B–8B (Q8) còmodament. La memòria unificada Apple Silicon dona molt bon rendiment.
Compatible — excel·lent Podeu executar models LLM de 12B–14B (Q8) còmodament. La memòria unificada Apple Silicon dona molt bon rendiment.
No recomanat Amb 4 GB de RAM és molt difícil executar cap model. Només Whisper small pot funcionar per a transcripcions.
Compatible amb limitacions Models LLM de 3B–7B (Q8) funcionaran bé si la VRAM de la targeta és d'almenys 6 GB (CUDA).
Compatible NVIDIA amb CUDA dona una velocitat excel·lent. Models LLM de 7B–13B (Q8) sense problemes.
Compatible — excel·lent Podeu executar models LLM de fins a 27B (Q8) amb alta velocitat gràcies a CUDA. Configuració ideal per a IA local.
No recomanat AMD amb poca RAM i ROCm és molt difícil de configurar. No recomanat per a IA local.
Compatibilitat parcial AMD via ROCm funciona, però el suport és menys madur que NVIDIA. Millor a Linux.
Compatibilitat parcial AMD ROCm amb 16 GB és viable, especialment a Linux. A Windows pot requerir configuració extra.
Compatibilitat parcial AMD ROCm amb molta RAM és viable però menys madur que NVIDIA. Recomanem Linux.
No recomanat Sense GPU i amb 4 GB, cap model de xat ni transcripció funcionarà de forma pràctica.
Només transcripció Whisper small funciona. Els models de xat seran massa lents per a ús diari.
Compatible en mode lent Podeu córrer models LLM de 3B–7B (Q8) per CPU. Espereu 5–15 s per resposta. La transcripció funciona bé.
Compatible en mode lent Amb 32 GB podeu córrer models LLM de 13B (Q8) per CPU, però serà lent. La transcripció funciona molt bé.
