Local deployment of LLM: Fine-Tuning techniques and benchmarking against comercial LLMs

Aquest treball estudia el desplegament local de models d’intel·ligència artificial, amb un èmfasi especial en els grans models de llenguatge (LLMs) de codi obert. L’objectiu principal és definir un workflow eficient, reproduïble i escalable que cobreixi la selecció, l’ajust fi (fine-tuning) i el desplegament de models per a múltiples tasques. El marc teòric revisa els fonaments dels models de llenguatge, destacant l’arquitectura Transformer, així com la seva evolució, classificació i les tècniques clau per al desplegament local, com la quantització i els runtimes. També s’analitzen els mètodes d’ajust fi (SFT, RLHF i PEFT, incloent LoRA i QLoRA) i les estratègies d’avaluació basades en mètriques i benchmarks. La part pràctica presenta la metodologia, el disseny experimental i la implementació del sistema, avaluant diversos LLMs de codi obert (Qwen, Mixtral, Llama, DeepSeek i Gemma) i comparant-los amb un model comercial (GPT-4o mini) en tasques com la classificació de text, el resum, la traducció automàtica i les preguntes i respostes. Els resultats mostren que, tot i que els models comercials continuen liderant en rendiment global, els models de codi obert ofereixen resultats molt competitius, juntament amb avantatges en control, privacitat i cost. El treball conclou amb la validació d’un workflow complet per al desplegament local de LLMs, reutilitzable en futurs projectes.