Definícia
Fine-tuning je proces dodatočného trénovania už predtrénovaného jazykového modelu na menšej, špecifickej sade dát s cieľom prispôsobiť jeho správanie, štýl alebo znalosti konkrétnej úlohe či odvetviu.
Popis
Základom je vždy už existujúci veľký jazykový model (LLM), ktorý sa ďalej dotrénuje na vlastných dátach – napríklad na histórii zákazníckej komunikácie, internej dokumentácii alebo textoch v tóne konkrétnej značky. Model si počas tohto procesu upraví svoje interné parametre (váhy), vďaka čomu si nové správanie „zapamätá“ natrvalo, bez potreby ho pri každom použití znova vysvetľovať.
Fine-tuning si vyžaduje kvalitnú a dostatočne veľkú trénovaciu sadu dát, výpočtový výkon a čas – je preto podstatne nákladnejší a technicky náročnejší než úprava vstupných pokynov pri bežnom používaní modelu. Ak dáta nie sú kvalitné alebo ich je málo, hrozí, že sa model preučí (overfitting) a mimo trénovacích príkladov bude fungovať horšie než pôvodná verzia.
V praxi firmy siahajú po fine-tuningu najčastejšie vtedy, keď potrebujú model s konzistentným tónom alebo hlboko špecifickými znalosťami vo veľkom objeme použití – napríklad pri vlastnom chatbote alebo AI agentovi. Pri jednorazových alebo menej náročných úlohách sa väčšinou vystačí s jednoduchšími a lacnejšími prístupmi.
Fine-tuning, prompt engineering a RAG – v čom je rozdiel
Fine-tuning sa často porovnáva s prompt engineeringom a s technikou RAG – všetky tri riešia podobný problém, ale iným spôsobom. Prompt engineering upravuje len vstupné pokyny pri každom volaní modelu, RAG dopĺňa odpoveď o externé dokumenty vyhľadané v reálnom čase, zatiaľ čo fine-tuning mení samotný model natrvalo. Vo väčšine firiem preto fine-tuning prichádza na rad až vtedy, keď jednoduchšie a lacnejšie prístupy prestanú stačiť.