Fine-tuning

Continuar o treinamento de um modelo com exemplos seus para ajustar formato, estilo ou uma tarefa específica.

Fine-tuning muda os pesos do modelo. É bom para ensinar forma (um formato de saída, um tom, uma classificação), mas raramente é a melhor maneira de ensinar fatos: para isso, RAG costuma ser mais barato e fácil de atualizar.

A real: experimente engenharia de contexto e RAG antes. Fine-tuning é a última camada de complexidade, não a primeira.

Veja também: RAG (Retrieval-Augmented Generation), SLM (Small Language Model), RLHF