En suivant cette formation, les participants seront en mesure de :
Interroger et interagir avec des modèles de langage à grande échelle (LLM) déployés à l’aide des microservices d’inférence NVIDIA (NIM).
Évaluer rigoureusement les performances des LLM à l’aide de benchmarks (GSM8K), de la méthode « LLM-as-a-judge » et des principes d’évaluation humaine.
Tirer parti du microservice NeMo Evaluator pour réaliser des évaluations systématiques, reproductibles et traçables.
Préparer des ensembles de données personnalisés pour les workflows d’évaluation et de réglage fin.
Mesurer quantitativement l’impact de l’apprentissage en contexte (ICL) sur les performances du modèle.
Adapter un LLM à un domaine spécifique en le réglant finement avec l’adaptation de rang faible (LoRA) à l’aide du NeMo Customizer.
Analyser les métriques d’entraînement et comparer les performances d’un modèle réglé finement par rapport à sa version de base.
Prendre des décisions fondées sur les données pour déterminer quelle technique de personnalisation est la plus appropriée pour un cas d’utilisation donné.
