Few-Shot Learning

Kemampuan model untuk belajar dari **sedikit contoh** (1-shot, 5-shot, dst.) di inference. GPT-3 mempopulerkan untuk LLM. Meta-learning adalah pendekatan tradisional.

Few-Shot Learning

Definisi

Few-shot learning adalah kemampuan model untuk belajar dari sedikit contoh (k=1 sampai k=20) saat inference, tanpa update bobot.

Varian

GPT-3 sebagai Tonggak

GPT-3 (2020) menunjukkan bahwa in-context few-shot learning muncul di skala 175B parameter. Sebelumnya: meta-learning (MAML, Prototypical Networks) untuk computer vision.