Comment apprendre l’IA en jouant ?
Comprendre une IA commence par observer ses erreurs, changer ses exemples et vérifier son résultat. Pokia propose des simulations autonomes pour expérimenter ces mécanismes.
Comprendre l’IA, une idée à la fois.
Des repères pour expérimenter, vérifier et aller plus loin.
Q, K, V : comprendre l’attention dans un Transformer
Query et Key servent à calculer des poids d’attention. Ces poids déterminent comment combiner les vecteurs Value. Q, K et V sont des vecteurs numériques, pas des questions et réponses écrites.
Fine-tuning et quantification : deux opérations différentes
Le fine-tuning adapte les paramètres d’un modèle par entraînement. La quantification représente certaines valeurs avec moins de précision pour réduire notamment la mémoire nécessaire.