Coursia

Comprendre l'IA générative, du simple au détail

Un cours d'auto-formation : toutes les fonctions des IA génératives, expliquées sans formules mais sans renoncer au détail. Chaque chapitre s'écoute en 15 à 20 minutes.

L'espace sémantique

De la géométrie du sens à l'abduction peircienne

Module spécial : comment le sens devient un espace, ce qu'en dit Dehaene des neurones humains, et ce qu'on peut en attendre pour le calcul (Hobbes), le raisonnement et l'abduction (Peirce).

2 schéma(s)

S1 — La géométrie du sens

Le sens comme position dans un espace : hypothèse distributionnelle, word2vec et l'arithmétique des analogies, espaces conceptuels de Gärdenfors, embeddings contextuels.

1 schéma(s)

S2 — L'espace sémantique dans le cerveau

Ce que dit Dehaene : cartes sémantiques corticales (Huth), cellules de grille et navigation conceptuelle (Moser, Behrens), et la convergence troublante entre embeddings et activité du cortex.

1 schéma(s)

S3 — Voir dans l'espace d'un modèle

Superposition, autoencodeurs parcimonieux et features, le steering (Golden Gate Claude), l'hypothèse de représentation linéaire et ses limites.

1 schéma(s)vidéo

S4 — Calcul, raisonnement, abduction

Hobbes et l'arithmétique des conceptions, ce que la géométrie fait bien et ce qu'elle rate, et la place inattendue de l'abduction peircienne dans l'espace sémantique.