UE856 - Algorithms for speech and language processing

Intervenant·e·s

• Emmanuel Dupoux [référent·e]   directeur d'études, EHESS / Laboratoire de sciences cognitives et psycholinguistiques (LSCP)

Le traitement de la parole et du langage naturel est un sous-domaine de l'intelligence artificielle utilisé dans un nombre croissant d'applications. Pourtant, si dans certaines tâches, les systèmes artificiels sont à la hauteur des performances humaines, pour d'autres, c’est encore loin d’être le cas. Ce cours présente l'ensemble des technologies de la parole et du langage, de la reconnaissance automatique de la parole jusqu’au traitement sémantique. Le cours présente, à chaque niveau linguistique, les principes clés, les algorithmes et les principes mathématiques à l'origine de l'état de l'art, et les confronte à ce que l'on sait sur le traitement de la parole et du langage humain. Les étudiants acquièrent une connaissance détaillée des problèmes scientifiques et des techniques de calcul dans le traitement automatique de la parole et du langage et ont une expérience pratique de la mise en œuvre et de l'évaluation des algorithmes dans un mini-projet.

• Représentations de la parole et traitement du signal
• Chaines de markov caché et modélisation par automates à états finis
• modèles probabiliste et apprentissage profond pour la parole et le langage (réseaux convolutionnels, récurrents, transformers)
• Représentation des mots
• Reconnaissance automatique de la parole, traduction automatique, systèmes de dialogue

Schedule

• #1: Thursday 16th, January 2025 (2pm-5pm): Introduction and NLP1 (Benoît Sagot), Salle Dussane (ENS 45 rue d'Ulm)

• Friday 24th, January 2025. CHOICE OF PROJECT TOPIC (through google form: 6 available topics, first come first served)

• Monday 27th, January, 2025. Groups formed (random assignment based on topics)

• #2: Thursday 6th, February 2025 (2pm-5pm): NLP2 (Mathieu), Amphi Frezal (UPCité, Cordelliers)

• #3: Thursday 13th, February 2025 (2pm-5pm): Sentiment Analysis (Chloe Clavel), Amphi 1 (UPCité Necker)

• Friday 14th, Februrary 2025. DEADLINE FOR SENDING 1 PAGE PROJECT PLAN (late submissions will be penalized by 1 point/20 every day)

• #4: Thursday 20th, February 2025 (2pm-5pm): Speech 1: acoustic models for ASR (E. Dupoux), Amphi Jaures (ENS 29 rue d'Ulm)

• #5: Thursday 27th, February 2025 (2pm-5pm): Speech 2: language models for ASR (E. Dupoux), Amphi Dussane (ENS 45 rue d'Ulm)

• #6: Thursday 6th, March 2025 (2pm-5pm): Speech 3: speech foundation models (E. Dupoux), Amphi Frezal (UPCité, Cordelliers)

• #7: Thursday 13th, March 2025 (2pm-5pm): Dialogue (TBA), Amphi Frezal (UPCité, Cordelliers)

• #8: Thursday 20th, March 2025 (2pm-5pm): Translation (TBA), Amphi Frezal (UPCité, Cordelliers)

• #9: Thursday 27th, March 2025 (2pm-5pm): Language models everywhere: Code and Agents (TBA), Amphi 1 (UPCité, Necker)

• Friday 28th March, 2025: DEADLINE FOR SENDING the 4 PAGE-PROJECT REPORT (late submissions will be penalised by 1 point/20 every day)

• Oral presentation (remote): 10-minute presentation + 5 minutes of questions. Slot TBA between Monday 31 March 2025 and Thursday April 10, 2025