UE330 - Interplay between deep learning and cognitive science


Lieu et planning


Attention !
Vous ne pourrez pas accéder à ce séminaire sans avoir préalablement déposé une demande via le lien suivant (une demande est nécessaire pour chaque séminaire auquel vous souhaitez participer, merci de déposer la demande au plus tard 72 heures avant le début de la première séance) : https://participations.ehess.fr/demandes/__nouvelle__?seminaire=330.

  • ENS-Ulm
    29 rue d'Ulm 75005 Paris
    1er semestre / hebdomadaire, mercredi 16:00-18:00
    du 18 septembre 2024 au 15 janvier 2025
    Nombre de séances : 13


Description


Dernière modification : 17 mai 2024 11:03

Type d'UE
Enseignements fondamentaux de master
Disciplines
Psychologie et sciences cognitives
Page web
https://l-bg.github.io/dlcm/ 
Langues
anglais
L’enseignement est uniquement dispensé dans cette langue.
Mots-clés
Cognition Intelligence artificielle Sciences cognitives
Aires culturelles
-
Intervenant·e·s
  • Laurent Bonnasse-Gahot [référent·e]   ingénieur de recherche, EHESS / Centre d'analyse et de mathématique sociales (CAMS)
  • Jean-Pierre Nadal   directeur d'études, EHESS - directeur de recherche (retraité·e), CNRS / Centre d'analyse et de mathématique sociales (CAMS)

En sciences cognitives, la relation avec l'apprentissage automatique (réseaux de neurones artificiels) est très forte depuis les origines, au-delà de l'utilisation comme simple outil, comme modèles cognitifs computationnels autour de thèmes tels que l'apprentissage, le traitement du langage, la catégorisation, etc. Les grands succès récents de l'intelligence artificielle sont au moins une preuve conceptuelle qu'un système distribué basé sur des unités élémentaires peut conduire par apprentissage (en modifiant les connexions entre ces unités) à des comportements de très haut niveau. Mais peut-on parler de modèles du cerveau ?

Le cours vise à introduire les dernières avancées de l'apprentissage automatique (réseaux de neurones artificiels, réseaux profonds) et son utilisation pour comprendre notre cognition, tout en soulignant les limites posées par les techniques actuelles si elles sont considérées comme des modèles du cerveau.

Ce cours s'adresse en premier à des étudiant·e·s, notamment du master de sciences cognitives (le Cogmaster, EHESS-PSL-Université Paris Cité), mais aussi à toute personne intéressée par cette interface, qu'elle soit étudiante de master, doctorante, postdoctorante, (enseignante-)chercheuse, quel que soit son domaine disciplinaire (voir cependant les prérequis).

Argumentaire détaillé sur le site internet du cours.

Dans une première partie, les bases fondamentales, l'histoire et le développement de ces techniques seront présentés. Après une présentation du perceptron, des algorithmes de descente de gradient et de rétropropagation, le cours présentera les principales méthodes et architectures neuronales contemporaines, en particulier les réseaux convolutifs, les réseaux récurrents (tels que les LSTM), et les Transformers, qui sont des réseaux modernes basés sur un concept d'attention.
Dans une seconde partie, des conférenciers invités présenteront l'utilisation faite de ces modèles dans leurs recherches en sciences cognitives. Un accent particulier sera mis sur la comparaison entre les modèles d'activations dans les systèmes neuronaux artificiels et biologiques.
Une session sera consacrée à l'implémentation d'un algorithme d'apprentissage.
La dernière partie sera consacrée aux présentations des étudiants, considérées comme faisant partie du cours.

Programme détaillé sur le site du cours.

Remarque : Ce cours ne remplace pas un cours avancé sur l'apprentissage profond ou plus largement l'apprentissage automatique. Ce cours n'aborde pas les questions d'inférence statistique.


Master


  • Initiation/introduction – Sciences cognitives – M2/S3
    Suivi et validation – semestriel hebdomadaire = 4 ECTS
    MCC – exposé oral

Renseignements


Contacts additionnels
-
Informations pratiques

Ce cours fait partie du Master de Sciences Cognitives, opéré par l'Ecole Normale Supérieure au sein de l'Université PSL et co-accrédité par l'Ecole des Hautes Etudes en Sciences Sociales : https://master-cognitive-science.ens.psl.eu/fr

Cours en anglais et en présentiel uniquement. Informations pratiques sur le site du cours : https://l-bg.github.io/dlcm/

La salle de cours (à l'ENS, 29 rue d'Ulm) sera précisée ultérieurement.

Après avoir été accepté au cours, les étudiants externes au Cogmaster doivent s'inscrire auprès du sécrétariat Cogmaster. Plus d'information à venir.

 

Direction de travaux des étudiants

sur rendez-vous uniquement

Réception des candidats

sur rendez-vous uniquement

Pré-requis

Cours donné en anglais.

Un bagage mathématique minimal et une pratique même élémentaire de la programmation en Python sont nécessaires pour bien profiter du cours.

Some familiarity (knowledge and practice) with elementary mathematics -– calculus, linear algebra -– is strongly recommended. Prior knowledge in machine learning will help but is not mandatory. Programming knowledge, in Python, is necessary for the hands-on (TP) session.

 

Dernière modification : 17 mai 2024 11:03

Type d'UE
Enseignements fondamentaux de master
Disciplines
Psychologie et sciences cognitives
Page web
https://l-bg.github.io/dlcm/ 
Langues
anglais
L’enseignement est uniquement dispensé dans cette langue.
Mots-clés
Cognition Intelligence artificielle Sciences cognitives
Aires culturelles
-
Intervenant·e·s
  • Laurent Bonnasse-Gahot [référent·e]   ingénieur de recherche, EHESS / Centre d'analyse et de mathématique sociales (CAMS)
  • Jean-Pierre Nadal   directeur d'études, EHESS - directeur de recherche (retraité·e), CNRS / Centre d'analyse et de mathématique sociales (CAMS)

En sciences cognitives, la relation avec l'apprentissage automatique (réseaux de neurones artificiels) est très forte depuis les origines, au-delà de l'utilisation comme simple outil, comme modèles cognitifs computationnels autour de thèmes tels que l'apprentissage, le traitement du langage, la catégorisation, etc. Les grands succès récents de l'intelligence artificielle sont au moins une preuve conceptuelle qu'un système distribué basé sur des unités élémentaires peut conduire par apprentissage (en modifiant les connexions entre ces unités) à des comportements de très haut niveau. Mais peut-on parler de modèles du cerveau ?

Le cours vise à introduire les dernières avancées de l'apprentissage automatique (réseaux de neurones artificiels, réseaux profonds) et son utilisation pour comprendre notre cognition, tout en soulignant les limites posées par les techniques actuelles si elles sont considérées comme des modèles du cerveau.

Ce cours s'adresse en premier à des étudiant·e·s, notamment du master de sciences cognitives (le Cogmaster, EHESS-PSL-Université Paris Cité), mais aussi à toute personne intéressée par cette interface, qu'elle soit étudiante de master, doctorante, postdoctorante, (enseignante-)chercheuse, quel que soit son domaine disciplinaire (voir cependant les prérequis).

Argumentaire détaillé sur le site internet du cours.

Dans une première partie, les bases fondamentales, l'histoire et le développement de ces techniques seront présentés. Après une présentation du perceptron, des algorithmes de descente de gradient et de rétropropagation, le cours présentera les principales méthodes et architectures neuronales contemporaines, en particulier les réseaux convolutifs, les réseaux récurrents (tels que les LSTM), et les Transformers, qui sont des réseaux modernes basés sur un concept d'attention.
Dans une seconde partie, des conférenciers invités présenteront l'utilisation faite de ces modèles dans leurs recherches en sciences cognitives. Un accent particulier sera mis sur la comparaison entre les modèles d'activations dans les systèmes neuronaux artificiels et biologiques.
Une session sera consacrée à l'implémentation d'un algorithme d'apprentissage.
La dernière partie sera consacrée aux présentations des étudiants, considérées comme faisant partie du cours.

Programme détaillé sur le site du cours.

Remarque : Ce cours ne remplace pas un cours avancé sur l'apprentissage profond ou plus largement l'apprentissage automatique. Ce cours n'aborde pas les questions d'inférence statistique.

  • Initiation/introduction – Sciences cognitives – M2/S3
    Suivi et validation – semestriel hebdomadaire = 4 ECTS
    MCC – exposé oral
Contacts additionnels
-
Informations pratiques

Ce cours fait partie du Master de Sciences Cognitives, opéré par l'Ecole Normale Supérieure au sein de l'Université PSL et co-accrédité par l'Ecole des Hautes Etudes en Sciences Sociales : https://master-cognitive-science.ens.psl.eu/fr

Cours en anglais et en présentiel uniquement. Informations pratiques sur le site du cours : https://l-bg.github.io/dlcm/

La salle de cours (à l'ENS, 29 rue d'Ulm) sera précisée ultérieurement.

Après avoir été accepté au cours, les étudiants externes au Cogmaster doivent s'inscrire auprès du sécrétariat Cogmaster. Plus d'information à venir.

 

Direction de travaux des étudiants

sur rendez-vous uniquement

Réception des candidats

sur rendez-vous uniquement

Pré-requis

Cours donné en anglais.

Un bagage mathématique minimal et une pratique même élémentaire de la programmation en Python sont nécessaires pour bien profiter du cours.

Some familiarity (knowledge and practice) with elementary mathematics -– calculus, linear algebra -– is strongly recommended. Prior knowledge in machine learning will help but is not mandatory. Programming knowledge, in Python, is necessary for the hands-on (TP) session.

 

Attention !
Vous ne pourrez pas accéder à ce séminaire sans avoir préalablement déposé une demande via le lien suivant (une demande est nécessaire pour chaque séminaire auquel vous souhaitez participer, merci de déposer la demande au plus tard 72 heures avant le début de la première séance) : https://participations.ehess.fr/demandes/__nouvelle__?seminaire=330.

  • ENS-Ulm
    29 rue d'Ulm 75005 Paris
    1er semestre / hebdomadaire, mercredi 16:00-18:00
    du 18 septembre 2024 au 15 janvier 2025
    Nombre de séances : 13