Correction automatique d'examens écrits par approche neuronale profonde et attention croisée bidirectionnelle - Actes de la conférence Traitement Automatique des Langues Naturelles (TALN, 29e édition) et Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues
Communication Dans Un Congrès Année : 2022

Deep Neural Networks and Bidirectional Cross-Attention for Automatic Answer Grading

Correction automatique d'examens écrits par approche neuronale profonde et attention croisée bidirectionnelle

Résumé

Cet article présente les systèmes développés par l’équipe LIA-LS2N dans le cadre de la campagne d’évaluation DEFT 2022 (Grouin & Illouz, 2022). Nous avons participé à la première tâche impliquant la correction automatique de copies d’étudiants à partir de références existantes. Nous proposons trois systèmes de classification reposant sur des caractéristiques extraites de plongements de mots contextuels issus d’un modèle BERT (CamemBERT). Nos approches reposent sur les concepts suivants : extraction de mesures de similarité entre les plongements de mots, attention croisée bidirectionnelle entre les plongements et fine-tuning (affinage) des plongements de mots. Les soumissions finales comprenaient deux systèmes fusionnés combinant l’attention croisée bidirectionnelle avec nos classificateurs basés sur BERT et celui sur les mesures de similarité. Notre meilleure soumission obtient une précision de 72,6 % en combinant le classifieur basé sur un modèle CamemBERT affiné et le mécanisme d’attention croisée bidirectionnelle. Ces résultats sont proches de ceux obtenus par le meilleur système de cette édition (75,6 %).
Fichier principal
Vignette du fichier
6348.pdf (353.79 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-03705875 , version 1 (27-06-2022)

Licence

Identifiants

  • HAL Id : hal-03705875 , version 1

Citer

Yanis Labrak, Philippe Turcotte, Richard Dufour, Mickael Rouvier. Correction automatique d'examens écrits par approche neuronale profonde et attention croisée bidirectionnelle. Actes de la 29e Conférence sur le Traitement Automatique des Langues Naturelles. Atelier DÉfi Fouille de Textes (DEFT), Jun 2022, Avignon, France. pp.36-44. ⟨hal-03705875⟩
192 Consultations
56 Téléchargements

Partager

More