A Deep Neural Network machine translation Approach from a low-resource language to English
Abstract
La langue dialectale arabe est récemment passée d'une forme purement orale à une forme écrite informelle sur les réseaux sociaux en raison de l'expansion de
l'accès à Internet. Ainsi, les internautes transmettent d’énormes quantités de données dialectales très bruitées et non structurées dans leurs dialectes natifs. Cette situation entrave la compréhension mutuelle entre les utilisateurs et présente des défis dans l'utilisation des approches traditionnelles de traitement du langage , car la plupart des ressources sont conçues pour les langages formels. Dans ce contexte, nous nous concentrons dans cette étude sur
traduire des textes d'un réseau social écrits en
dialecte tunisien (TD) vers l'anglais (EN), une langue formelle comprise dans le monde entier. Cependant, les caractéristiques grammaticales uniques du dialecte tunisien, telles que l'absence d'un corpus représentatif, rendent la traduction automatique utilisant la méthode Deep Learning difficile. Pour cela, notre objectif premier est de traduire le dialecte tunisien vers l'anglais en développant un corpus parallèle et un modèle de traduction automatique approfondi. Pour ce faire, nous évaluons plusieurs architectures neuronales et étudions
les effets de l’utilisation de la langue standard arabe comme langue pivot pour traduire TD. Nous avons obtenu 67,89 % en tant que score BLEU en utilisant l'architecture Transformer.
l'accès à Internet. Ainsi, les internautes transmettent d’énormes quantités de données dialectales très bruitées et non structurées dans leurs dialectes natifs. Cette situation entrave la compréhension mutuelle entre les utilisateurs et présente des défis dans l'utilisation des approches traditionnelles de traitement du langage , car la plupart des ressources sont conçues pour les langages formels. Dans ce contexte, nous nous concentrons dans cette étude sur
traduire des textes d'un réseau social écrits en
dialecte tunisien (TD) vers l'anglais (EN), une langue formelle comprise dans le monde entier. Cependant, les caractéristiques grammaticales uniques du dialecte tunisien, telles que l'absence d'un corpus représentatif, rendent la traduction automatique utilisant la méthode Deep Learning difficile. Pour cela, notre objectif premier est de traduire le dialecte tunisien vers l'anglais en développant un corpus parallèle et un modèle de traduction automatique approfondi. Pour ce faire, nous évaluons plusieurs architectures neuronales et étudions
les effets de l’utilisation de la langue standard arabe comme langue pivot pour traduire TD. Nous avons obtenu 67,89 % en tant que score BLEU en utilisant l'architecture Transformer.
Keywords
Neural translation, Poor languages, social networks, Tunisian Dialect, Transformer models