Comment les intelligences humaine et artificielle peuvent se renforcer mutuellement

Mennatallah El-Assady développe des programmes d'AI qui expliquent leur propre fonctionnement et permettent aux utilisatrices et utilisateurs d'apporter leur contribution. Cela peut aider les analystes à plonger en profondeur dans le débat politique.
Les couleurs ont toujours joué un rôle essentiel dans la vie de Mennatallah El-Assady: autrefois, elles l'aidaient à lire la musique; aujourd'hui, elle crée des visualisations colorées qui illustrent le fonctionnement des logiciels intelligents. (Photo: Nicola Pitaro / ETH Zurich)

Mennatallah El-Assady avait sept ans lorsqu'elle a commencé à apprendre la flûte. Au début, elle avait du mal à lire tous les points noirs qui dansaient sur la partition. Sa solution a été de marquer chaque note individuelle d'une couleur différente. «Ça a été une véritable percée: tout à coup, je pouvais lire la musique», se souvient-elle. Ce n'est que plus tard qu'elle a découvert qu'elle souffrait d'une forme de dyslexie.

Aujourd'hui, à 31 ans, elle développe des logiciels intelligents. Sa spécialité est la visualisation interactive de l'information, une compétence qu'elle a apportée au AI Center de l'ETH Zurich, où elle a récemment été nommée chercheuse post-doc. Ses graphiques permettent de visualiser les données mathématiques qui se cachent derrière les applications d'IA. Cela permet aux personnes n'ayant aucune connaissance en programmation de comprendre le fonctionnement des algorithmes et d'influencer les décisions prises par ces derniers.

Il y a longtemps que Mennatallah El-Assady n'a plus joué de flûte de manière régulière, mais la capacité - ou non - de lire la musique l'intrigue toujours. Récemment, elle a co-développé une application web qui utilise la couleur, ainsi que la notation musicale, pour représenter une mélodie. Cette application peut afficher n'importe quel morceau de musique, quel qu'il soit, en utilisant sa notation augmentée de couleurs. En outre, l'application est dotée de fonctions intuitives qui aident les utilisatrices et utilisateurs à s'orienter dans toutes les subtilités d'une composition particulière.

Il peut s'agir d'utiliser la souris pour dessiner une séquence de notes aiguës et graves dans une case. Les algorithmes de recherche traquent alors la mélodie correspondante et la mettent en couleur. «Il s'agit de métaphores visuelles qui aident les gens à interpréter une chanson, même s'ils ne savent pas lire la musique», explique Mennatallah El-Assady.

Une fascination précoce pour tout ce qui touche à l'IA

L'application musicale n'est que l'un des nombreux projets auxquels elle a participé au cours de ses études de doctorat - dont la moitié a été réalisée à l'Université de Constance et l'autre à Ontario Tech. «C'était vraiment un projet secondaire, quelque chose que j'ai développé plus pour le plaisir au début», dit-elle. L'idée a germé, ajoute-t-elle, en raison des nombreuses similitudes entre la musique et le langage.

Mennatallah El-Assady travaille dans le domaine de l'analyse linguistique assistée par ordinateur depuis près de neuf ans maintenant. Lorsqu'elle était étudiante, elle était fascinée par l'idée d'une assistance humaine basée sur l'IA, sous la forme de moteurs de recherche, d'assistants vocaux et de chatbots. Elle n'a cependant pas tardé à réaliser que l'apport humain est également vital, surtout lorsque les algorithmes sont entraînés à effectuer une tâche spécifique dans la vie quotidienne.

À titre d'exemple, Mennatallah El-Assady cite un modèle linguistique conçu spécifiquement pour identifier les termes et les sujets clés dans une base de données textuelle. Un tel programme d'IA pourrait être utile aux politologues, explique-t-elle, car il les aiderait à analyser plus rapidement et plus facilement les longues transcriptions de débats politiques. Le problème est qu'il existe de nombreuses façons de définir la catégorie de chaque sujet.

Un programme interactif demandant une contribution humaine

«Les modèles linguistiques ne regardent pas un texte de la même manière qu'une personne le ferait», explique Mennatallah El-Assady. Ils combinent plutôt des blocs de texte qui apparaissent fréquemment ensemble et les assignent à une catégorie commune. «En revanche, un lecteur ou lectrice humaine tient également compte du contexte plus large et s'appuie sur un large éventail de connaissances générales.»

Et c'est précisément la raison pour laquelle Mennatallah El-Assady s'intéresse tant à la collaboration entre l'intelligence humaine et l'intelligence artificielle: parce qu'elles sont différentes, et parce que chaque personne apporte sa propre perspective. «Ensemble, les êtres humains et les ordinateurs obtiennent de meilleurs résultats que s'ils étaient isolés.» Cela dit, le problème des programmes d'IA classiques est qu'il est compliqué d'adapter les algorithmes pour qu'ils tiennent compte des préférences de chacune et chacun. En règle générale, c'est un travail pour le développeur ou développeuse d'apprentissage automatique.

Mennatallah El-Assady est depuis longtemps séduite par l'idée de pouvoir surmonter cet obstacle et de donner du pouvoir aux êtres humains. En utilisant l'analyse de texte basée sur l'IA, elle a développé une série d'interfaces visuelles interactives pour affiner les modèles linguistiques. Celles-ci décrivent en temps réel comment un algorithme attribue des blocs de texte à de nouvelles catégories au cours du processus d'apprentissage.

Si le modèle d'IA n'est pas sûr de la catégorie à sélectionner, il propose à l'utilisatrice ou utilisateur une série d'options et lui demande de l'aider à choisir. Plus le modèle reçoit de commentaires d'une personne donnée, plus il apprend à connaître ses préférences et ajuste les options en conséquence.

Un grand intérêt suscité par l'analyse du débat présidentiel américain

Mais, comme l'explique Mennatallah El-Assady, il ne s'agit pas seulement d'adapter l'IA aux individus: «Cette approche nous permettra également de développer des modèles informatiques basés sur les contributions de personnes d'horizons différents.» Et c'est particulièrement vital dans l'analyse du langage, dit-elle, car vous avez besoin d'autant de perspectives différentes que possible afin d'éliminer les préjugés et la discrimination.

Un autre de ses outils de visualisation permet de plonger au cœur des débats politiques. Il utilise des bulles animées colorées pour illustrer le degré d'attention accordé à certains sujets et la personne qui mène la conversation. La visualisation interactive de Mennatallah El-Assady montre également les modèles d'argumentation suivis par les oratrices et orateurs.

Pour mettre en évidence les pouvoirs de l'analyse interactive du langage, Mennatallah El-Assady s'est concentrée sur les débats télévisés entre Donald Trump et Hillary Clinton à l'automne précédant l'élection présidentielle américaine de 2016. Sa visualisation en bulles met en évidence la manière dont Trump a pu dominer l'ordre du jour, obligeant Clinton et le modérateur à suivre son exemple.

En attendant de nouveaux projets interdisciplinaires

Dans le sillage de sa publication en ligne, l'analyse de Mennatallah El-Assady a suscité un vif intérêt. Depuis, un certain nombre d'universités américaines l'ont invitée à donner des conférences. Dans le même temps, le projet a donné naissance à de nouvelles collaborations et à de nouvelles pistes de recherche. De retour à Zurich, où son analyse politique basée sur l'IA a également fait sensation, des scientifiques du Swiss Data Science Center lui ont proposé de développer un programme similaire pour les débats parlementaires en Suisse allemande.

Entre-temps, Mennatallah El-Assady réfléchit à de nouveaux domaines d'application pour ses outils d'analyse visuelle. Elle voit de grandes possibilités pour l'analyse linguistique dans la lutte contre les fake news. Par exemple, ils pourraient aider à évaluer le contenu des informations et les lignes d'argumentation que l'on trouve dans les chambres d'écho qui fleurissent sur les médias sociaux.

C'est la possibilité de donner suite à ces idées et à bien d'autres qui l'a incitée à poser sa candidature au AI Center de l'ETH Zurich. «Les scientifiques ici travaillent sur des applications de l'IA dans tellement de domaines différents», dit-elle. C'est pourquoi elle est impatiente de se lancer dans de nouveaux projets interdisciplinaires. Ce semestre de printemps, qui vient de commencer, elle partagera également ses connaissances dans le cadre d'un nouveau cours facultatif destiné aux étudiantes et étudiants en informatique.