Réduction de la complexité, explicabilité et interprétabilité (KEI)

À la recherche d'un apprentissage automatique explicable et interprétable grâce à la philosophie et à la physique

Les algorithmes d'apprentissage automatique (ML) envahissent de plus en plus notre quotidien et la vie publique. Ils émettent des prédictions, mais les raisons qui les poussent à prendre telle décision plutôt qu'une autre restent souvent difficiles à comprendre ; ils sont en quelque sorte «opaques». Dans le cadre de notre projet, nous souhaitons comprendre comment cette opacité se forme et comment on pourrait y remédier a posteriori. Pour ce faire, nous voulons interpréter la nature des abstractions (implicites) générées par le ML lui-même, en nous appuyant sur des connaissances issues de la physique et d’autres théories de la complexité. Notre hypothèse de travail est que la complexité du ML et la difficulté à comprendre certains composants du processus d'apprentissage sont à l'origine du problème de l'opacité. En ce sens, une solution ne nécessite pas simplement « plus de compréhension » ou « moins de complexité », mais une réduction de la complexité qui donne du sens. Nous entendons par là des abstractions adéquates et des simplifications non triviales qui garantissent une approche de compréhension bien fondée. Dans le cadre de notre projet, nous développerons des outils pour analyser la complexité des algorithmes d'apprentissage automatique d'une manière nouvelle et pour trouver des réductions significatives du point de vue de la physique des systèmes à plusieurs corps et de la philosophie .