Formation intelligence artificielle prendre en compte les cognitions humaines dans nos IA

Module1 L’analyse et la synthèse
Nos analyses et synthèses se forment dans des sortes de registres cognitifs, limités en nombre. Ce qui limite la complexité admissible pour notre cerveau. Nous utilisons ces registres de manière différentes en fonction de notre culture, de nos expériences et du contexte. Des registres plus grands permettent de prendre en charge plus de détails, des registres plus nombreux permettent des synthèses plus larges.

Quels sont les registres cognitifs des utilisateurs de notre IA, comment les utilisent ils ? Comment notre IA peut-elle en tenir compte pour présenter ses résultats, au risque que certaines informations puissent échapper aux utilisateurs ? Notre IA prend-t-elle en compte les capacités des personnes ayant produit ses données d’apprentissage afin de les relativiser ? Est-il pertinent que notre IA simule les registres cognitifs humains ? Les dépasse ?

Module2 Les inférences
On utilise souvent le terme « déduire » ou « déduction » pour désigner un raisonnement, une inférence humaine. En fait il existe de nombreuses typologies de raisonnements (déduction, induction, abduction, croyance, etc.). Ces typologies ont été décrites par des psychologues cogniticiens. Une IA interfacée en entrée ou en sortie avec des humains est concernée par ces typologies de raisonnements.

Notre IA peut-elle connaitre les raisonnements qui ont produit les données utilisées pour son apprentissage ? Peut-elle modéliser les raisonnements humains pour leur ressembler ? Peut-elle anticiper les raisonnement des individus qui vont découvrir ses résultats ? Comment notre IA peut-elle prendre en compte ces raisonnements ? Jusqu’ou faut-il que notre IA se comporte comme un humain et adapte ses réponses aux utilisateurs ?

Module3 Les cycles cognitifs
Chacun de nous a remarqué que certains raisonnements ont besoin d’un temps de maturation. La nuit porte conseil dit-on. En fait, il existe des cycles de réflexion, de prise de repères, de restructuration de notre champ de conscience, etc. Penser qu’un individu assimile des informations dès qu’on lui présente est une erreur manifeste.

Notre IA prend-t-elle en compte les cycles cognitifs des individus qui sont censés exploiter ses résultats ? Notre chatbot intègre-t-il ces cycles cognitifs dans la compréhension des interrogations que se pose l’utilisateur ? Notre IA peut-elle accompagner son utilisateur durant ses différents cycles cognitifs ? Peut-elle gérer le changement de comportement de l’utilisateur comme une progression normale de prise de conscience plutôt que comme un revirement ou une erreur de sa part ?

Module4 Les impacts du raisonnement
Chacun de nos raisonnements a deux conséquences. La première concerne le renforcement de nos connaissances. La seconde est la modification de nos prochaines décisions, de nos prochains raisonnements. Tout modèle de raisonnement humain, que ce soit pour imiter l’homme ou le surpasser ou pour adapter les résultats d’une IA à la compréhension humaine, doit intégrer ces deux dimensions.

Notre IA s’enrichit elle des connaissances transmises ou acquises ? Simule-t-elle les techniques d’acquisition de connaissance humaines ? Adapte-t-elle ses résultats dans leur contenu et/ou leur présentation aux connaissances de l’utilisateur et au échanges récents avec lui ? Comment construire le modèle de connaissance de notre IA ?

Module5 La complexité
La complexité est inhérente à la problématique que l’on veut résoudre. Elle ne peut pas se réduire. Soit l’IA que l’on construit est au bon niveau de complexité, soit elle est inutilement compliquée, soit elle s’avère simpliste alors que l’on cherchait à ce qu’elle soit simple. Une IA simpliste donnera de mauvais résultats.

Notre IA se situe-t-elle au bon niveau de complexité ? Comment évaluer son niveau de complexité ? Peut-on découper notre IA en plusieurs parties de moindre complexité ? Peut-on renforcer la complexité de notre IA progressivement ? Comment appréhender une IA dont le niveau de complexité est bien supérieur au notre ? Comment prévoir ce qu’elle sera capable de faire ? Peut-on la contrôler ?

Module6 Les mots clés
Beaucoup d’IA utilisent des « mots clés ». Bien sûr un même mot peut avoir plusieurs sens, on fabrique alors des clones du mot clé en leur associant des sens différents. Ceci peut se faire par apprentissage à partir d’un corpus documentaire conséquent. Mais il faut souvent aller plus loin pour comprendre finement la signification des propos des individus. Par exemple si nous disons « Paul pousse la voiture de Pierre », cela peut décrire des scènes totalement différentes selon que Pierre est un adulte, un enfant ou une personne âgée. Dans ces trois cas la voiture dont il est question sera différente, respectivement une automobile, un jouet, un fauteuil roulant. Ces différentes instances du mot voiture constituent des « noèmes ».

Comment notre IA peut-elle utiliser efficacement les mots clé ? Le niveau de précision de notre IA et ses objectifs, justifient-t-ils de recourir aux noèmes ? Comment construire notre IA pour exploiter des noèmes ? Comment notre IA peut-elle discerner les noèmes dans le sens d’un texte ? Jusqu’à quel niveau de précision doit-elle monter ?

Module7 La maturité
Face à une problématique particulière un individu réagit en fonction de ses capacités et de sa maturité. On peut être plus ou moins capable et plus ou moins mature sur un sujet particulier, indépendamment de son âge. Evaluer la maturité d’un individu par rapport à une thématique peut être nécessaire pour classifier des personnes et décider d’une réponse particulière d’un système ou d’une affectation à une tache. Une réponse par un individu ou une machine d’un niveau de maturité supérieur à celui de l’utilisateur sera-t-elle bien comprise ?

Est-il pertinent que notre IA adapte sa réponse au niveau de maturité de l’utilisateur ? Qu’elle relativise les données fournies par l’utilisateur selon sa maturité ? Comment peut-on appréhender le niveau de maturité de quelqu’un ? De notre IA ? Notre IA dispose-t-elle d’un niveau de maturité intrinsèque ? D’un niveau différent selon l’apprentissage réalisé ? Est-ce qu’elle hérite de la maturité de ceux qui on produit ses données d’apprentissage ?

Module8 Les biais cognitifs
De nombreux biais cognitifs ont été mis en exergue par les psychologues cogniticiens. En tenir compte lorsqu’ils sont détectés chez nos interlocuteurs nous permet d’adapter notre discours, relativiser leur propos et orienter nos analyses. Une IA peut également présenter des biais cognitifs via sa construction ou son apprentissage.

Notre IA présente-t-elle des biais ? Les données qu’elle traite sont-elles biaisées ? Est-ce que l’on veut explicitement doter notre IA de biais afin de les simuler ou les anticiper ? Comment notre IA peut-elle détecter des biais ? Comment peut-elle palier les biais ? Comment peut-elle identifier les biais de l’utilisateur ? Comment peut-elle lui présenter les résultats compte tenu de ses biais ?

Module9 La dissonance
Parfois nous souhaitons adopter une attitude qui nous satisfait mais notre comportement est contraint et nous ne pouvons le faire. Parfois notre raisonnement nous apporte une conclusion qui ne correspond pas à ce que nous avons déjà dans notre champ de conscience. Dans tous ces cas et bien d’autres, il y a dissonance cognitive. Cela produit de l’étonnement, de la frustration, diverses émotions. Nos IA nourrissent aussi nos champs de conscience et conduisent des raisonnements qui peuvent créer chez nous des dissonances.
Notre IA est-elle source de dissonance cognitive ? 

Module10 La mémoire