L’IA un sujet d’actualité…

Ces dernières années, l’IA est au centre de l’actualité et des réseaux sociaux, que ce soit pour des buzz, des fake news. Également, dans notre quotidien, l’IA sert de moteur de recherche, de traducteur, de correcteur…

Est-ce que les informations qu’on y trouve sont toujours vraies et exactes ?

La vérité se réfère à la correspondance entre une déclaration et les faits réels. Ainsi, une affirmation est considérée comme vraie si elle correspond à la réalité ou à la façon dont les choses sont réellement1.

Cependant, l’IA ne se soucie pas toujours de donner la vérité. Il arrive qu’elle prenne des raccourcis qui nous semblent à première vue évidents, mais qui ne sont pas vrais. Elle assimile et assemble les milliers d’informations contenues dans sa base de recherche, mais elle n’a pas de connaissances intrinsèques.

Explication

Ici, l’IA peut également répondre à cette question par « Sydney ». Cela correspond au domaine de la vraisemblance. La vraisemblance étant plutôt une apparence de vérité ou de crédibilité d’une déclaration. Ainsi, Sydney est la plus grande ville d’Australie et la plus connue, mais ce n’est pas la capitale.

L’IA n’a aucune possibilité ni de compétence pour vérifier la véracité de ses propos. Donc, l’IA peut participer à la diffusion de contre-vérités et de désinformation. Il faut évaluer chaque production de l’IA avec esprit critique. Il faut se questionner sur les réponses fournies par l’IA, c’est-à-dire avoir de l’esprit critique.

Une utilisation de l’IA controversée ?

L’utilisation de l’IA a explosé cette année, notamment par la génération d’images et d’autres contenus vidéo et audio. Certains contenus peuvent mettre en scène des personnalités publiques dans des situations qui paraissent réelles.

Explication

Le problème majeur de cette utilisation est qu’elle participe grandement à la désinformation du public en partageant de faux contenus. Il arrive même que les médias tombent dans ce piège.

Pour ceux qui est d’un domaine de connaissance plus approfondi et pointilleux, l’IA peut être un formidable outil pour vulgariser et mettre en avant les concepts généraux. Cependant, il faut faire preuve d’esprit critique et ne pas prendre au pied de la lettre les résultats produits par l’IA, toujours dans le but de différencier la vérité de la vraisemblance. D’autant plus qu’en ce qui concerne la génération « d’images scientifiques » par les IA, les résultats sont loin d’être convaincants. En effet, les images générées par les différentes IA sont visuellement jolies, attirent l’œil, mais ne contiennent aucune réelle connaissance.

Quel est le problème ? D’où proviennent les sources d’informations utilisées par l’IA ?

L’IA se réfère à des informations déjà disponibles sur les moteurs de recherche tels que Google, Bing, Wikipédia. De plus, ces bases de données sont elles-mêmes agrémentées par les utilisateurs, les informations partagées ne sont pas toujours véridiques.

Il arrive même parfois que les intelligences artificielles génèrent des sources fictives. Elles peuvent citer des articles qui n’existent pas ou même référencer un livre avec une page correspondante, alors que le livre n’a pas autant de pages.

Exemple : Une IA qui invente une référence scientifique

  • Question posée : « Quels sont les articles récents sur l’impact de la méditation sur la plasticité neuronale ? »
  • Réponse de l’IA : Smith, J., & Turner, L. (2023). The Effects of Meditation on Neuroplasticity in Adults: A Longitudinal Study. Journal of Cognitive Neuroscience, 45(2), 123-135.
  • Problème constaté : Après vérification, cet article n’existe pas. Ni les auteurs, ni le titre, ni la publication dans le journal mentionné ne sont réels. L’IA a « inventé » cette source en combinant des éléments crédibles mais fictifs.

Explication

Les IA sont conçues pour produire des réponses plausibles et bien structurées, mais pas toujours pour garantir l’exactitude des informations fournies. Si des données erronées ou imprécises étaient présentes dans leur entraînement, elles peuvent les reproduire. Parfois, elles « fabriquent » également des informations en mélangeant des éléments qui semblent réalistes pour répondre à la demande.

Mais alors, à qui la faute, et quelles en sont les conséquences ?

Mise en situation :

En 2014, Amazon a voulu confier le recrutement de personnel à un algorithme. L’IA devait examiner les CV des candidats et leur attribuer une note afin de faire ressortir les meilleurs. Cependant, le modèle informatique utilisé s’appuyait sur les CV du personnel des années précédentes, qui étaient pour la plupart des hommes. Ainsi, l’IA en a déduit que les candidats masculins étaient préférables pour ces postes et a donc écarté les candidatures féminines.

Explication

La faute nous revient !

Les recruteurs avaient eux-mêmes leurs propres biais et ont introduit sans le vouloir leurs biais et préférences. Ainsi, l’IA ne fait que les mettre en lumière et les amplifier.

Puisque l’IA est créée par l’homme et se sert de contenu créé par l’homme pour assembler une réponse, la faute nous revient. L’IA est biaisée par nos propres biais, croyances…

Est ce qu’il faut fuir l’IA ou peut-elle nous être utile ?

L’IA est sur la voie de devenir un outil quotidien et prend plus de place qu’on ne pourrait le croire. Ne serait-ce que pour les correcteurs orthographiques ! De plus, de nombreuses entreprises utilisent l’IA pour optimiser leur service client. Elle permet l’automatisation de tâches fastidieuses et répétitives permettant ainsi d’améliorer l’efficacité.

Avec l’avancée de la technologie et de la science l’IA fait évoluer ses bases de données pour nous actualiser ses données et nous fournir des connaissances de plus en plus pointues. Cela représente donc un formidable outil pour résumer, apprendre et vulgariser.

Exemple : Une bonne vulgarisation scientifique

  • Question posée : « Peux-tu m’expliquer la spike timing dependant plasticity (STDP) ? »
  • Réponse de l’IA : STDP repose sur le timing relatif des potentiels d’action (ou « spikes ») entre un neurone pré-synaptique (émetteur) et un neurone post-synaptique (récepteur). Selon le décalage temporel entre ces spikes, la force synaptique peut soit augmenter (potentialisation), soit diminuer (dépression).
🔻Voir la suite de la réponse donnée par l’IA

Si le spike pré-synaptique arrive avant le spike post-synaptique :

  • Cela signifie que l’activité du neurone pré-synaptique contribue à déclencher le spike post-synaptique.
  • Résultat : Renforcement de la synapse (potentialisation à long terme ou LTP, Long-Term Potentialisation).
  • Exemple : Le spike pré-synaptique se produit 10 ms avant celui du neurone post-synaptique.

Si le spike post-synaptique arrive avant le spike pré-synaptique :

  • Cela suggère que le spike pré-synaptique n’a pas joué un rôle causal dans l’activité post-synaptique.
  • Résultat : Affaiblissement de la synapse (dépression à long terme ou LTD, Long-Term Depression).
  • Exemple : Le spike post-synaptique précède celui pré-synaptique de 20 ms.

Fenêtre temporelle critique :

  • L’effet de STDP dépend fortement du décalage temporel :
    • Pour des différences de timing de l’ordre de quelques millisecondes, les effets de LTP ou LTD sont les plus forts.
    • Si le décalage est trop grand (par exemple, plusieurs dizaines de millisecondes), STDP n’a pas d’effet significatif.

STDP est sous-tendu par des processus moléculaires complexes, notamment :

  • L’amplitude et la localisation de cette augmentation de calcium déterminent si une LTP ou une LTD est induite.
  • L’activation des récepteurs NMDA (un type de récepteur au glutamate) qui permettent l’entrée de calcium dans le neurone post-synaptique.

C’est donc à nous d’approfondir ces connaissances primaires avec des articles d’expert provenant de sources fiables. Il faut cultiver ses propres connaissances et varier les sources d’informations pour ne pas tomber dans le piège de l’évidence et de la facilité. Par exemple, pour la recherche scientifique, la base de données PubMed est très utilisée et contient des données vérifiées par la communauté scientifique. Or, les IA n’ont pas accès à ces informations.

Conclusion

L’utilisation de l’IA soulève des problèmes éthiques et des questionnements sur son utilisation parfois malveillante (deepfake). L’IA est un outil merveilleux pour l’accès et la transmission des connaissances, mais attention à garder l’œil ouvert sur ce qui vous est raconté ! Pour vous aider, la réponse que l’IA donne est toujours accompagnée d’un indice de fiabilité qui permet de remettre en question le contenu généré. Comme n’importe quel outil, il ne dédouane pas l’humain de garder son sens critique et de se questionner.

Références

  1. Denoyer, L., & Krivine, J.-P. (2023). IA Génératives, , ChatGPT : révolution en cours ou apocalypse annoncée ? Science et Pseudo-sciences N°345 (juillet 2023). ↩︎