Introduction aux concepts fondamentaux de l’IA

Florent Capelli

01 Février 2025

Organisation du semestre

Heures de cours

  • 6h de cours en distanciel avec moi les samedis 01/02, 01/03 et 22/03 de 10h à 12h.
  • 12h de TP et TD en présentiel (alternance avec le cours de Python).

Evaluation

  • 2 cours d’approfondissement, à suivre en autonomie :
    • 2h de travail pour chaque cours environ.
    • dont un QCM, chacun comptant pour 25% de la note finale.
  • Évaluation lors du dernier TP de l’année: 50% de la note finale.

Moodle

Accès au Moodle du cours pour les différentes ressources pédagogiques (voir chat)

moodle.a2u.fr

Qu’est-ce que l’intelligence artificielle

Qu’est-ce que c’est pour vous ?

Les réponses de 2024

Intelligence Artificielle ?

Capacité d’une machine de résoudre des problèmes où l’humain excelle.

Logique

  • Raisonner
  • Manipuler des règles
  • Représenter des connaissances

On s’arrête où ?

De la complexité d’appliquer les règles humaines

Aide à la décision

Une banque a-t-elle intêret à accorder un crédit à X ?

Problème d’éthique : quels sont les biais de ce genre de programmes ? D’où viennent-ils ?

Perception

  • Reconnaître un chat ?
  • Un morceau de rock ?

Décrire la différence à un ordinateur qui ne “voit” qu’un amas de pixels ?

Est-ce comme ça que vous avez appris ?

Apprentissage

Apprendre à partir d’exemples, d’erreurs etc.

Spam!

Spam!
Algorithmes de recommandation

Traitement de la langue naturelle

  • Interaction avec l’utilisateur :
    Aller de Lille à Lens sans passer par une autoroute

  • Ambiguité :
    Where can I buy apple?

  • Analyse de sentiments :
    J’en ai pris plein les yeux ! Je me suis ennuyé !
    Ce film était terrible !

Créativité

Composer, dessiner, écrire…

Mona Lisa Van Gogh style by Stable Diffusion

Sous l’éclat lunaire, le pangolin errant,
Armure d’écailles, mystérieux marcheur,
Dans la nuit obscure, danseur enchanteur,
Son corps enroulé, secret palpitant.

Aux confins des forêts, il avance lentement,
Entre les ombres, chercheur de chaleur,
Son destin se tisse, tissu de ferveur,
Artisan du silence, poète du vent.

Aragon aurait-il entrevu cet être étrange,
Symbole de la nature, œuvre en marge,
Dans la nuit profonde, il dévoile sa gamme.

Pangolin, troubadour des terres oubliées,
Garde de la vie, héritier d’une énigme,
Sous la lueur des étoiles, danse éthérée.

Peux-tu écrire un sonnet dans le style d’aragon à propos d’un pangolin ? by ChatGPT

Simulation d’agent

  • Prise de décision
  • Plannification
  • Jeux
    • Deep Blue
    • AlphaGo

Qu’est-ce que n’est pas l’IA ?

Des effets de modes

  • L’IA a connu des périodes fastes et moins fastes (hivers de l’IA).
  • Engouement renouvelé :
    • Origines (1956 – milieu des années 60)
    • Systèmes experts (milieu des années 80)
    • Deep Learning (~2012)
    • IA Créative comme DALL-E (2021), Midjourney and Stable Diffusion (2022)
    • ChatGPT (2023) : grands modèles de langues

“IA” est souvent utilisé à tort et à travers dans le discours public (souvent comme argument marketing).

Un GPS, IA ou pas ?

De l’Université Jean Perrin au Louvre Lens en vélo
  • Algorithme de plus court chemin dans un graphe !
  • Résolution d’un problème combinatoire bien identifié
  • Pas de l’IA

IA par-dessus :

  • Trajets multimodaux trains + vélo ? Connaissances hétérogènes, horaires etc.

  • Évaluer le temps de trajet en fonction d’un modèle appris de circulation à un certain horaire.

Rechercher un terme, IA ou pas ?

Chercher un mot dans un document
  • Scanner un texte et trouver les occurences d’un mot
  • Problème bien étudié, algorithmes efficaces
  • Pas de l’IA

IA par dessus :

  • Trouver des concepts “proche” du mot dans un texte (jeu en ligne pedantix)
  • Compréhension d’une requête dans un moteur (Restaurant ouvert Lens sur Google)
  • Nécessite une compréhension de la langue naturelle

Une brève histoire de l’intelligence artificielle

Dartmouth Summer Research Project 1956

Organisé par Shannon, Minsky, Rochester et McCarthy.

Naissance du terme “Intelligence Artificielle” :

Artificial intelligence comprises methods, tools, and systems for solving problems that normally require the intelligence of humans. The term intelligence is always defined as the ability to learn effectively, to react adaptively, to make proper decisions, to communicate in language or images in a sophisticated way, and to understand.

Prérequis

L’existence de l’IA repose sur deux croyances :

  1. La “pensée” humaine est mécanisable : matérialisme
    • rupture avec des croyances religieuses, où la pensée est de nature divine.
  2. On dispose de machines pouvant simuler des raisonnements
    • apparition des ordinateurs et de la notion de calculabilité

La pensée rationnelle

Grèce Antique : apparition de la rationalité

  • On commence à abstraire des concepts : géométrie, astronomie, biologique, philosophie etc.
  • À prouver des propriétés formelles
  • Embryon de méthode scientifique, même si celle-ci reste attachée à de fortes croyances.

Aristote et la logique

Artistote : premiers éléments de logique formelle.

  • affirmation universelle : tout homme est mortel
    • x ∈ homme, mortel(x)
  • affirmation particulière : il existe des hommes mortels
    • x ∈ homme, mortel(x)
  • leurs négations :
    • aucun hommme n’est mortel, x ∈ homme, ¬mortel(x)
    • il existe des hommes qui ne sont pas mortels, x ∈ homme, ¬mortel(x)
  • Prédicat : Socrate est un homme
    • Socrate ∈ homme

Artistote et les syllogismes (suite)

  • Tous les hommes sont mortels
  • Quelques grecs sont des hommes
  • donc quelques grecs sont mortels.

Classifier les raisonnements corrects permettant d’inférer des faits depuis des affirmations.

Embryon de système de preuve !

Very Fast Forward

Petit à petit, raisonnement et pensée sont vus comme une manipulation de symboles :

  • Al-Khawarizmi (~800) : début de l’algèbre symbolique
  • Descartes (~1600) : géométrie “symbolique”
  • Boole, De Morgan (~1850) : logique “symbolique”
  • Frege, Zermelo, Fraenkel (~1900) : axiomatisation des mathématiques (théorie des ensembles)

Toutes les mathématiques et le raisonnement se dérivent à partir d’un petit nombre d’axiomes dans un système de preuve formel.

Nuancé par Gödel en 1931 : théorème d’incomplétude.

Mécanisation du calcul

En parallèle, apparition de machines à calculer.

La pascaline (1645)

« La machine d’arithmétique fait des effets qui approchent plus de la pensée que tout ce que font les animaux ; mais elle ne fait rien qui puisse faire dire qu’elle a de la volonté, comme les animaux. »

Blaise Pascal

Machine Analytique (Babbage, ~1834)

Machine Analytique
Machine mécanique, à calculer, universelle et programmable. Jamais terminée cependant. Ada Lovelace écrit le premier programme et écrit :
« La machine analytique n’a nullement la prétention de créer quelque chose par elle-même. Elle peut exécuter tout ce que nous saurons lui ordonner d’exécuter […] Son rôle est de nous aider à effectuer ce que nous savons déjà dominer. »

D’autres machines

Métier Jacquard
The bombe

Machine de Turing (1936)

En mathématiques, plusieurs formalismes décrivent definissent des fonctions “calculables” : fonctions récursives, lambda calcul et …

Machine de Turing

https://turingmachinesimulator.com/

ENIAC, 1945

Le fantasme de l’IA est dans l’air

  1. La pensée est produite par de la matière, via des mecanismes qu’on peut découvrir.
  2. On dispose de machines universelles pouvant calculer.

=

On pourrait programmer des machines qui pensent.

Littérature :

  • Frankenstein, Mary Shelley. (1818) eBook
  • R.U.R (Rossumovi Univerzální Roboti), Karel Čapek. (1920) eBook
  • Runaround, Isaac Asimov. (1942).

Machines pensantes

Alan Turing
“I believe that at the end of the century the use of words and general educated opinion will have altered so much that one will be able to speak of machines thinking without expecting to be contradicted”

Le Test de Turing

COMPUTING MACHINERY AND INTELLIGENCE, Alan Turing, 1950.

I propose to consider the question, ‘Can machines think?’ This should begin with definitions of the meaning of the terms ‘machine’ and ‘think’. The definitions might be framed so as to reflect so far as possible the normal use of the words, but this attitude is dangerous.

Imitation game: une machine peut-elle se faire passer pour un humain au point de tromper un autre humain ?

Critique du Test de Turing

  • Chatbots programmé spécifiquement sur certains mot-clés pour tromper des humains
  • La chambre chinoise (John Searle, 1980)
  • Confond “intelligence” et “agir comme un humain”
  • Est-ce vraiment ce qu’on cherche avec l’IA ?

Début de la recherche en IA

Du fantasme à la recherche

1956: Conférence de Dartmouth définit l’IA comme un champ de recherche.

  • L’approche symbolique: le cognitivisme
  • L’approche biologique : le connexionisme

Approche Symbolique

Penser = manipuler des symboles.

Logic Theorist (1956), General Problem Solver (1957) (Simon, Shaw, Newell):

  • Programmes manipulant une logique formel et recherchant des preuves
  • Réussissent à prouver des théorèmes mathématiques
  • Explore les preuves possibles par applications successives de règle, chaînage arrière etc.

Un exemple : le singe et la banane

Un singe se trouve dans une pièce, une banane est pendue au milieu du plafond, une chaise se trouve dans un coin.

Limite de l’approche symbolique

  • Connaissances humaines difficiles à complètement formaliser ainsi, quid du sens? du/des contextes?
  • Approche “brute-force” ne passe pas à l’échelle
  • Heuristique de recherche ?

Approche Biologique

“Imiter” le cerveau.

  • 1943: McCulloh et Pitts modélise mathématiquement les neurones.
  • 1949: Hebb formule une théorie d’apprentissage des neurones.

Perceptron (1957)

F = f(∑iwixi): comment trouver les “meilleurs” wi pour modéliser une fonction donnée?

1969, Minsky et Papert montre les limites du perceptron : on ne sépare que des choses linéairement.

Premier hiver de l’IA…

Ne peut calculer parite(x1,…,xn) qui vaut vraie si le nombre de xi mis à 1 est pair.

Réseau de neurones (artificiels)

Imiter le cerveau et ses connexions

Comment “apprendre” une structure constituée de 80 milliards de neurones et leurs connexions ?

Technologie de l’époque très loin de cela.

Hiver de l’IA

Fin des années 70, l’excitation initiale retombe et les financements se font plus rares :

  • Difficulté de formaliser symboliquement le raisonnement et la connaissance humaine
  • Limite du connexionisme : technologie très loin des ordres de grandeurs du cerveau.
  • Est-ce que l’IA est nécessaire ? utile ? dangereuse ?

Pendant l’hiver

Les idées développées sont cependant un terreau fertile pour l’informatique en général

  • Preuves formelles
  • Langage de programmation
  • Apprentissage
  • Systèmes experts (MYCIN, DENDRAL…)

L’IA aujourd’hui

Changement de but

Le fantasme d’une machine qui pense n’est plus forcément le moteur :

  • Approche plus appliquée : résoudre des problèmes “difficiles”
  • Doter les machines de capacités permettant une interaction plus simple avec les humains

Recherche

L’IA aujourd’hui a des applications dans tous les domaines économiques et de la connaissance :

  • modélisation de problème (apprentissage)
  • résolution de système contraintes complexes
  • optimisation de processus
  • analyse sémantique (web, texte)

Réseaux de neurones

Intêret pour les réseaux de neurones renouvelé :

Un GPU (ou carte graphique, crédit : Henry Mühlpfordt)
  • Avancée technologique ont permis de passer à une échelle supérieur (GPU)
  • Applications très prometteuses (reconnaissance d’images, transformers, etc.)
  • Données d’apprentissage bien plus facile d’accès (internet)

Ce semestre

Différentes facettes de l’IA :

  • Approche symbolique, logique
  • Apprentissage à partir de données
  • Traitement de la langue naturelle
  • TP 1 : Modéliser un problème de raisonnement en logique et le résoudre automatiquement avec un programme
  • TP 2 : Quelques notions d’IA pour les jeux
  • TP 3 : Apprendre avec des arbres de décisions
  • TP 4 : Apprendre avec des réseaux de neurones
  • TP 5 : Créer un petit modèle de langue

Semestre prochain

  1. IA et éthique
  2. IA et données

Quelques lectures

Grand public

Histoire IA
Histoire de l’IA, par Frédéric Fürst
L’intelligence artificielle. De quoi s’agit-il vraiment?, GDR IA

Apprentissage

Apprentissage machine, Clé de l’Intelligence Artificielle, Rémi Gilleron
Deep Learning
The Little Book of Deep Learning, François Fleuret