cinephiledoc

Blog pour cinéphiles et profs docs

Étiquette : numérique (Page 2 sur 5)

Notes de lecture sur l’intelligence artificielle (épisode 4)

de

On 27 octobre 2023

dans Aux infos, etc. !, Notes de lecture

Pour ce quatrième (et peut-être dernier) épisode de mes notes de lecture sur l’intelligence artificielle, j’ai choisi des ouvrages et des articles qui permettent de susciter le débat sur la question.

En effet, les lectures que j’ai retenues peuvent être mobilisées dans des disciplines principalement associées aux sciences humaines : enseignement moral et civique, philosophie, HLP…

Je précise qu’il s’agit là potentiellement du dernier épisode, car je pense pour l’instant avoir à titre personnel fait le tour de la question, même si je n’exclus pas de prendre à nouveau des notes sur des ouvrages ou des articles qui attireraient mon attention et proposeraient un éclairage d’actualité sur le sujet (je pense en particulier aux ouvrages publiés très récemment sur ChatGPT).

Mais d’ici là, je m’octroie une petite pause sur l’intelligence artificielle (sauf pour avancer dans mes conceptions de séances) et vais plancher sur d’autres lectures scientifiques.

Dans cet épisode :

  1. un aperçu de deux ouvrages que j’ai parcouru et qui abordent la question d’un point de vue philosophique et social : Les Robots font-ils l’amour ? et Des Robots et des hommes
  2. revue de presse avec les numéros 1700 du Courrier international et 432 du Un
  3. sélection de ressources

Les Robots font-ils l’amour : Le transhumanisme en 12 questions, de Laurent Alexandre et Jean-Michel Besnier

Cet ouvrage, publié en 2016, figurait déjà depuis un certain temps dans le rayon philosophie du CDI, et déjà à l’époque, le titre avait retenu mon attention, en me rappelant celui du roman de Philip K. Dick Les Androïdes rêvent-ils de moutons électriques ?, porté à l’écran sous le titre Blade Runner.

Contrairement à mes notes de lecture précédentes, je ne vais pas tenter de faire un résumé de chaque chapitre, le titre étant suffisamment parlant. Je vais me contenter de relever ce qui m’a intéressée dans cet ouvrage et de quelle manière il peut permettre de nourrir un débat sur la question.

L’ouvrage prend la forme d’une discussion (relativement animée) entre les deux auteurs, Laurent Alexandre, médecin et entrepreneur, et Jean-Michel Besnier, philosophe, et cette discussion s’articule autour des 12 questions du sous-titre :

  1. Faut-il améliorer l’espèce humaine ? (implants, détection de la trisomie 21)
  2. L’humanité doit-elle changer sa reproduction ? (fécondation in vitro, manipulations génétiques)
  3. La technologie peut-elle tout réparer ? (thérapie, implants, rôle et déontologie d’un médecin supplanté par les technologies)
  4. Demain, tous cyborgs ? (le chapitre revient sur les craintes soulevées à l’époque par Elon Musk autour de l’intelligence artificielle, et sur la question du libre arbitre au sein d’un corps livré à la technique)
  5. Peut-on faire l’amour avec un robot ? (évocation du film Her, cybersexualité)
  6. Est-il désirable de vivre 1000 ans ? : la lecture de ce chapitre m’a rappelé le roman Tous les hommes sont mortels de Simone de Beauvoir
  7. Le transhumanisme est-il un eugénisme ? (est-il légitime d’utiliser toutes les possibilités de transformation offertes par la science ? rappel du mythe de la singularité, c’est-à-dire le moment où l’esprit humain est dépassé par l’intelligence artificielle)
  8. L’intelligence artificielle va-t-elle tuer l’homme ? (retour sur la lettre ouverte sur l’intelligence artificielle signée en 2015 entre autres par Stephen Hawking, Bill Gates, Elon Musk…) *
  9. Quels sont les enjeux économiques ? (retour sur l’implication des géants du numériques, en particulier Google, le lien entre Big data et IA)
  10. Faut-il légiférer ? (de quelle manière encadrer législativement et de manière éthique les innovations technologiques ? quelles interventions de l’état – ou inter-étatiques – possibles ? nécessaire évolution de l’école)
  11. Doit-on craindre un « meilleur des mondes » ? (risques totalitaires du transhumanisme ou renouveau démocratique ? proposition d’un serment d’Hippocrate pour les scientifiques spécialistes des NBIC)
  12. Jusqu’où pousser la recherche ? (le transhumanisme comme nouvelle religion)

J’ai indiqué par un * les chapitres sur lesquels je me suis davantage attardée. Le chapitre 8 fait un rapide historique de l’intelligence artificielle, sur la définition de l’intelligence, sur la difficulté de l’école à s’adapter aux problématiques actuelles de l’IA, sur les risques de l’intelligence artificielle pour l’emploi, sur la distinction entre IA faible et IA forte et sur la loi de Moore.

Mon avis sur l’ouvrage

Le caractère souvent décomplexé de la conversation m’a parfois quelque peu désarçonnée, mais j’ai trouvé la structure très fluide et intéressante, et avec un recul sur ces différentes questions, je pense qu’elles peuvent être reprises presqu’à l’identique dans le cadre de débats menés en classe avec les élèves.

Des robots et des hommes : Mythes, fantasmes et réalités, de Laurence Devillers

Là encore, il s’agit d’une publication sur la question qui remonte à quelques années (2017).

L’ouvrage s’ouvre par une fiction « LILY, ma robote assistante de santé » où l’auteur imagine un futur désormais proche, en 2025, avec des robots compagnons de vie ayant trois niveaux d’adaptation : le niveau 1 sans adaptation, le niveau 2 où le robot peut apprendre certaines tâches, et le niveau 3 où il s’adapte aux habitudes de l’humain.

L’auteure propose des allers-retours entre cette fiction et les avancées de la robotique et de l’intelligence artificielle au moment où cet ouvrage est publié ainsi que les questionnements qu’elles soulevaient : les agents conversationnels, les capacités propres à l’homme et celles propres aux robots, le traitement des données personnelles.

Dans son avant-propos, Laurence Devillers évoque déjà les expériences menées avec les robots japonais Pepper et Paro (et l’utilisation de ce dernier dans l’accompagnement des personnes âgées), des robots Keepon et Nao pour les enfants souffrant de troubles du spectre autistique.

Principalement, elle pose la question de l’intégration des robots sociaux dans notre vie quotidienne, avec les problématiques de la morale, de l’éthique, de l’empathie, du respect de la vie privée. Elle indique 4 leviers à prendre en compte :

  • éduquer à l’éthique des robots
  • expliciter des règles de bonne conduite à coder sur le robot
  • mettre en oeuvre des outils pour vérifier le respect de ces règles
  • adopter une règlementation juridique en cas de non respect

en s’appuyant sur les lois de la robotique d’Asimov.

L’ouvrage se décline ensuite en deux parties.

Dans la première partie « Les robots : science-fiction, mythes et fantasmes », l’auteure revient aux origines littéraires et cinématographiques de la robotique :

  • Frankenstein ou le Prométhée moderne, de Mary Shelley
  • le mot ROBOT qui trouve son origine chez Karel Capek
  • et évidemment Asimov pour la littérature

Concernant les mythes et fantasmes cinématographiques, elle les fait remonter à Prométhée, Pygmalion, à Faust et au Golem, aux questionnements philosophiques de Descartes (qui dissocie corps et esprit) et aux différences culturelles de perception des robots entre l’Occident et le Japon.

S’ensuivent les références cinématographiques de Metropolis, 2001, Star Wars, A.I., WALL-E., Her, et les séries Real Humans et Westworld, qui posent d’un point de vue fictionnel les problématiques soulevées dans l’avant-propos.

Dans le troisième chapitre de cette première partie « L’intelligence des machines : halte aux fantasmes ! », l’auteure revient sur la définition de l’intelligence et fait un rappel historique de ce que recouvre l’intelligence artificielle (Turing, modes d’apprentissage, hivers de l’IA, recherches menées par les GAFAM et transhumanisme, mythe de la singularité et lettre ouverte de 2015 alertant sur les dangers de l’IA).

Quelques points de réflexion :

  • Tay, l’intelligence artificielle de Microsoft entraîné par les utilisateurs à tenir des propos racistes et antiféministes
  • les failles de la technologie de reconnaissance faciale de Google Photos
  • citation mentionnée de Gérard Berry, informaticien et professeur au Collège de France

L’homme est lent, peu rigoureux et très intuitif. L’ordinateur est super rapide, très rigoureux et complètement con.

L’auteure rappelle l’urgence d’aller au-delà du test de Turing pour prendre en compte les nouvelles capacités de l’I.A.

Dans la deuxième partie « Les robots : aujourd’hui et demain », l’auteure s’intéresse à ce qui lie robotique, intelligence artificielle et problématiques sociales et morales.

Dans le chapitre « Qu’est-ce qu’un robot social ? », elle évoque les fonctionnalités les plus récentes des robots, avec les dimensions développées : autonomie, apprentissage et empathie.

Elle définit selon différents critère la robotique sociale : le robot perçoit ce qui l’entoure, peut apprendre et interagir avec nous, et ces différents enjeux dans les chapitres suivants :

  • un robot doit-il le plus possible ressembler à un humain ? va-t-on faire plus confiance à un robot humanoïde ?
  • un robot peut-il manifester de l’empathie ou en susciter ? qu’est-ce qui distingue l’homme du robot dans l’expression des émotions ? une machine peut-elle apprendre à détecter les émotions et adapter sa réponse en conséquence ?
  • comment intégrer aux innovations technologiques la morale et le respect de la vie privée et des données personnelles ?

Pour illustrer cette dernière question, l’auteure cite la nouvelle de John McCarthy, Le Robot et le bébé, où le robot doit déroger à une première règle de fonctionnement pour respecter la deuxième.

Elle soulève également la question de la responsabilité en matière d’intelligence artificielle : qui est responsable entre le concepteur du programme, l’ingénieur, l’opérateur et l’utilisateur ?

Règles et responsabilités interviennent dans les champs suivants :

  1. sécurité civile,
  2. opérations militaires,
  3. voitures autonomes (Moral Machine)

Concernant les relations que les humains peuvent avoir avec un robot social, l’auteure rappelle le rôle chez l’enfant du doudou comme objet transitionnel (note personnelle : ce que constitue déjà le smartphone pour un certain nombre de personnes – voir nomophobie) avec les risques que cela induit : addiction, confusion, repli sur soi.

Les deux derniers chapitres évoquent les peurs suscitées par les robots (piratage, surveillance, risques économiques) et la nécessité d’éviter les deux écueils que sont les craintes irrationnelles et le trop plein de confiance, ce qui amène naturellement à l’épilogue de l’ouvrage, une proposition de onze commandements pour les applications sociales de la robotique, où figurent en premier lieu les données privées et le droit à l’oubli.

Mon avis sur l’ouvrage

Parmi les ouvrages traitant de la question de l’intelligence artificielle par le biais des sciences humaines et en particulier de la philosophie, des émotions et de la morale, cet ouvrage est le plus intéressant que j’ai pu lire jusqu’ici.

La porte d’entrée de la fiction, avec les robots compagnons et les allers-retours avec les questionnements actuels sont assez vertigineux et captivants, surtout lorsqu’on lit aujourd’hui cet ouvrage publié en 2017.

Il complète de manière plus posée le premier ouvrage, et permet d’assoir les arguments qui pourraient survenir dans un débat sur l’intelligence artificielle en classe.

Revue de presse

Pour cette revue de presse, j’ai décidé de ne pas trop détaillé le contenu des périodiques concernés et de me concentrer sur ce que j’ai pu trouver de plus récent – hors quotidiens, sur les aspects sociaux, philosophiques et artistiques de l’intelligence artificielle. J’ai donc retenu deux documents :

Naomi Klein : « Les IA organisent le plus grand pillage de l’histoire de l’humanité ». Courrier international n°1700, 01/06/2023, p.44-45

Dans cette tribune publiée dans The Guardian, Naomi Klein revient sur les « hallucinations » autour des dernières innovations de l’intelligence artificielle et fait se confronter certaines utopies (utiliser l’IA pour prendre des décisions, pour transformer le monde du travail, pour améliorer l’accès à l’information) et leurs revers (consommations, crise climatique, dérives politiques et économiques.

L’IA va-t-elle nous remplacer ?. Le 1 n°432, 01/02/2023, p.1-6

Dans le numéro de cette revue hebdomadaire, j’ai retenu :

  • les Repères en page 5 « Rêves prométhéens » qui proposent une chronologie littéraire et cinématographique de l’IA.
  • dans le Zoom en page 6 « À quand un ChatGPT français ? », Isabelle Ryl évoque le supercalculateur Jean-Zay et le modèle de langage Bloom, un modèle de langage ouvert, responsable et explicable.
  • dans « L’art au temps de l’intelligence artificielle » Marion Carré revient sur les questionnements récents (et qui font écho à la grève des scénaristes et des acteurs à Hollywood) : l’IA peut-elle être artiste ? quels risques dans l’uniformisation des goûts ? quels sont les droits concernant une oeuvre générée par l’intelligence artificielle ?
  • enfin dans son enquête « Le défi de l’éducation », Manon Paulic revient sur la nécessite de repenser l’enseignement : évalue-t-on la capacité des élèves à emmagasiner et restituer des connaissances ou son raisonnement critique et sa créativité ?

Ce dernier débat me renvoie à l’opposition entre les sophistes et Socrate dans les dialogues platoniciens… et ouvre sur l’une de mes prochaines lectures, que j’évoque dans la partie Ressources.

Ressources

J’avais songé à l’origine faire le compte-rendu dans cette note d’un troisième ouvrage : Data-Philosophie de Sonia Bressler, en y abordant uniquement ce qui a trait à l’intelligence artificielle, mais l’ouvrage opte visiblement pour un questionnement plus large et qui m’intéresse, j’en ferai donc le compte-rendu dans un article ultérieur.

Notes de lecture sur l’intelligence artificielle (épisode 3)

de

On 8 septembre 2023

dans Aux infos, etc. !

Voici un troisième épisode de mes notes de lecture sur l’intelligence artificielle, où je commence à cerner l’objectif de ces notes :

avoir une vision d’ensemble sur la question et qui me permette de proposer ou de concevoir des séances pédagogiques sur l’IA, aussi bien dans des disciplines associées aux sciences pures (SNT, enseignement scientifique, mathématiques) que dans les sciences humaines (SES, éco-gestion, EMC, HGGSP, HLP…).

Ce troisième épisode abordera donc la question sous l’angle des sciences humaines avec un premier focus sur les aspects économiques et géopolitiques de l’intelligence artificielle.

Dans cet épisode :

  1. les ouvrages Intelligence artificielle, l’affaire de tous et Géopolitique de l’intelligence artificielle
  2. revue de presse avec les numéros de la revue Le Monde diplomatique n° 829 et du Courrier international n°1685, 1695 et 1704
  3. une sélection de ressources

Intelligence artificielle, l’affaire de tous : de la science au business, Thierry Bouron

Il s’agit donc pour moi d’un quatrième ouvrage sur l’intelligence artificielle, après une première lecture à coloration davantage scientifique, et deux lectures de vulgarisation qui tendaient à proposer une vision d’ensemble de la question.

Cet ouvrage a été publié en juillet 2020 aux éditions Pearson et apporte un éclairage davantage professionnel : économie, business, management et marketing. 

Cela se remarque dans les exemples donnés et dès l’introduction, qui revient sur la révolution induite par les intelligences artificielles à la fois dans les différents secteurs économiques mais aussi dans les formations professionnelles.

Ainsi l’auteur rappelle que la Chine a été la première à expérimenter des cours sur l’intelligence artificielle dans une quarantaine de lycées. 

La coloration économique de l’ouvrage est visible aussi dans sa construction, puisqu’en introduction l’auteur souligne les impacts économiques de l’IA, et comment mettre en place une stratégie d’entreprise en en tenant compte.

Deux chapitres rappelant l’essentiel par des exemples et une base historique et scientifique. 

Le chapitre 1 « L’observation d’IA » fait un top 10 des IA impressionnantes, et explique en quoi elles le sont : une IA capable de créer un morceau de musique ou un texte littéraire, les robots Kiva d’Amazon capables d’aller chercher les produits dans les étagères où ils sont stockés, les boutiques Go store, AlphaGo, l’assistant Google qui prend un rendez-vous à notre place. 

Le chapitre 2 « L’IA est plurielle » fait un rappel historique de l’IA qui était déjà abordé dans les ouvrages des précédentes notes de lecture : test de Turing, conférence de Dartmouth, hivers de l’IA. Il revient également sur les notions de machine learning, deep learning et sur les différents courants de pensées liés à l’IA.

  • Le business de l’intelligence artificielle : innovations, investissements économiques et politiques

Dans le chapitre 3 « Un business démesuré », l’auteur s’intéresse aux évolutions induites par l’IA dans l’entreprise, avec le phénomène d’innovations disruptives (ruptures qui peuvent provenir de la création d’un nouveau service, d’un élargissement de l’accessibilité, d’un nouveau modèle de business ou de nouveaux systèmes opératoires). 

Pour ces derniers est convoqué l’exemple du système de recommandation de produits par Amazon. 

L’auteur revient ensuite sur les perspectives de marché de l’IA (impact sur la croissance mondiale par une augmentation de la productivité, la proposition de nouveaux services et un gain de temps), sur les investissements en IA (notamment distribution de contenus sur les réseaux sociaux) et sur les politiques gouvernementales. Pour la France : rapport Villani publié en 2018, prévision d’investir 1,5 Milliards sur cinq ans, sélection de 4 pôles de recherche régionaux. 

Dans le domaine de l’industrie. Les GAFAM ont investi dans l’IA : Alphabet est le premier acteur dans l’acquisition de sociétés d’IA. 

Définition d’une IA COMPAGNY : 

  1. Stratégie d’acquisition de données
  2. Regroupement et centralisation des données dans des entrepôts
  3. Mise en place de procédures contrôlant le respect des données privées
  4. Automatisation des procédures
  5. Création de nouveaux métiers autour des data sciences

Description des différentes stratégies des GAFAM en IA. Google : agents conversationnels. Facebook : recherche et analyse semantique de textes, images et vidéos (détection de contenus / de faux comptes). Amazon : robots. Apple : Siri. 

Pour soutenir ces évolutions : développement des compétences et des formations universitaires dans ce domaine.

  • Risques de l’intelligence artificielle dans le secteur économique

Dans le chapitre 4, « Les risques effectifs », l’auteur revient sur plusieurs risques soulevés par l’IA. La question des systèmes autonomes permet de traiter le domaine de l’armement et de la défense militaire. 

La partie la plus éclairante concerne les risques propres aux machines apprenantes, notamment à travers la question des corrélations de données (voir l’étude mentionnée de Tyler Vigen : Spurious Correlations et celle sur les fausses corrélations dans un contexte politique : Hack your way to scientific glory) et celle de la généralisation induite par un jeu de données (un outil de recrutement qui élimine certains profils parce qu’ils sont au départ peu représentés). 

Les autres risques mentionnés sont les usages abusifs (exemple de Compas) et les risques liés aux données personnelles avec l’exemple de l’affaire Cambridge Analytica. 

Le dernier risque évoqué est l’impact de l’IA sur l’emploi.

  • Fonctionnement de l’intelligence artificielle

Les 3 chapitres suivants reviennent sur le fonctionnement de l’intelligence artificielle, déjà abordé dans d’autres ouvrages à coloration plus scientifique : « machines apprenantes », « réseaux de neurones artificiels » et « systèmes autonomes » avec des apartés mathématiques pour creuser la question. 

J’ai quelque peu survolé ces chapitres parce qu’ils sont un peu trop mathématiques pour moi, même si dans celui consacré aux systèmes autonomes, une sous-partie « Simulation multi-agents » a retenu mon attention. L’auteur y étudie le renforcement des comportements de consommateurs via l’IA, illustré par le schéma suivant :

Il propose également un jeu de rôles sur les comportements de consommateur, pour manipuler des agents intelligents et se mettre dans la peau d’une IA.

Ce jeu pourrait éventuellement être réutilisé en SNT ou en éco-gestion. Certaines indications sur le nombre de cartes et leur répartition ne sont pas très claires, aussi j’ai essayé de l’adapter de mon mieux dans un jeu que j’ai intégré à une séance de SNT, et que je compte tester prochainement. 

Enfin le dernier chapitre de l’ouvrage « Études de cas » revient sur différentes applications d’intelligence artificielle dont Internet et les agents conversationnels.

Concernant Internet, sont abordés la recommandation et le ciblage : de quelle manière Amazon influence les achats par le système de recommandation personnalisée (un quart des achats sur le site), la suggestion de vidéos sur YouTube et Netflix, la publicité ciblée via les cookies et l’historique de navigation.

Concernant les agents conversationnels, l’auteur fait un rappel du test de Turing, et étudie quelques applications : Siri, Alexa, les chatbots et les enceintes connectées.

En conclusion l’auteur rappelle l’importance de se tenir au courant de l’actualité dans le domaine de l’intelligence artificielle, pour le secteur économique mais cela peut être élargi. Il fait un récapitulatif par un exercice de questions / réponses des différents points abordés dans l’ouvrage.

Mon avis sur l’ouvrage :

Le plus : un véritable éclairage thématique de l’intelligence artificielle. J’ai certes laissé de côté les aspects les plus mathématiques, mais l’ensemble du propos est très éclairant, et peut interroger même sur des domaines comme différents secteurs économiques (immobilier, ressources humaines, entreprise) ou les formations professionnelles, ce qui peut permettre de lier aussi la thématique aux filières d’études des élèves et à leur choix d’orientation.

Par ailleurs, l’auteur a une posture véritablement pédagogique, avec des moments de questions / réponses qui peuvent être réutilisés en classe.

Géopolitique de l’intelligence artificielle, Pascal Boniface

Cet ouvrage a été publié aux éditions Eyrolles en janvier 2021, et il fait partie de la bibliographie très prolifique de Pascal Boniface, spécialiste de géopolitique.

On lui doit des ouvrages plusieurs fois réédités sur les relations internationales (Comprendre le monde) et qui relient la géopolitique à certaines thématiques (le sport, les jeux olympiques, le Covid…).

L’ouvrage consacré à l’intelligence artificielle se décline en sept chapitres, après une introduction où l’auteur rappelle son parcours littéraire malgré son intérêt pour la question, ce qui sera éclairant pour la suite de l’ouvrage.

Le premier chapitre « Intelligence artificielle, histoire et définition » revient de manière succincte sur des éléments déjà abordés dans les ouvrages abordés précédemment : le test de Turing, la conférence de Dartmouth, les hivers de l’IA, deep learning et machine learning, traitement des données.

Un encart revient sur le rôle de la DARPA (Defense Advanced Research Projects Agency) créée en 1958 qui finance aux États-Unis la recherche et le développement dans le domaine des technologies militaires, avec un département dédié à l’innovation et à l’information créé en 2005.

Dans le deuxième chapitre « Corne d’abondance ou machine à exclure ? », l’auteur revient sur la vision que la société a généralement des innovations techniques et des craintes qu’elles suscitent, largement relayées par Pascal Boniface (inégalités, chômage, accès à la santé et transhumanisme, relations des états avec les géants du numérique).

Le troisième chapitre « Les GAFAM vont-ils tuer l’État ? » accentue ces craintes, en faisant notamment un tableau comparatif entre les fortunes des dirigeants et le PIB de certains pays (Amazon / Bezos en 2020 = Qatar en 2019, Elon Musk = Maroc).

Il étudie de quelle manière ces dirigeants s’emparent de domaines jusqu’ici régaliens (la conquête spatiale pour Musk) et affaiblissent les institutions, et leurs arrangements avec la fiscalité, malgré les tentatives de régulation étatiques ou inter-étatiques.

Dans le quatrième chapitre, « Printemps des libertés ou hiver totalitaire ? », Pascal Boniface revient sur le risque d’une surveillance absolue induite par le Big data, en s’appuyant notamment sur l’affaire Cambridge Analytica.

Pour contrebalancer, il rappelle également le rôle des réseaux sociaux notamment dans les mobilisations populaires (printemps arabe, mouvement #MeToo), et relativise le lien entre réseaux sociaux et bulle de filtres, rappelant qu’un lecteur de Libération ira rarement lire Le Figaro.

Le point le plus intéressant du chapitre est l’encart consacré au contrôle social en Chine, et à la façon dont les citoyens chinois sont classés, de AAA (citoyen exemplaire) à D (citoyen malhonnête).

Le chapitre 5 revient d’ailleurs sur « Le duel Chine / États-Unis ». En effet, la Chine concentre ses dépenses non dans le domaine militaire, mais dans le domaine technologique, surtout depuis qu’elle a connu son « moment Spoutnik » avec la défaite de son champion contre AlphaGo.

Elle conjugue depuis croissance économique, montée en puissance technologique et patriotisme, ce qui lui donne un avantage considérable par rapport aux GAFAM, dont les dirigeants n’ont pas les mêmes relations aux institutions gouvernementales. Elle dépasse les États-Unis en publications scientifiques et en dépôt de brevets. Le chapitre revient sur les tentatives américaines pour juguler certaines entreprises chinoises (Huawei et plus récemment l’application TikTok).

Face aux deux géants, le chapitre 6 « Quo vadis, Europa ? » rappelle le retard européen en matière d’investissements. Le RGPD adopté en 2016 peut-être perçu à la fois comme un frein et comme un modèle attractif. Une stratégie européenne a été proposée en 2018 pour rattraper ce retard, en finançant la recherche et l’innovation.

Le dernier chapitre « La France dépassée ? » revient sur les initiatives françaises en matière d’informatique et d’intelligence artificielle :

  • 1966 : Plan calcul et création de l’IRIA (Institut de Recherche, d’informatique et d’automatisme) ancienne INRIA
  • 2018 : lancement des quatre instituts interdisciplinaires de l’IA  (3IA)
  • 2019 : plan de 1.5 milliard d’euros d’investissement dans l’IA jusqu’en 2022 ; supercalculateur installé sur le plateau de Saclay
  • projet d’un cloud souverain et appels d’offres sur la protection des données

En 2019, un tableau recense les pays et régions du monde ayant déposé le plus de brevets IA dans le monde. Rang 1 : USA, rang 2 : Chine. La France arrive au rang 14.

Mon avis sur l’ouvrage :

L’ouvrage de Pascal Boniface était celui que je souhaite le plus lire dans la sélection que je m’étais faite sur la question, et c’est également ce qui m’avait attiré dans son introduction : le fait qu’il s’agisse d’un littéraire se questionnant sur une problématique scientifique.

Cependant, j’ai eu l’impression durant ma lecture que, malgré les éléments de définition du premier chapitre, il traite de l’intelligence artificielle quasiment exclusivement avec la perspective des géants du numérique, même en considérant les aspects qui y sont corrélées (contrôle social, traitement des données).

En gros, j’aurais lu ce livre en premier, il m’aurait servi de porte d’entrée. L’avoir lu en dernier m’a laissé quelque peu sur ma faim. Au lieu d’un auteur spécialiste de géopolitique qui s’intéresse à l’intelligence artificielle, j’aurais eu besoin (à titre personnelle) d’un spécialiste de l’intelligence artificielle qui s’intéresse à la géopolitique.

Revue de presse

Pour cette revue de presse, contrairement aux épisodes précédents, j’ai décidé de ne pas trop détaillé le contenu des périodiques concernés et de me concentrer sur ce que j’ai pu trouver de plus récent – hors quotidiens.

Le Monde diplomatique n°829

Je l’ai retenu parce qu’il propose un éclairage sur l’intelligence artificielle en Chine : «La Chine entravée dans la bataille de l’intelligence artificielle » (p.12-13).

La Chine a porté ce secteur comme priorité nationale dès 2017 et dispose de différents atouts : précurseur dans le paiement via smartphone, le recours aux robots dans les services publics, l’association étroite entre entreprises, chercheurs et administrations.

Elle bénéficie de travailleurs qualifiés et ses applications sont reconnues (TikTok, cloud d’Alibaba, chatbots, système de circulation automobile, reconnaissance faciale, service de robots taxis, générateur d’images).

Plusieurs freins viennent gêner ces progrès : la fuite des cerveaux chinois, le retard et le blocage des investissements notamment dans le secteur des semi-conducteurs (et du coup le risque de pénurie qu’ils suscitent), la mainmise de l’État, les sanctions des États-Unis à l’encontre de la Chine.

Un encart revient sur l’application TikTok et les pressions et initiatives pour l’interdire en Amérique du Nord et en Europe de l’Ouest.

Courrier international n°1685 (16-22 février 2023)

C’est le premier de l’année, pour ce périodique, à s’intéresser en Une à ChatGPT, avec un article publié dans The Sunday Times du 5 février. Il revient sur les « exploits » de l’outil depuis son lancement en novembre 2022, l’utilisation de ChatGPT par les étudiants britanniques (et les réactions des universités), par les employés pour rédiger des lettres de motivation, dans le milieu du journalisme ou de la programmation.

Le numéro de The Economist du 30 janvier propose lui un retour sur les centres de recherche privés et les entreprises qui ont favorisé la montée en puissance de l’intelligence artificielle, avec d’un côté les géants OpenAI, Amazon, Google et Meta, et de l’autre les organismes chinois financés par l’État comme la Beijing Academy of AI.

Un entretien publié dans le New York Times en décembre 2022 avec Yejin Choi, scientifique et informaticienne, revient enfin sur les idées reçues concernant l’intelligence artificielle.

Le dossier propose en outre :

  • une chronologie de la genèse de ChatGPT
  • une revue de presse revenant sur les réactions suscitées par l’outil (éducation, emploi, recherche, sécurité)
  • ses principaux exploits
Courrier international n°1695 (27 avril – 3 mai 2023)

Le dossier proposé dans ce numéro « Intelligence artificielle : fini de rire » est un peu plus conséquent et propose une vision plus pessimiste, étayée par des articles de la presse américaine, suisse et tchèque.

Il revient sur les risques suscités par le développement des modèles de langue : fuite d’informations, réponses biaisées, hameçonnage, tentatives d’arnaques, qui passent par l’injection dans l’outil de prompts (consignes) pour obtenir des informations personnelles de la part de l’internaute.  (MIT Technology Review)

Un extrait du Temps est consacré au double jeu d’Elon Musk en matière d’IA : signataire d’une pétition demandant une pause de la recherche tout en créant une start-up spécialisée sur la question.

Un entretien avec Niels Ackermann, photojournaliste, revient sur les prouesses des IA génératives dans la création d’images et l’utilisation de ces images et de deepfakes dans les médias. (Heidi news)

La revue de presse du dossier revient sur certaines mesures de régulation prises au moment où paraissait ce numéro : suspension de ChatGPT en Italie, censure en Chine.

Courrier international n°1704 (29 juin – 5 juillet 2023)

Il s’agit ici d’une controverse proposée sur une seule page : « IA : L’Europe fait-elle bien de légiférer ? » avec

  • côté POUR un article du Süddeutsche Zeitung (Allemagne) : publication du IA ACT le 14 juin par le Parlement européen avec l’accent mis sur la protection des données personnelles et le respect de la vie privée, ainsi que la lutte contre la désinformation ;
  • côté CONTRE un article de Rzeczpospolita (Pologne) : l’excès de réglementation européenne comme frein à l’essor économique et le fait pour l’Europe de rester à la traîne dans la course technologique.

En deux mots, d’un côté sécurité, de l’autre liberté.

Autres ressources

#Ludovia20 : avant, pendant, après

de

On 21 août 2023

dans Aux infos, etc. !

À quelques jours de la reprise, je renoue avec une tradition assez ancienne sur ce site, celle de la participation à l’université d’été Ludovia, qui fête cette année sa vingtième édition.

J’ai voulu, pour ce vingtième anniversaire, proposer un petit article, et j’ai fouillé farfouillé dans mes archives sur Cinephiledoc.

J’ai hésité (pas très longtemps) entre la première forme que j’avais choisie : celle de l’abécédaire de ma première participation, en 2015, et celle de l’avant / pendant / après que j’ai utilisée pour deux éditions : en 2016 et en 2017.

Avant donc de parler de Ludovia, et avant de parler de l’avant Ludovia, je me permettrai de faire un petit point sur mes précédentes participations, en remettant les liens des articles qui leur étaient associés.

Avant : éditions précédentes

Sur mon profil LinkedIn, j’ai fait un petit résumé des éditions précédentes, je vais ici le développer un peu plus. Pour ces différentes participations, j’ai eu différentes casquettes.

  • 2015 / Ludovia#12 : première participation, la néophyte que j’étais a essayé d’apprivoiser l’événement via un abécédaire dans un article intitulé « À quelques jours de la rentrée ».

Pour cette édition, j’avais déjà la casquette de l’experte numérique, et je venais à Ludovia en compagnie des experts disciplinaires de la DNE.

  • 2016 / Ludovia#13 : deuxième participation, toujours casquette DNE, j’inaugure avec cette édition une forme d’article « Avant, pendant, après » avec le défi de compléter en direct mon article au moment du « pendant »
  • 2017 / Ludovia#14 : troisième participation, cette fois en tant qu’intervenante pour un explorcamp. Je présente le travail réalisé avec Sandrine Duquenne autour de QR-codes afin de promouvoir la lecture. Je reprends la forme de l’avant / pendant / après. Je repars de Ludovia avec une petite idée qui va faire lentement son chemin dans ma tête : LudoDOC.
  • 2018 / Ludovia#15 : pour la première fois, grâce au soutien d’Aurélie Julien et d’Éric Fourcaud, le collectif #LudoDOC organise son premier événement associé, avec entre autres les interventions de Bérengère Stassin qui propose une conférence sur « Cyberharcèlement & EMI », des présentation de Sandrine Geoffroy, Sophie Gronfier et Audey Démonière-Rouvel

Pour l’occasion, est lancé le site LudoDOC, sa chaîne YouTube grâce à laquelle seront réalisées cette année-là des superbes interviews de profs docs et son compte Twitter.

J’ai retrouvé sur mon site le moment Twitter (toujours consultable) de l’édition et je mets ici le lien de la rubrique LudoDOC de l’événement.

À partir de cette année et jusqu’en 2023, je délocalise sur LudoDOC les participations à Ludovia.

  • 2019 / Ludovia#16 : nouvel événement associé LudoDOC. Cette fois, on a un beau roll-up bien visible, toujours conservé et convoyé par Bénédicte.

Pour cette édition, nous avons le bonheur d’accueillir une conférence de Stéphanie de Vanssay, des interventions enthousiastes et dynamiques des profs docs de Créteil (même si on mettra du temps à avoir les articles – poke ADR), et de Magalie et Dany qui nous présentent le Défi Babelio. 

Cette année-là, je fais le trajet avec Aurélie, une copine du lycée, et nous présentons un escape game qui met en oeuvre une collaboration entre profdoc, SVT et physique-chimie.

Nous organisons un concours de Bookfaces, et nous remportons à la fin de l’édition un prix des blogueurs de l’édition.

J’ai d’ailleurs un petit pincement au coeur car nous devons une partie de ce prix à la lumineuse Caroline, qui s’était prêtée avec humour au concours de bookfaces, et dont l’esprit, je n’en doute pas, accompagnera la vingtième édition de Ludovia…

  • 2020 : Ludoviales et Ludovia#17. Deux éditions sous covid, l’une à distance en avril, et l’une en août. Nous nous retrouvons avec Bénédicte pour cette édition masquée et hybride, mais non dépourvue de bonne humeur.

Nous y rencontrons Béatrice et Fabienne, deux nouvelles recrues dont le fourmillement d’idées nourrira par la suite notre site LudoDOC.

En 2021, des contraintes personnelles m’éloignent pour la première fois de Ludovia, en 2022 je sèche (physiquement et intellectuellement) pour l’édition Ludovia#19.

En 2023, Ludovia me rattrape avec sa thématique et, après une conversation téléphonique avec Bénédicte (nos conversations durent généralement au minimum une heure, ce qui s’explique par l’alliance de deux bavardes dont l’une est une prof doc du sud…), nous décidons de soumettre notre candidature à un explorcamp.

Fin mai, nous apprenons que cette candidature est retenue, c’est donc parti pour Ludovia#20 !

Mémo parce que oui, cet article est supposé être structuré…

Et je me rends compte qu’avec cette rétrospective, j’ai été très bavarde, donc voici, cette fois plus rapidement, les préparatifs de l’édition 2023, et un rappel de structure de l’article, façon édition Ludovia#14 :

Dans « Avant », vous retrouverez mon petit programme personnel, les petits points de rendez-vous que je me suis fixée, les explorcamps et tables rondes auxquels je tenterai d’assister (et qui ne correspondent pas toujours à mon formulaire d’inscription, mais l’université étant assez détendue, je ne me fais pas trop de soucis…) mais aussi, pour cette année, l’explorcamp co-animé avec Bénédicte.

Dans « Pendant », vous trouverez des mises à jour de cet article que j’essaierai de faire au fur et à mesure, même si je ne garantis rien.

Enfin, dans « Après », vous trouverez le vendredi ou le lundi suivant Ludovia, des productions, story, cogitations, ressentis, etc.

Donc Ludovia#20… Avant

Mardi 22 août

  • J’arrive par le train aux environs de 17h45, en espérant voyager léger et sans retard, mais avec quelques lectures sur l’intelligence artificielle dans mes bagages…

  • Il est donc quelque peu ambitieux d’espérer assister à l’ouverture officielle à 18h, mais bon j’aurai peut-être la chance de suivre le premier barcamp sous la halle…

Mercredi 23 août

  • Je pensais assister à la conférence de Philippe Meirieu, mais nous avons un premier temps de notre explorcamp pile à ce moment-là avec Bénédicte.
  • 9h-9h45 donc : explorcamp avec Bénédicte (première version) « IOUPI est-il le baromètre du bien-être au CDI ? »
  • 10h15 : un intitulé bien alléchant « Escape game et compétences psychosociales »
  • 14h30 : là encore, décidément j’ai été happée par l’intitulé « Comment redonner aux élèves le plaisir d’apprendre en exploitant leur créativité ? »
  • j’ai vu qu’il y avait aussi une rencontre tout l’après-midi sur la thématique du cyberharcèlement donc j’essaierai d’y faire un saut
  • il y a aussi l’atelier photo marathon de la copine Bénédicte où je serai une groupie pom pom girl très intériorisée
  • j’ai également repéré un explorcamp sur des BD sonores pour lutter contre les discriminations

Comme d’habitude avec Ludovia, le principal regret (et défi) c’est de ne pas avoir le don d’ubiquité…

Jeudi 24 août

  • 9h : une table ronde sur les communs numériques à la salle café-musique du casino
  • 14h : j’aurai juste le temps d’assister à l’explorcamp de Marie Soulié sur le Paris d’Haussmann revisité !
  • 15h : deuxième prise de notre explorcamp avec Bénédicte (et vous pensez que ce sera la même chose mais non)…
  • 16h30 : je veux absolument assister à la conférence plénière sur les 19 éditions précédentes de Ludovia !
  • 17h30 : j’assisterai à la cérémonie des coups de coeur, parce que c’est un bon moyen de voir tout ce que j’ai loupé en n’ayant pas le don d’ubiquité…
  • 19h30 : je garderai encore un peu de sociabilité en réserve pour le dîner de clôture.

Et donc vous voulez voir si j’arrive à tenir ce programme, si je suis bien arrivée, si je n’ai pas oublié mes adaptateurs, ma batterie de secours et tous les documents prévus pour l’explorcamp, même en ayant noté tout ça scrupuleusement dans mon bullet journal ?

Rendez-vous si dessous pour le Pendant et l’Après…

Pendant

22 août : Ludovia, ça se mérite 

Et donc, suis-je bien arrivée à Ludovia ? La réponse est oui, et vous pouvez retrouver ma story Ludovia#20 sur Instagram (@juliettefiliol) pour avoir pour en avoir un premier aperçu…

Ça n’a cependant pas été sans mal. Partie de chez moi vers 6h, arrivée pour un TGV en Gare Montparnasse, le dit TGV est parti comme prévu à 9h07, avant de s’arrêter dans le tunnel de Massy pendant une bonne heure, suite à une panne à un poste d’aiguillage.

Première escale surchauffée en gare de Toulouse Matabiau où tout le monde suffoque (36 degrés dans la gare), je repars dans le TER à 15h47. Mais je suis en bonne compagnie puisque je fais connaissance avec Maryline Brosset, TNE 95, et de Florent Nouguez, professeur des écoles à Grigny (nous sommes voisins) et formateur, créateur d’applications, auteur d’un site Classe de Florent, et fan de robots en classe… et qui a dû courir en sortant de la gare à Ax pour une intervention prévue à 18h !

Moi à 18h je n’ai eu le courage que de faire mon inscription, écouter l’ouverture et les mots très touchants d’Aurélie sur Caroline, d’aller déposer mes bagages et de revenir pour un dîner très sympathique en compagnie de ludoviens.

23 août : programme pas tout à fait respecté 

Comme je l’avais pressenti, hormis l’explorcamp du matin avec Bénédicte, je n’ai pas vraiment respecté le programme que je m’étais fixé.

Nous avons tenu cet explorcamp à 9h avec Bénédicte, devant des spectatrices rares mais bienveillantes, au moment où Philippe Meirieu faisait salle comble… Les témoignages unanimes m’ont incitée à visionner dès que possible en replay cette conférence, à laquelle je regrette tout de même un tout petit peu de n’avoir pas assisté…

J’ai essayé ensuite de circuler un peu sur les Explorcamps suivants et de glaner de bonnes idées.

J’ai fureté autour du stand Canopé qui rassemble plein de publications alléchantes. J’ai pu croiser Anne Delannoy, que j’ai côtoyée pendant 8 ans avec la DNE en tant que IAN de Toulouse. Puis j’ai retrouvé avec plaisir Véronique Gardair, une des super profdoc de Montpellier, pour le déjeuner.

Nous avons ensuite assisté ensemble à trois présentations :

  • celle sur les dérives scolaires de Stéphanie de Vanssay
  • une présentation de la fresque des écrans de l’entreprise Colori (avec des cartes qui m’ont à la fois rappelé le jeu S’prit critique & S’team de soi des profs docs de Guyane et l’utilisation du photolangage en formation)
  • enfin une proposition de photo marathon par Bénédicte Langlois, qui en plus de fournir des éléments théoriques sur la photographie, nous invitait à un temps de pose / pause pour quelques photos dans Ax-les-Thermes

Enfin, après un verre, j’ai dîné à l’Auzeraie avec Véronique et Denis Tuchais.

Il n’était pas garanti que je poste ce petit compte-rendu ce soir, mais c’est tout de même fait. J’ajouterai les photos en rentrant dans mes pénates, mais vous pouvez d’ores et déjà les retrouver sur mon compte Instagram.

24 août : matinée tranquille, après-midi intense ?

N’ayant pas d’intervention le matin, j’ai profité d’un temps un peu plus relâché que la veille. J’ai pu prendre le temps de papoter avec Béatrice, l’une de nos Ludodoc. Je suis ensuite aller écouter le début de la table ronde animée par Alexis Kauffmann sur les communs numériques et j’ai ensuite glané les dernières minutes de l’Explorcamp de Marie Soulié et Romain Bourdel-Chapuzot sur le bien-être et les classes flexibles.

J’espère que la présentation sera d’ailleurs disponible, parce que je n’ai pu voir que la fin et elle avait l’air incroyable…

L’après-midi, pour être sûre de ne pas le louper, je me suis installée à l’explorcamp de Marie Soulié et David Plumel sur le projet de simulation globale autour du Paris d’Haussmann, et avec les Explorcamps co-animés avec Bénédicte, je dois dire que cela restera un de mes meilleurs souvenirs de cette édition.

Nous avons ensuite co-animé avec Bénédicte la deuxième prise de notre atelier IOUPI, dans une version plus participative que la veille, et nous en publierons très prochainement la restitution.

Mes neurones grillés par le soleil ont eu un petit coup de paresse et mon corps n’a pas réussi à se mouvoir pour la clôture de ce Ludovia, mais je repars comme d’habitude avec le plein d’idées, d’envies et d’énergie, et vous retrouverez très prochainement ci-dessous dans la partie APRÈS, mes notes, les publications et une version de cet article enrichie des photos que j’ai pu prendre.

Après : notes, publications et productions

Inspirations

Comme promis je poste ici les bonnes idées, les liens de ressources que l’on m’a partagés ou les présentations auxquelles j’ai assisté, mais aussi en guise d’aide-mémoire, ce que je dois aller consulter.

  • un site partagé dans le TER en allant à Ludovia, qui permet de transformer un dessin en personnage animé
  • le replay de la conférence de Philippe Meirieu et sa présentation qu’il a ensuite partagée sur son compte
  • l’atelier d’une collègue dont l’explorcamp était sur la table à côté de la nôtre et qui avait l’air vraiment intéressant : une proposition d’escape game en utilisant la programmation Python
  • le site Dérives scolaires de Stéphanie de Vanssay qui revient sur toutes les pratiques glissantes auxquelles on assiste dans certains établissements, soi-disant pour favoriser le bien-être
  • la fresque des écrans de l’entreprise Colori pour travailler avec les élèves sur l’usage des écrans
  • une présentation sur l’intelligence artificielle que plusieurs personnes m’ont signalée
  • un parcours EMI « Les veilleurs de l’info » proposé par la ligue de l’enseignement, gratuit et téléchargeable
  • les boîtes de jeux Challenge bac proposées par les éditions Belin

Productions

Je poste ici le lien de la rubrique LudoDOC où serons disponibles notre présentation « IOUPI est-il le baromètre du bien-être au CDI ? » et les productions associées à cet atelier :

Notes de lecture sur l’intelligence artificielle (épisode 2)

de

On 16 juillet 2023

dans Aux infos, etc. !

Voici un deuxième épisode de mes notes de lecture sur l’intelligence artificielle, qui tentera entre autres de répondre à la question suivante : les livres jaunes sont-ils de bons vulgarisateurs ?

En d’autres termes : l’expression « pour les nuls » permet-elle réellement à un non-spécialiste de maîtriser un sujet ?

Ce deuxième épisode s’intéressera donc, après celui qui m’avait mis le pied à l’étrier et qui s’intéressait à la question en proposant une chronologie et un regard scientifique, à des ressources qui revendiquent, si je peux m’exprimer ainsi, de traduire l’intelligence artificielle en langage naturel.

Dans cet épisode :

  1. les ouvrages Comprendre la révolution de l’intelligence artificielle et L’intelligence artificielle pour les nuls
  2. les dossiers de Geek junior n°23 et du hors-série de Tangente n°86
  3. une sélection de ressources

Comprendre la révolution de l’intelligence artificielle, Stéphane d’Ascoli

Ouvrage publié en 2020 chez First éditions, 189 pages. 13 chapitres, un glossaire à la fin, ainsi que des propositions bibliographiques de prolongement.

Les 13 chapitres sont répartis en quatre parties distinctes. La première partie « Intelligence artificielle : retour aux sources » revient sur des éléments définitionnels et chronologiques.

chapitre 1 : le monde des algorithmes / chapitre 2 : l’ia des mythes originels à aujourd’hui
  • retour sur des éléments de définition déjà évoqués dans mon épisode 1 : algorithme, machine learning, deep learning.

L’ouvrage fait en outre la distinction entre IA symbolique qui suit des règles explicites et IA connexionniste qui utilise des exemples pour fonctionner et améliorer ses réponses.

  • chronologie depuis l’Antiquité (Pygmalion et Galatée) jusqu’à AlphaGo.

Les deux parties suivantes vont s’intéresser aux deux modes de fonctionnement de l’intelligence artificielle : le machine learning (3 chapitres) et son sous-domaine le deep learning (4 chapitres).

chapitre 3 : comprendre le machine learning
  • apprendre à partir de données et généraliser l’apprentissage à de nouvelles données en ajustant avec différents curseurs. Plus un algorithme dispose de curseurs, plus il pourra résoudre des problèmes en ayant une fonction de perte satisfaisante (un score de performance : plus il est élevé, moins les performance sont bonnes) ;
  • bruit et silence en intelligence artificielle : l’overfitting (un algorithme avec trop de curseurs mémorise des informations inutiles) et l’underfitting (un algorithme avec trop peu de curseurs qui n’aura pas assez de données pour fonctionner correctement)
  • 3 types d’apprentissages pour les algorithmes : supervisé, non supervisé et par renforcement.
chapitre 4 : un jour dans la vie d’un concepteur d’ia

Pour mettre au point une IA, l’analogie de la recette de cuisine : il faut une recette (l’algorithme), des ustensiles (les processeurs de calcul) et des ingrédients (les données).

Le chapitre détaille les différentes étapes de traitement des données :

  1. récolter les données
  2. les nettoyer
  3. sélectionner les caractéristiques d’intérêt
  4. formater les données
  5. séparer les données d’entrainement et de test

et l’évaluation d’un algorithme à travers deux types de critère : la sensibilité (capacité d’un algorithme à donner un résultat positif lorsqu’une hypothèse est vérifiée) et la spécificité (capacité à donner un résultat négatif lorsqu’une hypothèse n’est pas vérifiée).

chapitre 5 : quelques applications célèbres
  • la régression linéaire pour déterminer les taux de prêt
  • l’utilisation d’arbres décisionnels pour établir un diagnostic médical à partir d’une série de symptômes
  • les systèmes de recommandation

Pour suggérer des films susceptibles de vous plaire, Netflix doit apprendre vos goûts au moyen d’un système de recommandation. (…) Cette méthode se résume dans une formule récurrente « Les utilisateurs qui ont aimé X ont également aimé Y ».

L’idée est simple : séparer les utilisateurs en groupes, correspondant à des « communautés » de goûts.

chapitre 6 : comprendre le deep learning
  • le perceptron (modèle mathématique du neurone) comme premier pas vers le deep learning ;
  • le transfer learning permet aux algorithmes entrainés à une certaine tâche de se conformer à une nouvelle tâche

Les trois chapitres suivants s’intéressent à différentes applications du deep learning : les images, le langage et les agents intelligents.

chapitre 7 : deep learning et images

Ce chapitre revient sur les différentes formes de traitement de l’image par les algorithmes dont :

  • la reconnaissance faciale qui utilise des réseaux convolutifs (opération qui consiste à scruter par parcelles pour extraire de manière autonome les caractéristiques d’une image),
  • la génération d’image qui s’appuie sur des algorithmes génératifs (comme pour les deep fakes) fonctionnant avec des réseaux de neurones encodeurs et décodeurs.
chapitre 7 : deep learning et langage

Pour représenter les mots, les algorithmes utilisent la méthode du plongement lexical qui consiste à représenter des mots par des vecteurs – soit un paquet de nombres (cela permet entre autres de repérer les discours de haine sur les réseaux sociaux).

Le chapitre étudie également le fonctionnement des claviers prédictifs avec les réseaux récurrents, le mécanisme d’attention utilisé par les outils de traduction automatique, et les étapes de réponse à une demande par les assistants vocaux.

chapitre 8 : deep learning et agents intelligents

L’agent intelligent est un algorithme capable de percevoir son environnement et d’interagir avec lui.

Le chapitre revient sur l’apprentissage par renforcement des algorithmes avec les exemples d’AlphaGo et des voitures autonomes.

La dernière partie de l’ouvrage est consacrée à « L’humanité face à l’intelligence artificielle » avec des problématiques qui peuvent être réutilisées dans le cadre de débats avec les élèves (SNT, enseignement scientifique, EMC, philosophie).

  • Chapitre 10 : l’intelligence artificielle face à l’intelligence humaine (avec le test de Turing) avec un retour sur le fonctionnement d’AlphaGo.

Citation d’Albert Einstein : « Les ordinateurs sont incroyablement rapides, précis et stupides. Les hommes sont incroyablement lents, inexacts et intelligents. L’ensemble des deux constitue une force incalculable ».

  • Chapitre 11 : faut-il craindre l’IA ? Culture populaire avec Asimov, Kubrick, Terminator… Applications militaires et dérives de l’intelligence artificielle (système de crédit social en Chine, reconnaissances faciales, deep fake, falsification d’identité). Impacts de l’IA sur le monde du travail et sur l’environnement.
  • Chapitre 12 : comment concevoir une IA « éthique » ?

Le chapitre revient sur les problématiques d’utilisation des données : collecte des données personnelles, enfermement dans les bulles de filtres, retour sur le scandale Cambridge Analytica, biais des algorithmes.

Quelle responsabilité donner aux algorithmes (Moral Machine) ? Comment réduire les impacts environnementaux du numérique ?

  • Chapitre 13 : l’IA peut-elle servir l’humanité ? Retour sur les potentialités de l’intelligence artificielle dans les domaines du handicap, de la recherche scientifique (lutte contre le cancer, physique des particules, astrophysique) et de l’éducation.

Mon avis sur l’ouvrage :

Le plus : il s’agit d’un véritable ouvrage de vulgarisation, les schémas sont parlants et lisibles, des encarts permettent de faire des rappels synthétiques, et l’auteur propose pour des notions techniques des analogies qui permettent vraiment de comprendre le sujet sans être noyé d’informations.

L’intelligence artificielle pour les nuls, John Paul Mueller & Luca Massaron

Ouvrage publié en 2019 chez F1rst intractive, 343 pages. 20 chapitres, une introduction qui fait office de mode d’emploi du livre, un index en fin d’ouvrage.

Les 20 chapitres sont répartis en 6 parties distinctes, dont l’introduction explicite si le propos s’adresse davantage aux novices ou aux spécialistes.

Partie 1 : introduction à l’ia

Cette première partie se décompose en 4 chapitres qui vont expliciter le fonctionnement basique d’une intelligence artificielle.

Le premier chapitre « Introduction à l’IA » redonne des points de définition (en particulier sur ce que l’on entend par intelligence) et un bref aperçu historique de l’intelligence artificielle.

La porte d’entrée de l’ouvrage, contrairement aux deux autres livres abordés précédemment (Turing à la plage et Comprendre la révolution de l’intelligence artificielle) se fait non pas via la machine mais de manière plus approfondie via les données traitées et les algorithmes.

Dans le deuxième chapitre « Définir le rôle des données« , les auteurs reviennent sur les sources et la fiabilité des données exploitées par les algorithmes.

Focus sur les listes déroulantes :

Les listes déroulantes sont adaptées à toutes sortes d’entrées de données, et elles rendent la saisie de données par un utilisateur humain extrêmement fiable, puisque l’utilisateur n’a pas d’autres possibilité que d’utiliser une des entrées proposées par le système.

Les auteurs identifient cinq types de données incorrectes : les données mensongères, les omissions volontaires, les erreurs de perspectives (divergence de points de vue), les biais et le cadre de référence (c’est-à-dire le contexte et la situation d’utilisation des données).

L’intérêt de ce chapitre est de mettre en lumière la vigilance à avoir vis à vis de l’information, et ce au-delà de la question de l’intelligence artificielle :

  • utilisation d’un thesaurus / descripteurs VS mots clés pour la question des listes déroulantes
  • différentes formes de désinformation et prolongement de la question des données incorrectes vers les biais de confirmation et les bulles de filtres.
  • l’ouvrage renvoie vers le site Data never Sleeps qui permet de voir l’évolution de la collecte des données quotidiennes depuis 2013

Les chapitres 3 et 4 reviennent sur le fonctionnement des algorithmes et du matériel informatique (processeurs graphiques).

partie 2 : recenser les utilisations de l’ia dans la société

Cette seconde partie revient sur les utilisations de l’intelligence artificielle dans les applications informatiques, et sur les deux fonctionnalités principales qui sont attendues de l’intelligence artificielle : les corrections et les suggestions.

On retrouve notamment les corrections non seulement dans les vérificateurs orthographiques mais aussi dans la correction de trajectoire des voitures, et la suggestion dans le traitement automatique du langage naturel et la recherche d’information.

L’intelligence artificielle sert également à automatiser des processus courants et à s’épargner des tâches ennuyeuses et répétitives (principalement dans le domaine de l’industrie). Dans le domaine médical, l’IA est utilisée pour le suivi des patients, le diagnostic et de nouvelles techniques chirurgicales.

Enfin elle permet d’améliorer l’interaction humaine en créant de nouveaux alphabets (emojis), en automatisant la traduction ou en créant des liens sur les réseaux sociaux.

partie 3 : travailler avec des applications électroniques de l’ia / partie 4 : travailler avec l’ia dans des applications matérielles

Dans la troisième partie de l’ouvrage, les auteurs reviennent sur les analyses de données par l’intelligence artificielle.

Les points que je retiens de ces chapitres :

  • l’utilisation pour l’analyse des données des outils statistiques (moyenne et variance) et du calcul de corrélation et de la régression linéaire, qui indiquent si des phénomènes peuvent être liés les uns aux autres, ce qui m’a rappelé l’épisode d’E-penser sur la différence entre corrélation et causalité ;
  • un retour sur l’apprentissage machine avec les distinctions entre apprentissage supervisé, non supervisé et par renforcement ;
  • les probabilités, les graphes et les arbres de décision.

Le dernier chapitre de la troisième partie est consacré à l’apprentissage profond et à ses modes de fonctionnement. Les auteurs s’intéressent à son application dans les agents conversationnels.

Ils reviennent sur le premier agent conversationnel, ELIZA, élaboré par Joseph Weizenbaum en 1966, qui propose une réponse à partir d’un ensemble d’associations et de sujets présélectionnés. Deux autres agents plus récents sont mentionnés : Google Smart Reply et Tay, ainsi que le prix Lobner. Le chapitre se termine par la mention suivante :

Pour avoir une idée des progrès de ces technologies, lisez les pages consacrées à ces réseaux sur le site Internet d’OpenAI, un organisme de recherche sur l’IA à but non lucratif (…).

La quatrième partie s’intéresse aux applications matérielles : la robotique (prétexte à reprendre les lois de la robotique d’Asimov), les drones et les voitures autonomes. Ces problématiques peuvent être réutilisées dans le cadre de débats avec les élèves (SNT, enseignement scientifique, EMC, philosophie).

Un encart dans le chapitre sur les drones revient sur le film WarGames qui donne l’exemple d’une intelligence artificielle (l’ordinateur PROG) dont le fonctionnement est biaisé par le piratage.

partie 5 : se pencher sur l’avenir de l’ia / partie 6 : la partie des dix

Ces deux dernières parties sont consacrées aux perpectives offertes par l’intelligence artificielle, dont certaines sont à relativiser ou à actualiser étant donnée la date de publication de l’ouvrage.

Dans la partie 5, les auteurs reviennent sur certains domaines de l’intelligence humaine et où l’intelligence artificielle trouve ses limites, à savoir la créativité, l’imagination, l’originalité, et la fiabilité des données – puisque les résultats d’une IA peuvent être biaisés par des facteurs humains ou des déficiences techniques.

Sont abordés à nouveau les « hivers de l’IA« , périodes durant lesquelles un optimisme démesuré se confronte à des échecs pourtant prévisibles.

Le chapitre 16 est consacré aux applications de l’IA dans l’espace (question qui peut être traitée notamment dans le programme d’HGGSP Terminale) avec l’observation spatiale, l’exploration, l’exploitation des ressources. Le chapitre 17 aborde les possibilités de l’IA notamment dans le domaine environnemental.

La « partie des 10 » propose des pistes de réflexion autour de trois chapitres (à réutiliser en EMC, philosophie et HLP, et en sujets de grand oral) :

  • 10 activités à l’abri de l’IA, où l’on retrouve le domaine de l’interaction humaine, notamment l’enseignement (ouf), de la créativité et de l’intuition
  • 10 contributions importantes de l’IA à la société (médecine, industrie, projets spatiaux)
  • 10 exemples d’échecs de l’IA, principalement dans le domaine des relations et de la connaissance intrapersonnelle : compréhension, éthique, extrapolation des données, empathie, affinité intellectuelle, remise en question et croyances.

Mon avis sur l’ouvrage

Comme beaucoup d’ouvrages de la collection « Pour les nuls » que j’ai pu parcourir, celui-ci ne m’a pas vraiment satisfait.

Cette collection peut être très utile lorsqu’il s’agit de proposer un guide pratique pour apprendre une langue (ou un langage informatique… le seul qui figure dans ma bibliothèque est consacré aux codes HTML, XML et CSS).

En revanche pour traiter d’une thématique, je trouve la structure et le propos souvent complexes et alambiqués, et vulgarisant finalement très mal le sujet qu’ils sont censés aborder, avec des systèmes de renvois à des articles en ligne et certaines phrases jouant sur une connivence avec le sujet que le lecteur ne parvient pas à s’approprier.

Geek Junior n°33 d’avril 2023

Cette revue dédiée à la culture numérique proposait un dossier consacré à l’intelligence artificielle et à ChatGPT dans son numéro d’avril 2023.

Ce numéro aborde l’intelligence artificielle sous différents aspects :

  • le dossier donne la parole à un « expert » (Laurence Devillers, chercheuse au CNRS) avec 3 questions : définition / limites de ChatGPT et conseils d’utilisation (p.9)
  • 8 questions / réponses sur ChatGPT et un encart de mise en garde face aux fake news (p.10-11)
  • un lexique de l’intelligence artificielle et un retour sur ce qu’est un prompt (p.12)
  • un tutoriel pour s’initier à l’intelligence artificielle avec Adacraft (une application web qui fonctionne en prolongement de Scratch) p.21-23
  • un quiz et des mots mêlés  p.29-30

Tangente Hors-série n°86 de juin 2023

Cette revue spécialisée dans l’enseignement des mathématiques consacre un article à « Chat-GPT : une IA très mathématique » (p.16-18).

L’article revient sur le mode de fonctionnement de Chat-GPT : agent conversationnel et réseau de neurones, où la modélisation du texte généré passe par la vectorisation (chaque mot = un vecteur), par l’apprentissage par renforcement et par un mécanisme d’attention (scores et récompenses données en fonction de la pertinence de la réponse).

Autres ressources

Pour finir voici un petit panel de ressources pour prolonger ces lectures et pour garder la trace d’autres lectures à venir :

  • deux Digipad : une veille sur l’IA et un Digipad « IA et éducation« 
  • le journal gratuit Day-Click que l’on reçoit gratuitement dans les établissements scolaires, et son numéro de mai 2023, qui revient sur les technologies de rupture, avec deux pages sur l’intelligence artificielle

DAY-CLICK_30.p.p

8 ans rue de Grenelle côté impair côté coulisses

de

On 3 juillet 2023

dans Tics de doc

Comme annoncé dans mon article profdoc de juin 2023, voici une tentative de bilan de mes huit années d’experte numérique pour la documentation auprès de la Direction du Numérique pour l’Éducation.

J’ai tourné plusieurs fois cet article dans ma tête et me suis demandé si je devais prendre les choses chronologiquement ou de manière thématique, et je ne pourrai évidemment pas tout raconter… Je vais tâcher également de me concentrer sur les bons souvenirs, même si vous ne serez pas à l’abri d’une petite pique ou d’une petite saute d’humeur ici ou là – nobody’s perfect.

Au diable l’organisation, je commence à jeter les idées et les moments les uns après les autres, et l’on verra bien où cela nous mène…

Juin 2014, un jour pas tout à fait comme les autres

J’ai le souvenir d’un matin ensoleillé, avec une belle lumière sur la Seine en sortant de la station Musée d’Orsay.

J’avais un peu le trac (voire beaucoup) parce que j’avais un entretien au 107 rue de Grenelle, deuxième étage, avec Blandine Raoul-Réa.

Blandine était à l’époque cheffe de département de la toute jeune DNE. Je vous renvoie à son parcours de #profdoc publié sur le site LudoDOC, mais si je la connaissais aussi, c’était parce qu’elle avait été ma formatrice à l’IUFM en 2010-2011 lors de ma première année de préparation du CAPES.

Comment me suis-je retrouvée à passer cet entretien, encore mal préparée et n’ayant aucune idée de ce qu’étaient à l’époque Édubase, les TraAM ou les IAN ?

Je le devais à une appétence encore timide mais déjà présente pour le numérique, au fait que mon amie Sandrine Duquenne travaillait déjà comme experte et avait soufflé mon nom à Blandine pour venir rejoindre le groupe des experts, Blandine qui avait dû se demander comment la petite chose fragile qui ne maîtrisait pas les normes AFNOR à ses oraux blancs de CAPES pourrait avoir les épaules pour animer le réseau des IAN – et c’est la question que je me suis continuellement posée par la suite pendant 8 ans.

Juguler le syndrome de l’imposteur

Quelques mois après, je me retrouvais à animer avec Sandrine mon premier séminaire des IAN – anciennement IATICE – des interlocuteurs académiques pour le numérique, avec l’impression d’être jetée dans la fosse aux lions, et de devoir anônner une présentation sur la liaison inter-cycles.

En face de moi, des personnes dont j’admirais déjà le travail et les productions et que je suivais déjà avec assiduité sur Twitter. Au moment où j’écris cet article, certains ont quitté cette mission, d’autres le sont encore.

Pendant ces huit années à co-animer ce séminaire des IAN, en ayant à traiter des problématiques de la profession et des thématiques de travail plus ou moins aisées, j’ai aussi pu faire la connaissance de personnes dont j’ai apprécié le contact et qui figurent toujours dans mon répertoire téléphonique.

Je vais ici égrainer quelques noms qui m’ont marquée et ont retenu mon attention.

En 2014, il y avait parmi eux Katrine Delage, Christophe Poupet, Eric Garnier, Christophe Raballard, Christophe Barbot, Mickaël Porte, Nathalie Mignot, Didier Mouren.

Pendant ces années, j’ai fait la connaissance de Sophie Bon, Elsa Riquier, Magali Lesince, Johann Jambu, Perrine Chambaud, Mélanie Serret, Sabine Dosière, Elsa Pujos, Valérie Liger, Nadia Lépinoux-Chambaud, Béatrice Wauters, Fabienne Dumont, Jérémy Conan… j’en oublie certainement.

Au contact de ces (fortes) personnalités, j’ai grandi professionnellement (sinon mûri) et j’ai trouvé des sources d’inspiration pour mes propres pratiques de terrain.

À deux dans un bureau et deux dans le même bateau

Pour animer ce réseau, je n’étais évidemment pas seule.

J’ai eu la chance de travailler en équipe, d’abord pendant deux ans avec Sandrine, au 107 rue de Grenelle, dans un petit bureau au deuxième étage, qui résonnait souvent de nos fous-rires, de dialogues issus de la série Kaamelott, de références à Moi moche et méchant et aux films avec Catherine Frot (le léopard tacheté).

Puis, pendant 6 ans (avec une petite pause – toute relative la connaissant – pendant un an) j’ai formé un binôme et un cocktail explosif mais tout aussi dynamique et riche de fous-rires et d’émulation avec Audrey Démonière-Rouvel, si bien que les IAN avaient fini par nous surnommer Papa et Maman (je vous laisse deviner qui était qui).

Une autre personne, des plus appréciées, et sur laquelle je reviendrai plus bas, nous avait surnommées les Audriettes.

Nous avons vogué pendant huit ans au gré des aléas de la profession et des changements de ministres, supportant les annonces et parfois les mauvaises surprises (ah bon pas de prime informatique pour les profs docs ? ah bon pas devant élèves ? ah bon pas de page Documentation sur le nouvel Éduscol ?) le tout avec un devoir de réserve qui me semblait parfois prendre toute la place…

Nous avons déménagé plusieurs fois : au rez-de-chaussée du 107 rue de Grenelle d’abord, puis au 97 dans une espèce de placard où toute l’importance de l’organigramme du département tenait à la couleur de la moquette.

Une journée type à la DNE en 2023

Évidemment, en huit ans, j’ai vu cette mission évoluer, j’ai participé à des choses qui m’ont stimulée et j’ai fait passer ce qui me plaisait un peu moins à coups de :

  • « formules petit déjeuner » à la cafétéria du 107 où Charlotte nous servait tous les mercredis un café double (pour moi), un café noisette (pour Audrey), un jus d’orange et un croissant ;
  • déjeuner au 122, qui est selon mes propres termes devenu en peu de temps le meilleur numéro de la rue…
  • petit tour dans les rayons de la librairie Albin Michel du boulevard Saint Germain

Une journée type c’était donc le mercredi, en partant à 6h le matin – pour éviter les caprices du RER C qui surviennent forcément avec les heures de pointe – et en arrivant à 7h, alors que les couloirs sont déserts et les bureaux tout autant.

Faire de la veille sur Inoreader et les sites académiques, programmer des tweets, publier des fiches sur Édubase, répondre à des mails, en envoyer, proposer des actualités, préparer le séminaire, relire une lettre Edu_Num…

Partir déjeuner vers 12h, revenir bosser jusqu’à 14h-15h, puis reprendre le RER en décalé (pour les mêmes raisons que le matin) et faire de chez soi la deuxième partie de la journée.

En 2023, une journée type c’est aussi compter s’il y a le bon nombre de convocations au séminaire des IAN, se demander si on pourra avoir un accueil café étant donné que tel établissement d’accueil n’a pas de cantine et que la DNE ne prend en charge que la réservation de salles (et se demander depuis quand pour être experte numérique il faut une formation en événementiel) et s’arracher les cheveux en essayant une nouvelle fois de faire publier une actualité sur Éduscol.

Dans les couloirs du MEN-…

Je ne l’ai pas évoqué depuis le début de l’article mais oui, l’intitulé de cette mission, c’était bien « expert ». Il y a des experts second degré pour toutes les disciplines.

Ils n’ont pas choisi cette appellation et généralement ne la revendiquent pas. Disons plus justement qu’on leur reconnaît une certaine expertise dans leur domaine, qui est donc leur champ disciplinaire et le numérique, ou plutôt le numérique dans leur champ disciplinaire.

Vous commencez à voir le souci pour la documentation ?

Dans la complexité des bureaux et des organigrammes, le ministère ressemble à Poudlard avec des demi étages ou à la maison qui rend fou dans les Douze travaux d’Astérix. Une des questions que l’on me posait le plus souvent au lycée était si j’avais déjà croisé le ministre (peu importe lequel) et si je pouvais lui dire ci ou ça…

Autant dire qu’en huit ans j’ai croisé (de très loin) lors d’événements publics deux ministres.

À la configuration labyrinthique des lieux s’ajoutent les strates de communication et les échelles de validation des productions, le pire étant, pour la documentation, de devoir rendre des comptes à tel ou tel chargé d’études sorti d’un chapeau pour lui faire pendant une heure un énième cours « Le profdoc pour les nuls ».

Extrait : « Vous avez choisi une photo pour illustrer votre actualité sur l’aménagement des espaces, c’est une photo de foyer ou de salle de classe ? » Évidemment, vous répondez qu’il s’agit bien d’un CDI. Réaction : « Mais il n’y a pas de livres sur la photo« .

Fort heureusement, il y avait dans ces couloirs de rares pépites humaines à côtoyer et dont la conversation suffisait parfois à calmer certaines crises de nerfs : la fabuleuse Brigitte Pierrat et ses formations tout en legos Star Wars, l’indispensable Richard Galin qui traite avec affection tout le monde de pingouins, et Émilie Van Ranterghem à qui je tire mon chapeau.

Fort heureusement, il y avait les référents et les équipes TraAM, qui m’ont fait connaître des joyaux d’académies et de profs docs pour la documentation : Perrine et Myriam en Guyane, Véronique et Paul pour Montpellier, Laureline et plus tard Victoria pour Nancy-Metz, Marion pour Besançon, et évidemment je risque là encore d’en oublier.

Échelle des valeurs (humaines) et hiérarchie

Fort heureusement, et je voudrais en terminer par ces quelques lignes, et sans flatterie aucune, il y avait quelqu’un dont les qualités professionnelles et humaines ont été largement appréciées.

Cette mission d’experte se fait à la fois auprès de la DNE et sous l’autorité, évidemment de l’inspection générale.

Durant huit ans, j’ai pu côtoyer quatre inspecteurs généraux :

  • Jean-Louis Durpaire, déjà inspecteur général honoraire, et que j’ai seulement rencontré à l’occasion des rencontres Savoirs CDI (Sandrine, Brigitte et Katrine se souviennent encore d’un fameux dîner dans un restaurant de Poitiers… moi je me souviens surtout de l’impression, au fil de la conversation, de devoir repasser mon CAPES)
  • Michel Reverchon-Billot jusqu’à ce qu’il aille prendre la direction du CNED (2014-2017)
  • Didier Vin-Datiche pendant un très court laps de temps
  • et enfin Elisabeth Carrara

Malgré une très sincère admiration et énormément d’amitié, cela m’est difficile d’écrire ces quelques lignes, qui, si elles allaient trop loin, serait à contresens de la simplicité, de la retenue et de l’humour d’Elisabeth Carrara.

Et pourtant, je n’imaginerais pas, moi qui chéris tant les belles rencontres, ne pas en dire quelques mots ni terminer en la remerciant.

Une personne extérieure peut se faire une idée de sa bienveillance et de son élégance (que les candidats du CAPES ont pu apprécier durant tout son mandat de présidence de jury) et quiconque l’a côtoyée connait sa rigueur professionnelle, dont on retrouve un bon exemple dans les quelques lignes rédigées au début du rapport de jury de 2022.

Je n’oserai certainement pas lui partager cet article, et je ne pense pas qu’elle viendra d’elle-même lire ces quelques mots.

Si l’on peut parfois penser que gravir les échelons ou être à un niveau supérieur de la hiérarchie peut éloigner de la réalité du terrain et rendre inaccessible au dialogue et à la spontanéité, j’en ai eu constamment la preuve que le contraire existe au contact d’Elisabeth Carrara, dont l’écoute (même à distance) et la disponibilité étaient à toute épreuve.

Et je lui renouvelle ici mes remerciements pour son soutien et sa confiance.

Page 2 sur 5

← Précédent

Suivant →

avril 2024
L M M J V S D
« Mar    
1234567
891011121314
15161718192021
22232425262728
2930  

Suivez-moi sur Twitter

Étiquettes

#LudoDOC Alfred Hitchcock bande dessinée blog CDI Charlie Chaplin cinéma cinémathèque collège communication concours documentation escape game exposition facebook formation François Truffaut Game of thrones histoire Hollywood identité numérique information intelligence artificielle jeux lecture liaison CM2 6E littérature lycée musique média numérique palmarès Philippe Lombard presse profession réseaux sociaux science-fiction SNT stars Star Wars série télévisée technologies veille écriture élèves

Favoris

Auteur

Juliette Filiol

professeure documentaliste

Le contenu de ce blog est sous licence Creative Commons, merci d’en respecter les droits.

Cinephiledoc

https://www.facebook.com/Cinephiledoc/

Fièrement propulsé par WordPress & Thème par Anders Norén