Retour sur la soirée autour de l’intelligence artificielle

Le texte ci-dessous a été rédigé à partir de la prise de notes par Yann Poeta. Il offre un aperçu des propos présentés puis échangés durant la soirée que proposait le Carrefour citoyen, dans le cadre de ses conférences ouvertes au public. Ce texte n’engage ni la responsabilité du conférencier ni celle des personnes qui ont participé au débat.

---

En ouvreur de soirée, Charles Heim, président du Carrefour citoyen, remarque que l’intelligence artificielle (IA) fait l’objet d’un traitement médiatique intense ces temps-ci. Peut-être serons-nous plus intelligents en activant notre propre conscience sur le sujet, c’est du moins ce que Charles nous conseille, avant de présenter le conférencier, Cyril Bosselut, invité en tant que développeur senior et entrepreneur, et qui est par ailleurs conseiller municipal en charge du numérique à Roquefort-La-Bédoule.

Première partie : Un voyage dans l’IA

L’orateur introduit son intervention en affirmant que nous sommes à l’aube d’une révolution, annoncée depuis plusieurs décennies par les œuvres de science-fiction. Fruit d’un progrès rapide, l’IA est récemment apparue dans le quotidien et le travail de nombreuses personnes. Elle se glisse, explique-t-il, dans les interactions avec le monde en s’appuyant sur une puissance de calcul en constante augmentation, elle consomme un nombre colossal de données, manipulées par des algorithmes pareils à des magiciens… Et les chiffres sont là : dans plusieurs activités, en matière de santé, dans l’industrie, cette technologie est d’ores et déjà présente pour poser des diagnostics et pratiquer des soins, ouvrir à des maintenances prédictives des matériels dans les usines ; l’IA promet aussi des innovations pour des enseignements plus adaptés. Déjà relativement bien connue dans les arts et les divertissements, elle permet de concevoir, produire, rechercher. Si les défis semblent conséquents autour de l’IA, l’informaticien et élu adjoint au numérique entend d’abord profiter de la soirée pour répondre aux questions que les citoyens peuvent se poser, au travail ou en matière d’éthique. Plus généralement l’objectif de cette conférence est d’amener les auditeurs à comprendre les visions de l’avenir auxquelles ces technologies confrontent. Un rappel historique puis une déclinaison des types d’IA vont structurer le propos, pour le plus grand bénéfice de l’auditoire qui ne manquera pas, ensuite, de poser des questions.

Dans l’Antiquité, note l’informaticien, les hommes ont pensé à des existences fabuleuses, capables de surpasser les capacités humaines. Il associe leurs réflexions aux origines de la philosophie. Mais un tournant entre pensée et fabrication ne s’opère qu’au XX^e siècle, durant la Seconde Guerre mondiale, après que des scientifiques ont émis l’idée de machines capables de calculs. L’orateur précise en effet que le premier « ordinateur » remonte aux années 1830, conçu théoriquement par Charles Babbage et Ada Lovelace¹. Qu’ils soient chercheurs ou ingénieurs, et souvent les deux, l’informatique doit à ces précurseurs des questions qui n’ont eu de cesse d’intriguer leurs contemporains. L’une de ces questions fut posée par Alan Turing, explique Cyril, et elle est appelée « test de Turing ». C’est un test qui consiste à vérifier si l’on a affaire à une personne humaine ou bien à une machine qui serait dotée de capacités humaines. Il semble toutefois que les tout derniers développements en matière d’IA conduisent les chercheurs à délaisser ce test pourtant prémonitoire quant aux capacités humaines à se projeter dans des machines. Quoi qu’il en soit, note le conférencier, il existe une différence essentielle entre la notion d’intelligence et celle de conscience : une IA répond en effet sans avoir été dotée de conscience, mais seulement d’une forme d’intelligence. La suite de la conférence va nous aider à comprendre comment.

Le regard de notre conférencier sur le passé de l’IA révèle des phases de développement intenses, auxquelles succède le désintérêt des communautés de recherche. Après la lignée Babbage-Turing, place au tournant de l’IA « symbolique » – précisons : il s’agit là d’un type d’IA qui ne fait que manipuler des éléments compréhensibles par les humains entre logique et représentations, mais cette manipulation est bel et bien opérée par des machines. Cyril évoque la conférence de Dartmouth qui a lieu en 1956, au cours de laquelle le mathématicien John McCarthy désigne l’IA en tant que discipline de recherche. C’est le moment où l’IA commence à battre des joueurs d’échecs remarque Cyril, au moyen d’algorithmes qui ne font qu’appliquer des règles programmées. Aucun apprentissage n’intervient pour l’instant du côté des machines. Puis survient un « hiver » de l’IA, marqué par un désintérêt social pour ces connaissances qui ne satisfont pas forcément les mêmes enjeux que d’autres disciplines mieux dotées à l’époque. Chercheurs et spécialistes de l’IA voient leurs financements diminuer.

Les années 1980-90 vont permettre de franchir une nouvelle étape, que Cyril décrit comme le passage des règles à l’expérience. Fait nouveau, c’est au moyen d’un traitement de l’erreur produite par les machines que celles-ci commencent à ‘apprendre’. Vue désormais comme une différence en entrée et non plus comme un produit corrompu, l’erreur devient essentielle, elle fait partie du processus de développement. C’est une quatrième période de l’IA, couronnée de quelques réussites fameuses, lorsque l’ordinateur DeepBlue remporte par exemple un tournoi d’échecs face au champion Gary Kasparov.

Parvenus au terme de l’historique, nous sommes à présent dans une cinquième phase de déploiement des IA. Depuis les années 2020 et l’invention du « machine learning », l’apprentissage par les machines, explique Cyril, c’est un nouveau processus dans lequel des données d’entrée conduisent à une recherche de réponse adaptée, comme on peut l’observer avec les IA conversationnelles de type ChatGPT. Une très grande quantité de données (big data) sont pour cela mobilisées de façon itérative par les machines, notamment grâce à la conjonction de deux phénomènes. D’une part Cyril mentionne la surabondance de données produites et disponibles : chaque année la production de ces données est multipliée par 3. D’autre part il nous explique que la fouille dans les données se fait beaucoup mieux, depuis notamment que les informaticiens ont délaissé les bases de données relationnelles, sortes de grands classeurs dont les titres sont établis par des humains, au profit de l’exploitation de bases vectorielles, où les machines se révèlent plus efficaces.

Le conférencier nous propose d’aborder ici un point de techniques mathématiques : pourquoi les IA de type conversationnelles fonctionnent-elles si bien ainsi ? Dans une base de données vectorielles, le modèle de langage visant à produire une conversation fonctionne grâce au repérage des termes sous la forme de vecteurs. Cyril prend l’exemple du mot chat : ce mot peut être repéré dans un espace où il est proche de chien, et où tout autre mot ne serait que plus ou moins proche de chat ou de chien (cas d’une donnée-vecteur à 2 dimensions). La signification de chaque mot gagne en précision à mesure qu’on augmente le nombre de dimensions qui représentent chaque donnée-vecteur. Le mot chat et le mot chien seront mieux définis réciproquement si on ajoute une troisième dimension pour mesurer des distances par rapport aux félins : chat en est très proche, et chien beaucoup plus éloigné des félins en général. Et si l’on ajoute n-dimensions pour mesurer toutes sortes de distances sémantiques entre les mots, bien que cela perde toute signification symbolique pour les humains au-delà de trois ou quatre dimensions, une telle démultiplication des dimensions ne demande qu’à fournir de la puissance de calcul supplémentaire aux machines. Cyril projette un schéma où l’on voit apparaître des sortes de nuages mathématiques lorsque des mots ont des sens proches. C’est précisément, souligne-t-il, ce qui offre des possibilités de requêtes qui prennent en compte le contexte sémantique et évolutif de chaque mot.

D’autres types d’IA s’illustrent à travers différentes applications. Les IA génératives sont désormais connues du grand public pour leurs capacités à générer des images. Cyril prend cette fois l’exemple d’un chat dont on souhaite créer une représentation visuelle. Une IA générative, explique-t-il, s’appuie sur des millions d’images de chats pour ‘apprendre’, dans un premier temps, à se détourner du hasard par essai-erreur. L’IA générative converge vers des représentations qui satisfont de plus en plus les humains. Les humains quant à eux, poursuit Cyril, dessinent ce qui ressemble plus ou moins bien à un chat à partir d’une feuille blanche et ils s’y emploient avec beaucoup moins d’exemples. Ils échouent cependant à identifier l’animal si le dessin est trop compliqué, là où les IA génératives peuvent analyser la présence d’une forme qui se rapproche de ce qu’elles ont appris à représenter, même si l’image est floue ou mal définie (bruitée).

Au-delà de leurs capacités d’analyse, les IA se prêtent également à la prédiction, ce que décrit l’orateur en évoquant le cas des imageries médicales, ainsi qu’à de l’optimisation, le tout en temps réel et à partir de corpus de données fermées. Il est ainsi est possible, relate Cyril, d’utiliser des IA pour relier des données de systèmes physiques, sans avoir besoin de prendre en compte la totalité des particules élémentaires constituants ces systèmes. De telles capacités de prédictions sont associées à l’action motrice dans des robots dotés d’IA. Les enjeux sont évidents : partout où les humains ne peuvent se rendre, en milieu inhospitalier, et lorsque les communications sont impossibles ou trop lentes alors qu’il faut prendre des décisions, pour le futur des explorations spatiales par exemple ou sur des terrains d’opérations militaires.

On sent bien, souligne l’informaticien, que des limites peuvent être atteintes, qu’il s’agisse : des limites fonctionnelles des IA en termes de capacités, de services rendus, ou bien de ce qui est acceptable pour des humains face à des machines en train d’agir. Le conférencier ne fait pas l’impasse sur des inquiétudes de plus en plus exprimées et qu’il juge fondées, mais non imputables de façon systématique aux IA. Il concède que des destructions d’emplois sont à envisager et qu’il y a lieu de réfléchir à certains enjeux écologiques (énergies, métaux rares…). Mais ce sont d’abord les questions de sécurité et de contrôle sur lesquels il alerte. En affirmant que le problème est du côté des usages, et non de l’outil IA en tant que tel, le conférencier plaide pour le développement d’IA plus puissantes, aux capacités encadrées par les humains. S’y mêlent des considérations stratégiques : « si on choisit de les arrêter, que feront les autres pays ? demande-t-il à la salle, il faut être les meilleurs, et les Français sont bien placés pour ça, on en trouve partout, à part dans les entreprises chinoises. » Et de citer les firmes hexagonales qui ont actuellement le vent en poupe pour lever des fonds.

Le voyage dans les IA en 2026 offre à ce stade un panorama assez vaste et complexe, jalonné de progrès… aussi bien que de sources d’inquiétudes qui sont nombreuses. L’intervenant propose de repousser les limites entre humains et machines à la lumière des évolutions techniques, et à condition de cultiver les connaissances des humains sans céder à des peurs irrationnelles. Sa conclusion, en guise d’ouverture du débat avec la salle, invite à des considérations morales en matière de responsabilités : en tant qu’usagers des IA à quoi devrions-nous nous obliger ? Les responsabilités reviennent-elles d’abord aux concepteurs ? aux décideurs politiques ? Le cas des voitures autonomes montre que les engagements juridiques dans les pays qui autorisent ce type de véhicules mettent en jeu une ingénierie gourmande en données, exigeant, selon les ingénieurs concepteurs, de maximiser des connaissances sur l’environnement et sur le comportement routier par exemple. La foule de scénarios que le développement des voitures autonomes mobilise dépasse manifestement les réflexions de la plupart des automobilistes. Cyril nous invite à endosser un instant la responsabilité et les raisonnements des ingénieurs : si les freins sont soudain défaillants, si la voiture se dirige à vive allure vers des piétons, s’il y a des jeunes enfants et des personnes moins vulnérables, et la présence d’un obstacle mettant fatalement en jeu la vie des passagers, parmi toutes les trajectoires envisageables, laquelle choisir, que faire à l’avance pour limiter les conséquences d’une éventualité tragique ?

1L’histoire de l’informatique retient que le premier algorithme destiné à être exécuté par une machine est dû à la plume de cette dernière.

Deuxième partie : Questions du public et débat

La première question, posée par JD, revient sur les voitures autonomes qui suscitent de nombreuses craintes. Cyril apporte des compléments d’informations en mentionnant l’existence de plusieurs niveaux de sécurité dans les normes juridiques. Tandis que le niveau 4 autorise aux USA des trajets 100 % autonomes sous la surveillance d’un chauffeur, le niveau 3, permet d’équiper en France des voitures qui intègrent des dispositifs d’aide à la conduite fondés sur l’IA, comme le freinage d’urgence ou la détection du franchissement des lignes blanches qui fait tourner le volant pour les éviter.

JP relate l’impact des IA dans le domaine des arts et de la musique : on assiste à une uniformisation des rendus auxquelles ces IA aboutissent. Trop souvent, apprécie l’amateur d’arts, les formes graphiques générées par IA se ressemblent. Par ailleurs il rappelle que les arrangements musicaux à base d’IA doivent beaucoup au pillage des œuvres. Considérant que l’homme reste attaché à son monde comme « un roseau pensant », JP exprime un rapport d’étonnement à voir les IA détrôner des auteurs, mais également à les voir en substance comme des refuges de vulnérabilités. Or, poursuit JP, être musicien c’est se façonner à l’art avec un certain rythme, dans un juste rapport avec l’évolution du cerveau humain. Les IA ne sont majoritairement qu’entre les mains de conservateurs ajoute-t-il, en prenant pour exemple le cas de la désinformation via les réseaux sociaux. Il y a lieu de s’en soucier selon lui…

Cyril fait remarquer que pour beaucoup d’utilisateurs, l’IA est une finalité, alors qu’elle ne devrait être qu’un outil. Il décrit son propre usage créatif avec des IA pour traiter ses photographies, dans un processus plus large et dont il reste l’opérateur. Il évoque, dans un autre domaine, des méthodes de travail où certains codeurs informaticiens ne font qu’employer l’IA à 100 % pour manier les langages de programmation, ce dont il se démarque.

Une personne souligne l’intérêt professionnel que les IA peuvent avoir, par exemple, pour aider les avocats dans la préparation de leurs dossiers, et qui doivent rester sous la supervision des humains.

HG fait remarquer que nous sommes partagés entre ceux qui savent et qui ont appris à utiliser des IA, et ceux qui n’ont reçu aucune éducation en la matière. Sur quoi Cyril abonde à travers les objets techniques et ordinateurs dont beaucoup de gens disposent sans avoir reçu de formation particulière, estimant un retard de plusieurs mois entre les nouveautés commercialisées et les offres d’enseignements.

Le débat s’élargit autour des techniques au regard des capacités humaines à réfléchir à leur égard. Cyril relate la mise au point de la bombe nucléaire (projet Manhattan) alors même que les capacités de calcul n’étaient pas suffisantes au départ.

PO part du constat selon lequel les jeunes semblent à l’aise avec le maniement des technologies. Or, rapporte-t-elle, ils semblent disposés à livrer leurs cas de conscience en demandant par exemple aux IA pour qui voter. Le plus dangereux, conclut PO, serait que les jeunes ne puissent pas progresser eux-mêmes.

Cyril n’a pas de doute : les jeunes gens ne savent pas tous se servir des technologies, loin de là. Certes, affirme-t-il, l’intelligence humaine a considérablement progressé en moyenne, mais une partie de la population renonce à réfléchir. Il soutient que « science sans conscience n’est que ruine de l’âme… ». Les échanges dans la salle s’accordent à dire que le problème n’est pas entièrement nouveau et que le copié-collé a vite eu sa place dans les pratiques (peu recommandables) parmi les jeunes et les étudiants. Beaucoup rattachent cette pratique à une forme de paresse intellectuelle.

JA dénonce une absurdité qui, selon lui, ne doit plus être colportée : l’homme de Cro-Magnon ne conduisait pas de voiture, il y a bien eu des progrès humains considérables depuis les temps préhistoriques. JA appelle à une structure mondiale pour gérer les progrès, en soulignant que le chômage de masse est une arme dans l’économie capitaliste.

Cyril émet des réserves. Il estime que si le but que chacun se fixe est celui de vivre et de travailler par envie, quel pourrait être le rôle d’une telle infrastructure mondiale ?

AC se demande comment il est possible de garder le contrôle sur les IA.

Cyril admet que s’il n’y a pas conscience du phénomène, la crainte est légitime. Il se réfère à l’un de ses auteurs favoris : Philippe K. Dick et son roman SF, Les androïdes rêvent-ils de moutons électriques ? adapté au cinéma par Ridley Scott avec le film Blade Runner. Même si les IA étaient nourries de philosophie, elles ne seraient que des êtres d’algorithmes dépourvus de conscience, renchérit l’orateur informaticien, lequel n’a pas d’inquiétude sur la séparation entre les humains et les machines étant donné que la conscience est une possibilité et une réalité chez les humains.

Mais si des terroristes s’armaient avec une IA ? interroge une personne dans la salle.

Tel est déjà le cas, répond Cyril, en observant que chaque État possède des hackers pour déjouer des actions malveillantes ; c’est un processus irrévocable, une partie d’échecs déjà engagée.

PYC, souhaite parler de deux sujets peu ou pas abordés : la dégénérescence et les impacts environnementaux. La dégénérescence est connue par les spécialistes des IA et par leurs usagers associés à des programmes de recherche : il s’agit de la consommation, par les IA, de données qu’elles produisent elles-mêmes, phénomène que l’on peut décrire métaphoriquement comme une sorte de consanguinité numérique.

Cyril connaît ce problème et affirme l’importance, pour le développement des IA, de disposer de corpus de données validés par les humains. Il répond à MV, lequel pensait que c’était l’erreur commise par un drone dans une opération militaire qui a coûté la vie à des civiles et des enfants dans une école prise pour cible. Cyril explique que, techniquement, le domaine militaire borne l’usage des IA à de l’assistance aux opérations. Il précise que l’erreur en question n’était cependant pas liée à de l’autoconsommation de données, mais à une erreur de cartographie, erreur purement humaine.

Quant à l’impact environnemental des IA, Cyril reconnaît parfaitement que cela pose des défis, à telle enseigne que les data centers, lieux de concentration en mémoires électroniques et en calculs vectoriels (cf. plus haut), deviennent des sites classés SEVESO du fait des risques d’incendie liés aux réserves de combustibles de secours qu’ils contiennent. Un problème tangible est aussi celui de la raréfaction des puces électroniques, bien qu’il soit probablement sur le point de se stabiliser, de même que la consommation d’énergie.

PB relate un problème de consommation d’eau, dans une province du Mexique, où un data center prive les agriculteurs de cette ressource, sans même offrir les emplois initialement associés au projet.

Cyril mentionne que le futur de l’IA est celui des circuits fermés en eau et en énergie.

XX s’interroge sur ce que produisent les hommes. Il explique nourrir un vif intérêt pour les IA, en en faisant un usage à la fois par curiosité et par envie d’apprendre, d’accompagner ses méditations sur l’anthropologie matérialiste. « La faiblesse c’est la complexité de notre pensée, reprend-t-il, l’IA a le mérite, si on lui pose des questions précises et contextualisées, de confronter à nos propres erreurs. » Il estime que dans la mesure où l’IA est produite par les humains, elle sera toujours inférieure à l’esprit humain, dont on ne se rend pas toujours bien compte des potentialités. Pour les humains il est toujours possible de commander une machine, mais il faut savoir être prudent.

S’ouvre un bref échange avec le conférencier sur la contextualisation et les stimuli entre humains et machines. Cyril utilise par exemple une IA pour parcourir quotidiennement des articles qui l’intéressent pour lui en proposer un résumé. C’est en ce sens que les IA contextualisent et nous aident notamment le faire selon lui. D’autres machines, très populaires, semblent avoir raison du débat quant à la stimulation : le réveil nous stimule, la machine à café également, et nous les programmons pour cela !

YP pose la question de savoir si l’on peut agir avec des technologies usuelles – payer par carte bancaire sur Internet par exemple – sans avoir à mobiliser des IA ?

Cyril explique que bien des téléphones écoutent déjà nos conversations avec de l’IA à notre insu…

JP revient sur le débat autour des passionnantes conversations avec les IA, en remarquant que les interfaces ‘passent la brosse’ aux usagers, et qu’à côté le problème du pillage des créateurs reste entier.

Cyril met en avant le besoin de maintenir des données ouvertes afin de s’affranchir des réclamations des ayants droits.

FV prend la parole en saluant la qualité de l’intervention et la teneur des échanges qui correspondent à l’idéal d’une éducation populaire souhaitée au Carrefour citoyen. FV souligne que ces idées et le vécu qui va souvent avec elles, reviennent à chacun. Elle formule le souhait d’une production restant humaine, avec le développement d’IA maîtrisables.

Charles se demande si Cyril n’a pas de nouvelles passions œnologiques et profite de cette donnée bien sourcée pour lui remettre, en tout bien tout honneur, un petit cadeau de la part du Carrefour citoyen. Il ouvre par ce geste au verre de l’amitié.