Les limites des IA génératives
Les IA génératives impressionnent mais présentent des limites notables pour ceux qui en connaissent les rouages. L'une de leurs faiblesses majeures se situe dans le manque de compréhension du contexte et des nuances des informations qu'elles ont à traiter. Cela peut conduire à la production de contenus incohérents, approximatifs, voire erronés, que l’on appelle des « hallucinations ». Leur fonctionnement repose principalement sur un apprentissage d’un volume gigantesque de données qui donnent lieu à des modèles dont va se servir l’outil pour construire ses réponses. Mais cette IA ne possède pas de véritable compréhension sémantique ou logique des concepts abordés.
En effet, contrairement aux êtres humains, les IA génératives ne disposent pas de conscience de leur environnement ni de sensibilité culturelle ou éthique. Par exemple, dans le cas de ChatGPT, l’IA peut écrire un texte faisant référence à des célébrations ou des traditions spécifiques à une culture, sans tenir compte de la zone géographique, des sensibilités culturelles de la personne qui l’interroge. Cela peut donner lieu à une véritable incompréhension sachant que ChatGPT a été entraîné sur des corpus de données principalement en langue anglaise et est donc culturellement orienté.
Le maître des horloges
Ce que les détracteurs de ces IA oublient souvent de dire ou simplement ne le savent-ils pas, c’est qu’elles sont bien incapables de la moindre action ou proposition de contenu sans un être biologique pour les interroger. Telle une calculatrice, l’IA générative produit son résultat à la demande, méthodiquement, brillamment sans doute, mais mécaniquement. En effet, point de réflexion sur ce qui est demandé, juste une proximité de sémantique ou syntaxique dont on peut régler la précision, automatiser la génération, sans plus. Mais c’est déjà beaucoup. Pour les plus assidus, ces centaines de milliers d’utilisateurs, ces millions, doivent comprendre comment les interroger, interagir, faute de quoi, la déception est généralement la règle.
Et c’est là tout l’enjeu. Former… Former… Former !
On ne le répètera jamais assez et contrairement aux idées reçues, elles ne sont pas si faciles à dompter, ces machines. Il faut en effet des heures et, idéalement, être accompagné d’un spécialiste pour en comprendre les méandres et être capable de leur parler. Et c’est bien là tout l’enjeu.
D’ailleurs, de nouveaux métiers émergent partout dans le monde comme les “prompt engineers”. Ces nouveaux créatifs capables d’inventer, de concevoir les meilleures requêtes, les fameux “prompts”, sans lesquels l’interaction homme machine est rapidement limitée. Ces IA génératives sont également des assistants de choix pour les métiers médicaux dont nous manquons cruellement, les “humanités” vont pouvoir développer leurs disciplines avec de nouvelles perspectives, les besoins en informatisation explosent alors que les compétences manquent et ces IA vont permettre d’apporter une meilleure productivité. Bref, les perspectives ne manquent pas.
Du rêve à la réalité
Loin des polémiques, nous avons pu expérimenter lors d’un récent concours réunissant plusieurs dizaines d’apprenants travaillant dans de nombreuses entreprises françaises et internationales. Ils avaient pour objectif, par petits groupes de 4 personnes, de réaliser en 3 jours un projet professionnel grâce aux IA génératives et à des outils d’automatisation. Et le résultat fut impressionnant !! Alors qu'aucun ne maîtrisait ces technologies, ils ont présenté des résultats qui ont dépassé les attentes de notre jury. Lors de la phase d’organisation, nous avions craint qu’ils arrivent trop rapidement à résoudre le sujet mais c’est bien au contraire la créativité et la force de la réflexion humaine augmentée par les outils qui a fait son œuvre. Et un point clé qu’ils nous ont remontés : il faut absolument être accompagné pour tirer toute la puissance de ces IA.
C’est ne pas comprendre ce que sont les IA génératives et la richesse de chaque métier que de croire qu’elles vont supprimer 300 millions d’emplois pour les uns, 85 millions pour les autres. On nous promettait déjà la disparition de 120 millions d’emplois en 2019 et bien heureusement mais sans surprise, rien ne s’est passé.
Bien sûr, des enjeux nous animent sur la diffusion massive de fausses informations à travers des textes et des images. Et nous devons redoubler d’imagination, de créativité pour les combattre sur les réseaux sociaux. Mais cessons d'avoir peur, retroussons nos manches et exploitons au maximum la valeur de ces outils, qui peuvent représenter le nouveau paradigme de progrès significatifs pour notre civilisation.
Rédacteur :
Laurent Cervoni, Directeur de la Recherche et de l'Innovation, Groupe Talan
