IA et réglementations : vers un développement à impact

Pouvez-vous vous présenter en quelques mots ?

J’ai 48 ans et 25 d’expérience professionnelle en développement, en architecture et en interopérabilité de SI.

En tant qu’officier dans l’armée de Terre, à partir de 1998, j’ai été responsable des préconisations Java (pratiques, frameworks) mais aussi sur l’adoption de la SOA (Service-Oriented Architecture) et notamment de tout ce qui se rapportait aux pratiques liées aux WebServices, dès 2003, au profit du ministère des Armées. A la fin de ma carrière militaire, de 2011 à 2018, j’ai été responsable de la formation des développeurs du ministère, mais aussi formateur.

Avant de rejoindre Capgemini en septembre dernier, j’ai œuvré au sein d’une cellule d’API Management du Ministère des Armées pendant 3 ans.

Mon domaine de prédilection concerne tout ce qui gravite autour de la plateforme Java mais aussi et surtout sur la qualité et la performance du code, raison pour laquelle j’ai rejoint une entité de Software Craftsmanship chez Capgemini. Elle est composée de Crafters identifiés du groupe. Ce sont des passionnés dont le but est de produire des applications non seulement fonctionnelles mais aussi, voire surtout, très bien conçues, avec des exigences de qualité très élevées, performantes et à l’état de l’art.

J’ai toujours été attiré par ce qui touchait l’intelligence artificielle sous toutes ses formes car dès 1996 je me suis intéressé aux réseaux de neurones, leurs applications et la recherche de leurs poids, dans un contexte donné, au moyen d’algorithmes génétiques.

Comment utilisez-vous l’IA dans votre quotidien chez Capgemini ?

Étant fondamentalement développeur depuis mon plus jeune âge, c’est dans ce domaine que je l’utilise au quotidien. J’ai la chance de pouvoir bénéficier des outils de l’offre Github Copilot X, que je peux utiliser en fonction du projet sur lequel j’interviens. En parallèle, je dispose d’une solution autonome d’IA générative qui me garantit qu’aucun élément comme du code source ne soit transféré à des solutions SaaS comme ChatGPT par exemple.

Concrètement, les plugins VSCode ou IntelliJ, voire Eclipse, accélèrent drastiquement mes actes de développement, grâce aux suggestions de code ou encore aux agents conversationnels. Cela me permet de me focaliser sur les choses vraiment importantes liées à la conception ou au design des applications. Après avoir connu ces assistants, j’aurais du mal à m’en passer aujourd’hui.

Enfin je l’utilise très régulièrement pour m’aider à découvrir une technologie, un framework ou une bibliothèque que je ne connais pas. L’agent conversationnel agit pour moi comme un tutoriel interactif et cela me fait gagner beaucoup de temps. En effet, les explications et les suggestions peuvent être ré-orientées pour me permettre de mieux les comprendre. J’avoue même que parfois les éléments données suscitent mon intérêt pour des solutions ou des technologies que je peux approfondir immédiatement grâce à la conversation ce qui m’aurait demandé un effort de recherche supplémentaire, sur un moteur de recherche classique. En d'autres termes, cela m’a permis quelquefois d’être encore plus imaginatif sur certaines solutions et de juger rapidement de la faisabilité d’une solution.

Bien évidemment connaissant le principe non déterministe des IA je reste très critique sur ce qu’il produit et très souvent je ré-ajuste la conversation pour atteindre mes objectifs : le fameux “prompt engineering” et je vérifie toujours ce qui a été généré.

Comment la régulation pourrait-elle influer l'innovation dans le domaine de l'intelligence artificielle au sein de Capgemini ?

Cette vaste question ne concerne pas uniquement l’IA.

Au fil des siècles il y a eu des découvertes, des innovations plus ou moins régulées. On peut même affirmer qu’il n’y a quasiment pas eu de régulation. Par exemple en 1919 quand Ernest Rutherford réalise la toute première réaction nucléaire en transformant l’azote en oxygène, ses premiers travaux conduisent au final à la création de la bombe atomique au sein du projet Manhattan par Robert Oppenheimer mais aussi à la création de centrales électriques nucléaires. Une partie de l'humanité a malheureusement tendance à exploiter les innovations dans tous les domaines possibles, même les moins avouables, voire les plus funestes.

Il y a déjà eu des régulations comme la recherche génétique liée au clonage humain par exemple, mais cela n’empêche certainement pas des laboratoires clandestins de mener des recherches. Certes la recherche est moins massive et moins débridée, de fait elle progresse moins vite, mais elle progresse quand même dans ces domaines. De plus, l’actualité en Europe de l’Est nous le prouve : la régulation globale se fonde sur la bonne volonté des États et des différents acteurs. Elle peut être remise en cause, voire tout bonnement ignorée, à tout moment.

L’IA n’échappe pas à cette volonté de contrôle et effectivement les différents cadres de régulations adoptés en décembre en Europe, démontrent bien toute l’inquiétude liée à des usages non éthiques. En effet l’émergence massive de très nombreux cas d’usage liés à l’IA, notamment d’IA générative, a pu faire naître une certaine psychose que l’on peut appeler l’effet “Skynet” ou “Terminator” : cette crainte que la machine puisse devenir totalement autonome et ainsi courir à la perte de l’humanité. Je reste dans la catégorie des optimistes, je préfère voir le côté “Jarvis” de Iron Man.

En ce qui concerne Capgemini, le groupe se place foncièrement dans une démarche éthique globale : l’IA est donc évidemment au centre des préoccupations. L’innovation que le groupe porte est ainsi en respect avec ses propres chartes, notamment éthiques, mais aussi et surtout les droits d’auteurs et fondamentalement les droits de l’homme.

Nous possédons une charte spécifique à l’usage de l’IA qui met en avant sept principes fondamentaux. L’IA doit être :

Maîtrisée : élaborée dans l'optique du bien-être humain, dotée d'un objectif clairement défini précisant ce que la solution apportera et à qui.
Durable : en cours de développement en tenant compte de chaque partie prenante, dans le but de favoriser l'environnement et tous les membres actuels et futurs de notre écosystème, qu'ils soient humains ou non. Elle vise à relever des défis pressants tels que le changement climatique, la réduction de notre empreinte carbone, l'amélioration de la santé et la production durable.
Équitable : issue d'équipes diversifiées utilisant des données fiables pour des résultats impartiaux et l'inclusion de tous les individus et groupes de population.
Transparente et explicable : avec des résultats compréhensibles, traçables et auditables, selon les besoins.
Contrôlable : avec une responsabilité claire permettant aux êtres humains de prendre des décisions plus éclairées et de conserver le dernier mot.
Robuste et sécurisée : incluant des plans de secours lorsque nécessaire.
Respectueuse de la vie privée et de la protection des données : prenant en considération la vie privée et la sécurité des données dès la phase de conception, pour une utilisation des données sécurisée et conforme à la réglementation sur la vie privée.

Cette charte cadre nos usages et, de fait, possède une influence forte sur nos travaux qu’ils soient au profit de nos clients, de nos partenaires mais aussi de chacun au sein de Capgemini.

Selon vous, de quelle façon va évoluer le développement de l’IA ?

La croissance ces dernières années, ces derniers mois, est fulgurante. On voit surtout des solutions IA devenir “grand public” dans le sens où chacun peut s’équiper d’une IA autonome sans reposer sur l’un des géants comme OpenAI ou encore Bard.

De même, les outils qui gravitent autour de ces solutions sont de plus en plus nombreux, et je pense qu’il est assez difficile à suivre de manière exhaustive sans avoir à se spécialiser dans ce domaine.

Plus globalement, L’IA va s'immiscer dans tous les corps de métiers pour principalement de l’aide à la décision ou pour des tâches complexes. Par exemple, il existe déjà des solutions au profit d’un gérant de carrosserie automobile pour établir un devis des pièces à changer et des ordres de réparation avec simplement l’analyse de quelques photos des dégâts sur un véhicule. Bien évidemment, l’humain est en bout de chaîne pour valider ce qui a été suggéré par le système.

Je ne me risquerais pas à lister des cas d’usages, en revanche ce qui est certain c’est que l’accès aux technologies d’IA va se démocratiser de plus en plus permettant ainsi d’insérer de l’intelligence artificielle à moindre coût dans de très nombreux domaines de notre vie quotidienne. Le seul frein réside dans les capacités de calculs et les ressources que cela nécessite encore, mais il est fort à parier que cela sera de moins en moins problématique à l’avenir avec la démocratisation de matériel dédiés à l’IA, à moindre coût, notamment au moyen d’ASIC et/ou de FPGA.

Une chose est sûre, et je ne suis certainement pas le premier à l’exprimer : nous sommes réellement à l’aube d’une révolution qu’il y a à peine 2 ans en arrière nous n’aurions imaginée.

Comments0
Views230

0 comments

IA et réglementations : vers un développement à impact

Pouvez-vous vous présenter en quelques mots ?

Comment utilisez-vous l’IA dans votre quotidien chez Capgemini ?

Comment la régulation pourrait-elle influer l'innovation dans le domaine de l'intelligence artificielle au sein de Capgemini ?

Selon vous, de quelle façon va évoluer le développement de l’IA ?

The articles of Capgemini

Le métier du produit aujourd'hui : multiples rôles, objectifs communs

La technologie comme catalyseur ou obstacle aux objectifs de développement durable ?

Exploration des enjeux et opportunités de l'open source dans la tech