Luc Julia remet les pendules à l’heure sur l’IA / Et se montre sceptique sur la pertinence de l'AI Act

"Une aberration totale". Luc Julia, directeur scientifique de Renault, reconnu pour son expertise dans l’intelligence artificielle (IA) et sa carrière dans la Silicon Valley – il a entre autres été l'un des concepteurs du célèbre assistant vocal d’Apple, Siri – a expliqué sans détour mercredi, devant les membres de la Commission des affaires économiques du Sénat, ce pourquoi l’AI Act n’était selon lui pas des plus judicieux pour l’avenir. Un règlement novateur, le premier au monde à encadrer cette technologie au travers d'une classification par niveaux de risques. Les systèmes d’IA à avoir été identifiés comme appartenant à leur plus grand degré sont désormais interdits. L’on y retrouve entre autres ceux pouvant exploiter des vulnérabilités, ou permettant de créer des bases de donnés pour de la reconnaissance faciale, par exemple.

En clair, ceux considérés comme contraires aux valeurs de l’Union européenne par le texte. Néanmoins, pour Luc Julia, vitesse et précipitation ont peut-être été confondues. "Ce qui me gêne, c’est l’interdit. Si l’on avait interdit des choses en les comprenant… mais nous n’avons rien compris et ce sans demander aux gens qui comprennent la technologie. Le problème est que nous avons intégré dans de grands sacs d’interdits des choses qui seront peut-être un jour utilisables et intelligentes, sans n’avoir aucune notion de ces futurs usages. Nous tirons une balle dans le pied de l’innovation", a-t-il indiqué, en réponse à la question du sénateur Les Républicains Patrick Chaize, qui l’interrogeait justement sur sa vision de la réglementation européenne de l’IA. Et de poursuivre : "Le niveau de granularité est trop important. Et le problème, avec Bruxelles, c’est qu’une fois que quelque chose a été mis dans un sac, cela prendra cinq ou dix ans pour la sortir. La flexibilité n’est pas leur point fort".

Une boîte à outils classique

Pour autant, loin du scientifique l’idée de vouloir se poser en militant de l’anti-régulation. Selon lui, l’essentiel reste d’avoir conscience que l’IA est une boîte à outils, qui en contient d’aussi différents qu’une autre, plus traditionnelle. "Les IA sont des mathématiques et rien que des mathématiques. (...) Elles sont plus intelligentes que nous, depuis très longtemps", a-t-il indiqué lors de son propos liminaire, reprenant l’exemple de l’ordinateur développé par IBM qui avait battu le champion russe d’échecs, Garry Kasparov, dès 1997. "Par définition, un outil est meilleur qu’un humain. Il ne serait sinon pas un outil dédié aux domaines pour lesquels nous l’avons défini", a rappelé Luc Julia. "Et comme tous les outils, à l’instar d’un marteau, l’IA peut être utilisée à bon ou mauvais escient. La régulation est indispensable, je suis pro-régulation. Mais il est nécessaire de réguler lorsque l’on comprend, pas a priori. En revanche, les mécaniques a posteriori peuvent aussi être embêtantes", a-t-il pointé en répondant au sénateur socialiste Rémi Cardon.

"Je suis pour le débat. Il faudrait permettre à ceux qui utilisent la technologie de pouvoir donner leur avis et que la représentation nationale représente finalement ce que pensent les gens", a-t-il aussi fait savoir au sénateur écologiste Yannick Jadot, qui l’interrogeait sur les biais politiques de certains robots conversationnels d’IA générative. Un point résolument partagé par le scientifique : "Les IA d’aujourd’hui pensent comme des gens de la côte ouest. Elles sont conduites par ces gens-là, comme Sam Altman ou Elon Musk, peu respectables politiquement de mon point de vue". Il faut dire, a-t-il expliqué, que 70 % des données en circulation sur le net sont américaines. Des données sur lesquelles s’appuient les modèles à l’origine de ces robots pour s’entraîner et fournir leurs réponses, traduisant par la suite des erreurs factuelles dans ces dernières, notamment sur des questions historiques. En cause, un double effet de la présence de nombre d’informations fausses sur la toile et, donc, de certains biais qu’il conviendrait d’accepter.

Le parfait n'existe pas

De même, a soutenu Luc Julia, l'IA générale, qui ferait mieux ou aussi bien qu'un humain en tout temps, ne semble résolument pas être à l'ordre du jour : "C'est statistiquement impossible tant que nous utilisons les mathématiques. Peut-être que le quantique le permettra. La différence entre les deux est que le quantique repose sur la physique, les maths n'en sont qu'une approximation. Quand on fait des statistiques, le 100 % et le parfait n’existent pas", a-t-il rappelé au cours de son audition. Par exemple, et puisqu’il s’agit de son secteur d’activité actuel, une voiture autonome "de niveau cinq" serait une illustration de cette IA générale. Mais puisqu’un modèle parfait de la sorte serait programmé pour respecter le code de la route, il lui serait impossible de traverser la place de l’Étoile à Paris en fin de journée, a-t-il plaisanté. "Elon Musk promet une voiture autonome de niveau cinq depuis 2014… et nous sommes en 2025. Cette voiture-là, elle n’existe pas et n’existera jamais. Celles de niveau quatre existent et circulent déjà, mais elles sont limitées sur le plan géographique et restent sous supervision humaine, si jamais un problème se pose. Donc nous ne sommes pas sur un niveau cinq", a pointé Luc Julia.

La révolution de l’arrivée de ChatGPT n’en serait finalement qu’une d’usage, a souligné Luc Julia, puisque permettant à tout un chacun de s’adresser à la technologie en langage naturel. "ChatGPT a gagné 100 millions d’utilisateurs en deux mois après son lancement. Aucune technologie n’a été adoptée aussi rapidement dans l’histoire", a rappelé Luc Julia. Pour le reste, il s'agirait surtout d’évolutions dans le temps, ayant permis de récolter et de traiter considérablement plus de données, ainsi que d’accroître les capacités de calcul, a expliqué le scientifique. D'autant que cette révolution d'usage ne s'est pas accompagnée d’une augmentation de la pertinence des IA offertes au grand public.

Risque de déclin

Tout d’abord, car la manière dont les questions leur sont posées oriente nécessairement les réponses. Citant un papier produit par l’Université de Hong Kong, l’expert a également expliqué que dans 36 % des cas, un robot conversationnel pouvait indiquer qu’un fait communément admis (comme deux et deux font quatre) était faux. "Et cela ne va pas en s’arrangeant. Les IA s’auto-alimentent aujourd’hui aussi avec leurs propres données, puisqu’elles ont fait le tour du net", a souligné Luc Julia. Une pertinence qui peut toutefois grimper à des niveaux bien plus élevés lorsque l’IA générative est appliquée à des domaines spécifiques et des cas d’usage précis en entreprises, a souligné Luc Julia, illustrant son propos au travers de la technologie installée dans les derniers modèles de Renault.

"On peut créer des idiots à cause de la technologie", a-t-il aussi indiqué, pointant par exemple qu’il était essentiel d’éduquer les enfants sur la question et sur la nécessité de vérifier sans cesse les faits donnés par les IA génératives. Ne pas apprendre à utiliser l’outil sera néanmoins discriminant, d’autant plus qu’il permettra de dégager du temps et de mieux répartir l’équilibre des tâches dans un certain nombre de professions, a averti Luc Julia, rappelant : "Une erreur énorme serait de se dire que nous n’avons plus besoin d’apprendre des métiers. L’IA ne sait rien, ne comprend rien, n’invente rien. Elle fait seulement ce qu’on lui demande de faire. […] Une IA ne code pas toute seule, par exemple. Elle peut en pondre plusieurs pages, mais si on ne le corrige pas par la suite, cela sera nécessairement erroné".