Aujourd’hui, les models de langage sont essentialement Americains. Mais le Royaume-Uni entend developed a national solution, sovereign. 100 millions de livres sterling sont announced, pour debuter. A trajectoire que la France pourrait suivre.
100 millions de livres sterling, soit un peu plus de 113 millions d’euros. Tel est le montant du financement que Londres vient d’announcement, le 24 April 2023, pour « accélérer les capacities du Royaume-Uni dans a type d’intelligence artificielle qui émerge rapidement ». En line de mire? Faire en sorte que le pays puisse avoir son propre ChatGPT sovereign.
Cet investissement, selon le government anglais, est une première étape, pour amorcer le groupe de travail charged de piloter ce programme. Ce montant s’ajoute aux 900 millions de livres sterling (un peu plus d’un milliard d’euros) déjà fléchés pour développer la puissance de calcul du pays, précise l’exécutif britannique in his communiqué.
A travers cette envelope, London entend « guarantee of the sovereign capacity “and a large adoption of the model of the language that is required” sûrs et fiables ». Ces models de langage sont appelés models de fondation (foundation models in English). À l’issue de leur entraînement, qui nécessite d’ingérer de vastes quantités de données, ils peuvent ensuite servir à diverses tâches.
For example, ChatGPT repose sur le modèle de langage GPT, qui est un genre de modèle de langage — un transformateur génératif pré-entraîné (en anglais, Pre-Trained Transformer). Il en est à sa version 4 depuis la mi-mars. Google uses the LaMDA language model for chatbot Bard. Quant on Facebook, so the model is the LLaMA.
Ces models de base sont entraînés sur des fichiers de nature variée. Il peut s’agir de textes, d’images, de vidéos ou de fichiers sonores, en fonction des facultés qui sont recherchées. For example, ChatGPT est plutôt specialisé dans le texte (même si GPT-4 ouvre la voie à l’emploi multimodal), tandis que Midjourney, DALL-E or Stable Diffusion sont taillés pour les images.
La constitution de capacités sovereigns pour se doter de ses propres modèles d’intelligence artificielle doit offer une alternative aux solutions déjà existantes et ainsi éviter de se retrouver en situation de dépendance. Mais au-delà de ces enjeux de sovereigne, le Royaume-Uni voit also ces modèles comme un puissant levier de croissance, avec a hausse du PIB à la clé.
Bientôt des models de langage sovereigns en France ?
En France, le government n’a pas annoncé à ce jour de plan equivalent. Jean-Noël Barrot, le ministre chargé de la Transition numérique et des Télécommunications, a évoqué à plusieurs reprises ChatGPT et les répercussions qu’il pourrait avoir, mais davantage à travers le prisme de la régulation — il a mentionné le règlement sur l’IA — de la sécurité et des enjeux éthiques.
« Mieux vaut créer en Europe les conditions pour que l’innovation se developed en accord avec nos valeurs. J’ai saisi le Comité national d’éthique qui rendra son avis à l’été. Il éclairera nos choix de société », indiquait-il le 11 avril. Toutefois, il a also reconnu « qu’il n’y a aucune raison que nous ne puissions pas développer à notre tour des modèles en France. »
En attendant, la France se dote des capacités techniques qui permettront, le cas échéant, de faire tourner ces modèles d’intelligence artificielle. In this plan for France 2030le government reconnaît que la maîtrise de l’IA « est un facteur majeur de sovereignty national », et que cela n’est possible « que grace à des capacités de calcul de grande ampleur. »
« Il n’y a aucune raison que nous ne puissions pas developer à notre tour des modèles en France. »
Jean Noël Barrot
« Les models derrière l’intelligence artificially sont entraînés avec the algorithm compantant plusieurs dizaines de billions de paramètres. Il est donc indispensable que nous ayons sur notre sol ces capacités de calcul dites exaflopiques », pour suit le document. A observation which rejoints the celle du Royaume-Uni and son enveloppe de 900 millions de livres sterling.
The appels émergent déjà pour encourager la constitution d’un modèle de langage national, comme au Royaume-Uni Un modèle de langage qui serait également open source, afin d’éviter son appropriation et also assurer sa transparency. In addition, the grandes entreprises that consider the models in the language that are not required in a reverse logic, and opted for a model based on the API.
À l’avenir, cela pourrait toutefois changer. C’est en all cas la prediction de Yann LeCun, le patron de l’intelligence artificielle chez Meta, la maison mère de Facebook. Then and enter au Novel Obsce specialiste reconnu de l’IA anticipe que ces modèles de langage deviendront un standard ouvert commun à all industries, exactement comme l’infrastructure Internet.
Dans ce cadre, les modèles de langage sovereigns pourraient devenir sans object, s’ils deviennent des standards. Les besoins en puissance de calcul, en revenge, seront plus que jamais necessaires pour traiter ces données massives, mais also pour entraîner des modèles. Le calcul haute performance, avec l’ère exascale, devra y répondre.
Subscription vous à Numerama on Google News for a manquer aucune info !
