Certain crient à la “fin de la civilization” lorsqu’il s’agit de parler d’IA comme ChatGPT et Midjourney. Il est important de garder de la nuance, et se rappeler que des chercheurs et chercheuses travaillent déjà sur les limits de l’intelligence artificielle depuis des années.
This article is an extra item from the newsletter #Règle30 de Numerama, diffused that mercredi gratuitement in your mail.
Être journaliste specialisée dans les new technologies, c’est être victime de la mode. Mon sector est dominé par des companies qui ont un interest marketing à innover (ou en all cas, à dire qu’elles innovent). En dix ans de career, j’ai donc écrit sur les chatbots, les lunettes connectées, la réalité augmentée, la réalité virtual, l’informatique quantique, la deep tech, les crypto-monnaies, les NFT, les métavers, l’intelligence artificielle, etc. Cela ne signifie pas que ces sujets sont ininteressants. Mais il faut garder en tête que cet agenda médiatique n’est pas neutre, qu’il profite à des acteurs économiques et politiques, et que certaines thematiques tombent en désuétude aussi rapidement qu’elles ont submergé les start-up et les medias.
The newsletter #Règle30 is sent to us les mercredis at 11am.
Pour s’inscrire gratuitement pour la recevoir, c’est par ici.
Ça ne vous aura pas échappé, le sujet du moment, c’est l’intelligence artificielle (note : c’était also le cas en 2016). Plus particulièrement, les IA génératives, like ChatGPT or Midjourney. Leurs progrès ont alarmé un groupe de plusieurs milliers de personnalités des new technologies, qui ont co-signé la semaine dernière une lettre ouverte réclamant une « Break » d’au moins six mois, le temps de mettre en place des garde-fous législatifs et techniques. Le texte a été largement repris dans les medias. Il a aussi vite été critiqué pour son discours apocalyptique (je cite : « devrait-on risquer de perdre le control de notre civilization ? »).
On a note of the organization derrière cette initiative, le Future of Life Institute, était en grande partie financée par Elon Muskqui a lui-même des ambitions dans le sector de l’intelligence artificielle (il a d’ailleurs cofondé OpenAI, à l’origine de ChatGPT, avant de quitter le navire in 2018). Elle semble proche du mouvement long-termiste, un courant de pensee popular in the Silicon Valleyqui prédit un future plein de menaces qui ne surmontées qu’en investissant massivement dans des radical technological solutions.
Les données transmises par le biais de ce formulaire sont destinées à PressTiC Numerama, en sa quality de responsable de traitement. Ces données sont traitées avec votre consentement aux fins de vous envoyer par e-mail des actualités et informations relatives aux contenus éditoriaux publiés sur ce site. Vous pouvez vous opposer à tout moment à ces e-mails en cliquant sur les liens de désinscriptions presented dans chacun d’eux. Pour plus d’informations, vous pouvez consulter l’intégralité de notre politique de traitement de vos données personnelles.
Vous disposez d’un droit d’accès, de rectification, d’effacement, de limitation, de portability et d’opposition pour motif légitime aux données personnelles vous concernant. Pour exercer l’un de ces droits, merci d’effectuer votre demande via notre formulaire de demandes d’exercices de droits dédié.
« Il est dangereux de nous disturbe avec des fantasmes d’un futur prospere ou catastrophique à cause de l’IA »
Comme all objet technologique, l’IA mérite d’être questionnée et critiquée. Toutefois, de la meme manière que l’on doit se mefier des optimistes qui prompt une utopia entièrement automatisée, on peut aussi s’interroger sur les intentions des personnes qui nous affirment que l’apocalypse est pour demain. À la suite de la publication de la fameuse lettre ouverte, I’ve found other interesting texts. It is cosigned by Timnit Gebru, Emily M. Bender, Angelina McMillan-Major and Margaret Mitchell, des chercheuses spécialisées dans l’éthique en intelligence artificielle. Else should be noted for avoir écrit in a scientific article in 2021 sur les limits des grands models de langage (comme celui de ChatGPT) qui aurait provoqué le licenciement de deux d’entre elles, alors employées de Google. Ces quatre femmes ont répondu à la lettre ouverte de Future of Life, car leurs travaux y sont directement cités. Pourtant, elles sont très critiques de son content.
« Il est dangereux de nous distracte avec des fantasmes d’un futur prospere ou catastrophique à cause de l’IA. Ce genre de vocabulaire nous fait croire que ces logiciels sont capables de plus de choses qu’en réalité, et qu’ils seraient des êtres capables de sentiments et d’intelligence », affirment-elles. « Not seulement cela nous pousse à abandonner tout esprit critique vis-à-vis de systèmes comme ChatGPT, mais cela permet aussi de detourner l’attention sur qui est vraiment responsable de cette situation. Le problem ce ne sont pas les objects technologiques, c’est qui les constructs, et comment.»
L’intelligence artificielle n’a pas besoin d’un futur dystopique pour poser des problems déjà très concrete et actuels. Depuis des années, chercheurs, chercheuses, militants, militantes and other experts alertent sur the precarisation of the wages paid to the profit of the automation, l’exploitation of the travailleurs et des travailleuses du clicla disinformation qui vise d’abord les minoriséesread algorithms which are reproducible and renforcent les inégalitésle besoin de transparency face à des outils qui remplacent petit à petit des services publics, pourtant aux mains de sociétés privées.
Contrairement à d’other subjects à la mode, ces enjeux ont tardé à être mediatisés. Parce qu’ils sont moins faciles à comprendre qu’une reference flippante de science fiction. Parce que c’est plus viral de tweeter sur la fin du monde. Parce que ces menaces touchent en premier des persons dont les voix sont systématiquement ignorées. Parce que, surtout, les entrepreneurs des new technologies (j’emploie volontairement le masculin) profitent au final de ce système, et qu’ils n’ont pas intérêt à le démanteler. « Plutôt que de nous adapter à une société dominée par les machines, on devrait construct des machines qui fonctionnent pour tout le monde », concluent les chercheuses. « La course actuelle à l’IA n’est pas une fatalité, où notre seul choix serait de courir plus ou moins vite. C’est une somme de decisions où l’on peut choice quel est notre veritable but.» Il n’est pas urgent de craindre l’apocalypse. On peut d’abord se préoccuper de notre réalité.
Les données transmises par le biais de ce formulaire sont destinées à PressTiC Numerama, en sa quality de responsable de traitement. Ces données sont traitées avec votre consentement aux fins de vous envoyer par e-mail des actualités et informations relatives aux contenus éditoriaux publiés sur ce site. Vous pouvez vous opposer à tout moment à ces e-mails en cliquant sur les liens de désinscriptions presented dans chacun d’eux. Pour plus d’informations, vous pouvez consulter l’intégralité de notre politique de traitement de vos données personnelles.
Vous disposez d’un droit d’accès, de rectification, d’effacement, de limitation, de portability et d’opposition pour motif légitime aux données personnelles vous concernant. Pour exercer l’un de ces droits, merci d’effectuer votre demande via notre formulaire de demandes d’exercices de droits dédié.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous subscribing to Numerama on Google News.
