Sam Altman expressed that the preoccupations concerned the IA and particulier the potential of ChatGPT-4. Il met en garde contre les conséquences potentialement dangereuses de cette technology et souligne la nécessité d’une regulation adequate pour minimizer les risques.
Le PDG d’OpenAI, l’entreprise à l’origine de ChatGPT, mais also DALL-E, met en garde contre les dangers que pourrait represent the l’intelligence artificielle pour nos sociétés. Il souligne que les régulateurs doivent être impliqués dans la technologie pour se prémunir contre les conséquences potentialement negatives pour l’humanité.
Se prémunir contre les conséquences negatives de l’IA
L’artificial intelligence (IA) is significant in the train of the transformer notre monde de manière. Parmi les companies qui se demarquent dans ce domaine, OpenAI, directed by Sam Altman, est en première ligne. OpenAI is done with research and development of the IA, and a decision has been made on the next creation: the GPT-4 model.
A lire aussi : Comment les hackers using ChatGPT pour vider votre compte bancaire
Dans an interview accordée à ABC News, Altman met en avant le champ des possibles, offers par l’intelligence artificielle. Il n’hésite pas à dire qu’il pourrait s’agir de « la plus grande technology que l’humanité ait encore developed ». Mais il reste également conscient des dérives que cela pourrait entrainer :
« Nous devons être prudents ici. (…) Je pense que les gens devraient être heureux que nous ayons un peu peur de cela. (…) Je suis particulièrement inquiet que ces modèles puissent être utilisés pour la désinformation à grande échelle. (…) Maintenant qu’ils s’améliorent dans l’écriture de code informatique, (ils) to be used for offensive cyber attacks. »
Seulement quatre mois après sa sortie, ChatGPT est devenu l’application grand public avec la croissance la plus rapide de l’histoire. A croissance impressionant pour un outil en constante évolution. Au sujet du nouveau modèle GPT-4 launched la semaine dernière, Altman a déclaré que cette dernière version n’était “Pas parfaite”tout en soulignant sa capacité impressionnante à coder ou à réussir des examens en droit et en mathématique avec des scores élevés.
« Un outil sous le controlle des humains »
Le PDG d’OpenAI craint surtout que des Hommes mal intentionnés utilisent ce genre d’outil et qu’ils n’établissenent pas “certaines des limits de sécurité que nous imposons”. Il poursuit en précisant que ChatGPT-4 use a raisonnement deductif et non reposant sur la memorisation. A function that requires you to follow the bizarre responses, like the soul of Sam Altman:
« La chose sur laquelle j’essaie de mettre en garde les gens est ce que nous appelons le “problems of hallucinations”. Le modèle peut énoncer des choses avec confiance comme s’il s’agissait de faits, alors que tout aura été inventé. »
The advertisements that intervene in relation to Microsoft, which require a massive investment in OpenAI and integrate the ChatGPT model in Bing, should be done so that you are responsible for it. Les préoccupations de Altman font écho à un tweet d’Elon Musk datant du 1er December 2022. Dans ce dernier, le billionaire alertait sur le fait qu’ « il n’y a pas de surveillance réglementaire de l’IA, ce qui est un problem *majeur*. Je réclame une réglementation de la sécurité de l’IA depuis plus d’une décennie! »
ABC News
