The creator of ChatGPT is ready to pay just 20,000 dollars – soit 18,300 euros – if you find bugs in your artificial intelligence chatbot.
Is it you met in the peau d’un chasseur de bug de ChatGPT ? The advertisement d’OpenAI, the société américaine à l’origin du chat conversationnel le plus popular du moment, pourrait vous intéresser. « Pour creater des technologies et des services sûrs, fiables et dignes de confiance, nous avons besoin de vous », écrit l’entreprise dans a billet de blog en date du mardi 11 avril. L’entreprise vient de lancer un program visant à rémunérer les persons qui trouveront des bugs dans ses systèmes d’intelligence artificielle. Apple le « Bug Bounty Program », l’initiative promet de payer à chaque découverte de « vulnerability, de bugs or les failles de sécurité » une récompense plus ou moins importante en fonction de la taille et de l’importance de l’erreur identifiée. Vous pourrez toucher de 200 dollars pour les discovers de faible gravité to 20 000 dollars pour les discoveres exceptionnelles. OpenAI a specific avoir travaillé avec Bugcrowd, a platform de sécurité participative qui met en relation les chercheurs en cybersécurité et les companies, pour mettre en place ce programme.
No lancez pas dans a list of hallucinations from ChatGPT. OpenAI precise bien que « les questions liees au content of the prompt (des commandes) and les réponses du modèle sont strictement hors champ et ne seront pas récompensées ». Les nouvelles soumissions are not rejetées or acceptées in les deux heures. Ce mercredi 12 April, 14 vulnérabilités ont déjà été récompensées, avec en moyenne 1 287.50 dollars touchés par soumission accepted. Le mois dernier, Greg Brockman, president et cofondateur d’OpenAI, avait déjà fait allusion au lancement de ce type de program dans un tweet.
Democratized red teaming is one reason we deploy these models. Anticipating that over time the stakes will go up a *lot* over time, and having models that are robust to great adversarial pressure will be critical. Also considering starting a bounty program/network of red-teamers!
— Greg Brockman (@gdb) March 16, 2023
Il n’est pas rare que les companies de la tech met in place ce type de chasse aux bugs, accessible to all les hackers et chercheurs independent, avec des récompenses à la clé. Ces programs permettent aux entreprises de la tech d’améliorer la sécurité de leurs services en continu et de découvrir des failles jusqu’alors inconnues des équipesinternes charged de la cybersécurité.
Une réponse à un bug et l’inquiétude quant à la sécurité de ce type d’IA ?
L’announcement intervient plusieurs semaines après un dysfonctionnement de l’agent conversationnel. Fin mars, on apprenait que ChatGPT avait révélé des données sensitives de certains utilisateurs, comme leurs noms, leurs adresses et les derniers chiffres du numéro de carte de credit. OpenAI avait confirmed in a communiqué l’existence d’une failure tout en minimisant les consequences de l’anomalie. Elle aurait été une conséquence d’un dysfonctionnement de la bibliothèque open source de Redis, provoqué par un changement de serveur. Ce system de management de base de données est utilisé pour mettre en cache les données des usagers.
À lire also : ChatGPT : OpenAI confirme avoir rencontré un « important problem »
Cette initiative s’inscrit also dans une tentative de réponse à l’inquiétude générale que suscite ChatGPT et ce type d’outil d’IA. Le President Americain Joe Biden avait rappelé mardi 4 avril que les fabricants d’IA devaient « s’assurer que ses produits soient sûrs avant de les rendre publics », et que l’IA pourrait être dangereuse. Le Washington Post Month also, le 8 avril dernier, que les companies developing des outils d’IA s’étaient lancées dans a véritable operation de charme, visant les hommes et femmes politiques clés du pays. Parmi les messages qu’elles souhaitent faire passer: Leurs efforts pour developer l’intelligence artificielle de manière responsable et éthique… mais also sure et transparente. Les hackers et chercheurs devraient déjà s’atteler à discover les failles de l’agent conversationnel… et les soumissions devraient se multiplier.
Billet de Blog d’OpenAI
