Quelques semaines après la découverte d’un bug ayant exposé les données de certains utilisateurs de ChatGPT, OpenAI lance un programme pour l’aider à trouver des vulnérabilités dans son chatbot.
« Le programme OpenAI Bug Bounty est un moyen pour nous de reconnaître et de récompenser les précieuses informations des chercheurs en sécurité qui contribuent à la sécurité de notre technologie et de notre entreprise. Nous vous invitons à signaler les vulnérabilités, les bugs ou failles de sécurité que vous découvrez dans nos systèmes », indique la société dans un article de blog.
Elle s’adresse aux chercheurs en sécurité, mais aussi aux hackers éthiques et aux passionnés de technologie pour l’aider. Elle s’engage à leur offrir des récompenses financières en fonction de la gravité et de l’impact des problèmes signalés afin d’« encourager les tests et en signe de reconnaissance ». Dans le détail, les personnes pourront gagner entre 200 dollars pour les « découvertes peu graves » et 20 000 dollars pour les « découvertes exceptionnelles ».
Des problèmes de sécurité non éligibles aux récompenses
Pour son programme, OpenAI s’est associée à Bugcrowd, une plateforme de primes aux bugs, afin de « gérer le processus de soumission et de récompense, qui est conçu pour garantir une expérience simplifiée pour tous les participants ». La page Bugcrowd du programme de la société détaille d’ailleurs un certain nombre de problèmes de sécurité liés à ses modèles d’intelligence artificielle (IA) qui ne sont pas éligibles aux récompenses. Cela inclut les prompts de jailbreak et les requêtes amenant un modèle à écrire du code malveillant ou à dire de mauvaises choses aux utilisateurs.
OpenAI déploie ce programme car elle pense que « la transparence et la collaboration » sont essentielles pour trouver les vulnérabilités dans sa technologie. « En partageant vos découvertes, vous jouerez un rôle crucial pour rendre notre technologie plus sûre pour tous », assure la société, indiquant qu’elle veut « créer des systèmes d’intelligence artificielle qui profitent à tous ».
Rédigé par Kesso Diallo, repris par la Fondation Tamkine
#Tamkine_ensemble_nous_reussirons
OpenAI déploie ce programme car elle pense que « la transparence et la collaboration » sont essentielles pour trouver les vulnérabilités dans sa technologie. « En partageant vos découvertes, vous jouerez un rôle crucial pour rendre notre technologie plus sûre pour tous », assure la société, indiquant qu’elle veut « créer des systèmes d’intelligence artificielle qui profitent à tous ».
Rédigé par Kesso Diallo, repris par la Fondation Tamkine
#Tamkine_ensemble_nous_reussirons