Les IA commencent à participer au développement d’autres IA
Hinton fonde notamment son inquiétude sur l’accélération des capacités des modèles et leur participation croissante aux activités de recherche et de développement en intelligence artificielle.
Cette évolution nourrit le débat sur la « boucle d’amélioration » : plus les IA deviennent efficaces pour aider les chercheurs à construire de meilleurs modèles, plus le rythme de progression peut lui-même augmenter.
Cette évolution nourrit le débat sur la « boucle d’amélioration » : plus les IA deviennent efficaces pour aider les chercheurs à construire de meilleurs modèles, plus le rythme de progression peut lui-même augmenter.
Le Congrès américain reste profondément divisé
Plusieurs propositions circulent à Washington concernant les audits de sécurité, le contrôle des modèles avancés ou l’obligation de déclarer certains incidents.
Mais aucune architecture fédérale complète ne s’est encore imposée. Le débat oppose ainsi deux risques : réglementer trop tôt et freiner l’innovation américaine, ou réglementer trop tard lorsque les capacités auront déjà changé d’échelle.
Mais aucune architecture fédérale complète ne s’est encore imposée. Le débat oppose ainsi deux risques : réglementer trop tôt et freiner l’innovation américaine, ou réglementer trop tard lorsque les capacités auront déjà changé d’échelle.
