Comment savoir, pendant que l'agent agit, qu'il respecte réellement ce qui lui a été autorisé ? Cette question est loin d'être secondaire.
Elle constitue même l'une des principales limites des architectures actuelles. Dans de nombreux cas, le superviseur connaît la mission confiée à l'agent et constate le résultat obtenu.
En revanche, ce qui se passe entre ces deux moments demeure souvent peu visible. Les opérations s'enchaînent, les décisions se succèdent, les ressources sont mobilisées, mais leur déroulement reste difficile à comprendre autrement qu'à travers des journaux techniques, souvent conçus pour des spécialistes.
Or la gouvernance ne peut se satisfaire de cette situation. Entre le contrat d'exécution et le résultat produit, il ne doit jamais y avoir de zone d'ombre. C'est sur ce principe que repose le troisième pilier d'AI Light. Je propose pour cela un nouvel objet de gouvernance : le Rapport d'Activité Continu, ou RAC.
Le RAC ne constitue pas un simple journal d'événements techniques. Il accompagne l'agent tout au long de sa mission afin de rendre son activité intelligible pour son superviseur. Il ne cherche pas à enregistrer chaque opération informatique, mais à documenter les décisions, les actions significatives et les événements susceptibles d'avoir un impact sur la mission confiée.
Autrement dit, le RAC répond en permanence à quelques questions essentielles : que fait l'agent ? Pourquoi agit-il de cette manière ? Dans quel cadre exerce-t-il sa mission ? Quelles ressources mobilise-t-il ? Son comportement demeure-t-il conforme au contrat d'exécution qui lui a été confié ?
En revanche, ce qui se passe entre ces deux moments demeure souvent peu visible. Les opérations s'enchaînent, les décisions se succèdent, les ressources sont mobilisées, mais leur déroulement reste difficile à comprendre autrement qu'à travers des journaux techniques, souvent conçus pour des spécialistes.
Or la gouvernance ne peut se satisfaire de cette situation. Entre le contrat d'exécution et le résultat produit, il ne doit jamais y avoir de zone d'ombre. C'est sur ce principe que repose le troisième pilier d'AI Light. Je propose pour cela un nouvel objet de gouvernance : le Rapport d'Activité Continu, ou RAC.
Le RAC ne constitue pas un simple journal d'événements techniques. Il accompagne l'agent tout au long de sa mission afin de rendre son activité intelligible pour son superviseur. Il ne cherche pas à enregistrer chaque opération informatique, mais à documenter les décisions, les actions significatives et les événements susceptibles d'avoir un impact sur la mission confiée.
Autrement dit, le RAC répond en permanence à quelques questions essentielles : que fait l'agent ? Pourquoi agit-il de cette manière ? Dans quel cadre exerce-t-il sa mission ? Quelles ressources mobilise-t-il ? Son comportement demeure-t-il conforme au contrat d'exécution qui lui a été confié ?
Ces questions peuvent paraître simples.
Elles sont pourtant au cœur de toute démarche de gouvernance.
Un responsable n'a pas seulement besoin de connaître le résultat final d'une activité. Il doit pouvoir comprendre comment ce résultat a été obtenu, vérifier que les règles ont été respectées et intervenir rapidement lorsqu'une situation s'écarte du cadre prévu. Le RAC répond précisément à cette exigence.
Il transforme une activité souvent opaque en une activité observable. Il permet au superviseur de suivre la mission sans avoir à analyser des milliers de lignes de journaux techniques.
Il facilite la compréhension des décisions prises par l'agent, renforce la transparence de son fonctionnement et contribue à instaurer une relation de confiance fondée sur des informations vérifiables. Cette approche traduit une conviction simple.
La confiance ne repose pas uniquement sur les performances d'un agent d'intelligence artificielle. Elle repose aussi sur sa capacité à rendre compte de son activité de manière claire, compréhensible et exploitable par les personnes qui en assument la responsabilité.
Le Rapport d'Activité Continu devient ainsi le prolongement naturel du contrat d'exécution. Le contrat définit ce que l'agent est autorisé à faire.
Le RAC permet de vérifier, tout au long de la mission, qu'il agit effectivement dans ce cadre. Avec AI Light, l'objectif n'est donc pas seulement d'autoriser une autonomie maîtrisée.
Il est également de rendre cette autonomie observable, explicable et gouvernable pendant toute sa durée. On ne gouverne pas une autonomie que l'on ne peut pas observer.
La prochaine tribune présentera un autre pilier d'AI Light : la Tour de Contrôle des Agents.
Un responsable n'a pas seulement besoin de connaître le résultat final d'une activité. Il doit pouvoir comprendre comment ce résultat a été obtenu, vérifier que les règles ont été respectées et intervenir rapidement lorsqu'une situation s'écarte du cadre prévu. Le RAC répond précisément à cette exigence.
Il transforme une activité souvent opaque en une activité observable. Il permet au superviseur de suivre la mission sans avoir à analyser des milliers de lignes de journaux techniques.
Il facilite la compréhension des décisions prises par l'agent, renforce la transparence de son fonctionnement et contribue à instaurer une relation de confiance fondée sur des informations vérifiables. Cette approche traduit une conviction simple.
La confiance ne repose pas uniquement sur les performances d'un agent d'intelligence artificielle. Elle repose aussi sur sa capacité à rendre compte de son activité de manière claire, compréhensible et exploitable par les personnes qui en assument la responsabilité.
Le Rapport d'Activité Continu devient ainsi le prolongement naturel du contrat d'exécution. Le contrat définit ce que l'agent est autorisé à faire.
Le RAC permet de vérifier, tout au long de la mission, qu'il agit effectivement dans ce cadre. Avec AI Light, l'objectif n'est donc pas seulement d'autoriser une autonomie maîtrisée.
Il est également de rendre cette autonomie observable, explicable et gouvernable pendant toute sa durée. On ne gouverne pas une autonomie que l'on ne peut pas observer.
La prochaine tribune présentera un autre pilier d'AI Light : la Tour de Contrôle des Agents.