Les cinq premières tribunes de cette série ont progressivement posé les éléments d’une gouvernance opérationnelle des agents d’intelligence artificielle. Après avoir montré qu’un agent ne « s’échappe » pas et qu’il n’agit qu’à l’intérieur des possibilités offertes par les programmes informatiques, les autorisations, les ressources et les environnements techniques qui lui sont accessibles, j’ai ensuite proposé de définir, avant toute autonomie, un contrat d’exécution pour chaque agent d’intelligence artificielle. La réflexion s’est ensuite prolongée vers l’organisation d’une véritable tour de contrôle humaine. La cinquième tribune a posé une question essentielle : quel humain pour superviser les agents d’intelligence artificielle, avec quelles compétences, quelle information, quelle autorité et quel pouvoir réel d’intervention ? Cette sixième tribune élargit encore le périmètre d’AI Light : gouverner l’agent et organiser sa supervision humaine ne suffisent pas. Il faut également gouverner les infrastructures et les ressources physiques qui rendent son fonctionnement possible : l’électricité, l’eau, la chaleur et, plus largement, leur inscription dans les régions qui accueillent les data centers.

Mais une question supplémentaire apparaît. Peut-on prétendre gouverner un agent d’intelligence artificielle si l’on ne gouverne pas également les ressources physiques nécessaires à son fonctionnement ?

L’intelligence artificielle paraît souvent immatérielle. Nous dialoguons avec un logiciel depuis un ordinateur ou un téléphone et nous pouvons oublier que chaque requête mobilise une infrastructure bien réelle : processeurs, serveurs, réseaux, systèmes de refroidissement et data centers. Cette infrastructure consomme de l’électricité, peut mobiliser de l’eau et produit de la chaleur.
Cette réflexion n’est pas nouvelle dans mon parcours. Dans mon ouvrage « Wald Maâlam du numérique – L’Intelligence artificielle frugale. Chaleur des hammams, territoires et souveraineté », j’ai déjà défendu une approche territoriale des infrastructures numériques et des data centers au Maroc. J’y ai notamment pris l’exemple très concret des hammams : la chaleur produite par les infrastructures de calcul, au lieu d’être seulement dissipée, peut être considérée comme une ressource susceptible d’être valorisée localement. Derrière cet exemple se trouve une idée plus générale : penser l’infrastructure numérique avec la région qui l’accueille, ses ressources, ses besoins et ses contraintes.

Dans cette approche, le data center ne doit pas être pensé comme une infrastructure isolée de la région qui l’accueille. Il doit être conçu avec les ressources disponibles, les besoins locaux et les usages qui peuvent bénéficier de ses flux. L’exemple des hammams illustre cette logique de manière très concrète : une chaleur produite par le calcul et habituellement dissipée peut, lorsque les conditions techniques le permettent, retrouver une utilité locale. L’enjeu dépasse cependant la seule chaleur. Une intelligence artificielle réellement frugale conduit à regarder ensemble la puissance de calcul, l’électricité mobilisée, l’eau éventuellement nécessaire au refroidissement, la localisation des infrastructures et les bénéfices qu’elles peuvent apporter à la région. C’est cette articulation entre numérique, ressources et territoire qui prolonge aujourd’hui ma réflexion sur AI Light.

AI Light peut ainsi être étendu au-delà du seul comportement de l’agent. Jusqu’à présent, la tour de contrôle surveillait principalement ce que l’agent pouvait faire, dans quelles limites et sous quelle supervision humaine. Elle doit désormais intégrer également les conditions matérielles de son fonctionnement et rendre visibles les ressources qu’il mobilise.

Il faut donc imaginer deux niveaux de supervision complémentaires. Le premier concerne l’agent lui-même : quelles données peut-il utiliser ? Quelles opérations peut-il effectuer ? À quels systèmes peut-il accéder ? Avec quel niveau d’autonomie ? À partir de quel événement l’opérateur humain doit-il reprendre la main ? Le second concerne son empreinte physique : quelles ressources informatiques, électriques et hydriques mobilise-t-il ? Quelle chaleur son activité contribue-t-elle à produire ? Ces ressources sont-elles disponibles au moment où il les sollicite ? Les flux sortants peuvent-ils être valorisés ?

Le principe du feu tricolore d’AI Light peut alors être étendu aux infrastructures. Le vert signifie que l’agent fonctionne dans les limites numériques, énergétiques, hydriques et environnementales qui lui ont été attribuées. L’orange signifie qu’un seuil approche : consommation électrique élevée, tension sur la ressource en eau, capacité de refroidissement contrainte ou autre indicateur défini par l’organisation. La tour de contrôle alerte alors l’opérateur et peut proposer de réduire, différer ou déplacer certaines charges de calcul. Le rouge correspond au franchissement d’une limite préalablement définie. Certaines opérations peuvent alors être suspendues, reportées ou transférées, selon les règles établies et sous responsabilité humaine.

Cette extension est particulièrement importante pour le Maroc. Le développement de l’intelligence artificielle et des infrastructures numériques ne peut être dissocié des choix énergétiques, de la disponibilité de l’eau, de l’aménagement des régions et des besoins des populations et des entreprises. Construire un data center ne devrait donc plus être considéré comme la seule implantation d’une infrastructure informatique. Il faudrait l’inscrire dans un écosystème.

Avant l’implantation d’une grande infrastructure de calcul, plusieurs questions devraient être posées simultanément : d’où viendra l’électricité ? Quelle sera la consommation d’eau et quelle qualité d’eau est réellement nécessaire aux différents usages ? Peut-on mobiliser des eaux traitées lorsque cela est techniquement pertinent ? Que deviendra la chaleur produite ? Existe-t-il à proximité des bâtiments, activités industrielles, agricoles ou autres usages susceptibles de la valoriser ? Quel bénéfice économique et territorial restera dans la région qui accueille l’infrastructure ?

Nous passerions ainsi d’une logique dans laquelle le data center prélève des ressources et rejette des externalités à une logique dans laquelle ses différents flux sont intégrés à ceux du territoire. L’électricité, l’eau, la chaleur, la capacité informatique et les données deviennent alors les composantes d’un même système à gouverner.

Cela conduit aussi à reconsidérer la notion de performance de l’intelligence artificielle. Le meilleur système n’est pas nécessairement celui qui répond le plus rapidement ou qui mobilise le plus grand modèle. Dans certaines situations, quelques secondes ou quelques minutes supplémentaires peuvent être acceptables si elles permettent de déplacer une opération vers une période où l’électricité est davantage disponible, où la contrainte sur l’infrastructure est moindre ou où les ressources sont utilisées plus efficacement.

AI Light prend alors une dimension supplémentaire. Il ne s’agit plus seulement de demander : « Que peut faire cet agent ? » Il faut demander : « Que pouvons-nous raisonnablement lui permettre de faire, maintenant, compte tenu des ressources numériques, humaines, énergétiques, hydriques et territoriales disponibles ? »

Cette question ne signifie pas qu’un agent d’intelligence artificielle déciderait lui-même de la politique énergétique ou environnementale. Ce serait précisément l’inverse de l’approche que je défends. Les seuils, les priorités, les interdictions et les arbitrages doivent être définis par les organisations et, lorsque les enjeux le justifient, par les autorités publiques. L’IA peut mesurer, prévoir, signaler et proposer. La décision et la responsabilité doivent rester identifiables et humaines.

Gouverner l’intelligence artificielle revient donc aussi à gouverner les infrastructures qui la rendent possible. La tour de contrôle AI Light ne devrait pas s’arrêter à l’écran sur lequel nous observons les agents. Elle doit pouvoir regarder derrière cet écran : les serveurs, l’électricité, l’eau, la chaleur et le territoire qui les accueille.

À mesure que l’IA devient une infrastructure de nos sociétés, sa gouvernance doit elle aussi devenir systémique. Une intelligence artificielle responsable ne peut pas être uniquement un logiciel bien encadré. Elle doit s’inscrire dans un environnement dont les ressources, les limites et les interdépendances sont elles-mêmes visibles, mesurées et gouvernées.