COLLECTIVITÉS ET INSTITUTIONS : LE PROBLÈME
L’IA entre dans les services publics. Mais l’institution peut-elle démontrer où elle agit, sur quelles données et sous quelle responsabilité ?
Agents, directions et prestataires utilisent déjà des outils génératifs ou des logiciels intégrant de l’IA pour rédiger, analyser, orienter, répondre ou prioriser. Ces usages peuvent améliorer le service rendu. Mais lorsqu’ils restent invisibles, ils fragilisent la protection des données, la continuité des missions, l’égalité de traitement et la confiance dans l’institution.
⚠
Le risque n’est pas seulement numérique.
Il engage la responsabilité publique.
Notes administratives, réponses aux usagers, analyse de dossiers, allocation de ressources, sécurité, urbanisme, action sociale ou communication : dès que l’IA intervient, l’institution doit pouvoir expliquer son rôle, ses limites et les contrôles humains exercés.
LES ANGLES MORTS DES ORGANISATIONS PUBLIQUES
Le problème n’est plus de savoir si l’IA est utilisée. Le problème est de savoir dans quels services, avec quelles données, pour quelles décisions, sous quel contrôle et avec quelles preuves.
◎
USAGES IA NON RECENSÉS
Des agents ou prestataires peuvent utiliser des outils IA hors inventaire, sans validation, règle commune ni information de la hiérarchie.
🔒
DONNÉES SENSIBLES EXPOSÉES
Données d’usagers, d’agents, de bénéficiaires, dossiers sociaux, informations territoriales ou documents internes peuvent être transmis à des services mal cadrés.
⚖
DÉCISIONS ADMINISTRATIVES OPAQUES
Une note, une analyse, un classement ou une réponse peut être influencé par l’IA sans que sa contribution, ses limites ou la validation humaine soient traçables.
⛓
PRESTATAIRES MAL CADRÉS
Un logiciel métier peut intégrer de l’IA sans exigences suffisantes sur les données, les journaux, la réversibilité, les sous-traitants ou l’évolution du modèle.
⇄
RESPONSABILITÉS FRAGMENTÉES
Élus, direction générale, DSI, DPO, directions métiers, acheteurs et fournisseurs peuvent se renvoyer la responsabilité lorsqu’aucune gouvernance n’est formalisée.
☷
PREUVES INSUFFISANTES
L’institution peut affirmer qu’elle encadre l’IA sans disposer des inventaires, validations, contrôles, incidents, arbitrages et documents permettant de le démontrer.
QUI EST CONCERNÉ ?
- Communes, intercommunalités, départements et régions
- Administrations centrales et services déconcentrés
- Établissements publics, agences et opérateurs
- CCAS, CIAS, syndicats mixtes et structures territoriales
- Directions générales, DSI, DPO et directions métiers
- Élus, cadres dirigeants et responsables de la commande publique
LE POINT DE TENSION
Pouvez-vous expliquer, aujourd’hui, quels services utilisent l’IA, avec quelles données, quels contrôles et quelles preuves ?
La question est institutionnelle. Une organisation publique doit pouvoir identifier les usages, encadrer les prestataires, préserver les droits des personnes, attribuer les responsabilités et reconstituer les décisions lorsqu’un contrôle, un incident ou une contestation survient.
Une IA utile mais non gouvernée devient un risque pour le service public.
LES CONSÉQUENCES POSSIBLES
Sans gouvernance démontrable, un outil présenté comme un gain d’efficacité peut devenir une fragilité opérationnelle, juridique, budgétaire et réputationnelle.
SERVICE PUBLIC
Des réponses incohérentes, des erreurs ou des biais peuvent affecter la qualité, la continuité ou l’égalité de traitement des usagers.
DONNÉES ET DROITS
Des données personnelles ou sensibles peuvent être utilisées sans information, base documentaire, contrôle ou protection suffisante.
BUDGET ET DÉPENDANCE
Une dépendance fournisseur, une évolution de service ou une absence de réversibilité peut imposer des coûts et fragiliser la continuité.
CONFIANCE PUBLIQUE
Usagers, agents, élus, partenaires et autorités de contrôle peuvent perdre confiance si l’institution ne peut pas expliquer ses usages IA.
La première étape n’est pas d’ajouter une charte IA de plus.
C’est de mesurer les usages réels, les responsabilités et les preuves disponibles.
Le Svar-IA Risk Scan donne à la collectivité ou à l’institution une première lecture de son exposition : Rouge, Orange ou Vert.