L’IA dans les collectivités : quelle sécurité ?
Les collectivités locales et territoriales, comme tout organisme, se penchent sur l’utilisation de l’IA au sein de ses secteurs d’activités. Comme pour les autres acteurs, l’IA est porteuse de beaucoup d’espoirs, mais comporte aussi de nombreux risques. Dans le cas des collectivités françaises, un en particulier semble prévaloir, sans surprise, il s’agit de la sécurité des données.
En effet, les collectivités territoriales font l’objet de nombreuses cyber-attaques visent les données personnelles : on parle de données bancaires, de données de santé. La CNIL a enregistré une augmentation de 20% des attaques de données entre 2023 et 2024, et il est peu probable que ce nombre diminue avec le temps.
Et du coup quand on annexe de l’IA ?
Comme dans beaucoup de cas avec le développement des IAs (génératives), la sécurité des données utilisée passe au second plan. Le peu d’action de grande ampleur mis en place d’un point de vue gouvernemental laisse la porte ouverte à l’utilisation vagabonde des chatbots non-souverains.
Il y a à la fois de la donnée « gratuite » : celle qu’on donne quand on utilise l’IA générative. Mais il y a aussi la porte d’entrée qu’ouvre l’accès aux données dans lesquels cyber-attaqueurs pourront s’engouffrer. L’usage de l’IA accentuera l’insécurité des données.
En attendant des mesures plus rigoureuses et généralisées, la CNIL engage quand même certaines actions dans ce sens. Elle procédera à des contrôles pour évaluer les mesures mises en place par les collectivités territoriales afin de protéger les données des usagers et renforcera ses actions pour sensibiliser les collectivités à la cybersécurité. Il y a un vrai enjeu de formation et d’acculturation à l’IA qui doivent être organisées et prises en charge, et notamment des les lieux de contact de données sensibles que sont les collectivités.
Inscrivez-vous à notre newsletter DDET (Des Données et des Territoires), le média qui synthétise l’actualité du numérique et des données, produit par les praticiens de la transformation numérique.
