Webinaire – Service d’appui juridique DataGrandEst et point d’actualité sur les textes européens

 Dans le cas de la petite structure agricole évoqué au cas d’usage n° 3 du webinaire (via la Chambre Régionale d’Agriculture), le questionnement lié aux données personnelles est-il lié au secret statistique (risque avec des données sur des faibles nombre) ?

Le cas d’usage n°3 présenté lors du webinaire (séquence 1), s’appuie sur une question où le demandeur s’inquiéte du fait qu’en recoupant des données cartographiques on puisse assez facilement accéder à des informations à caractère personnel d’une exploitation agricole. Le secret statistique n’entre pas ici directement en compte dans la quesiton initialement posée. Il faut souligner que dans le RGPD, la notion de données à caractère personnel est très large et inclue les données qui permettent de façon directe ou indirecte d’identifier et caractériser une personne.

 Avez-vous déjà eu des questions relatives au traitement des données à caractère personnel dans le cadre de missions d’intérêt public ?

A ce stade, le service est en cours de lancement. Seul un ou deux cas ont été identifiés et traités. Il n’y a pas eu de question directe sur le traitement de données à caractère personnel dans le cadre d’une mission d’intérêt public, cependant le service proposé est notamment là pour apporter un appui sur ce sujet si nécessaire.

 Pour une saisine interne à la Région, y-a-t-il une procédure spécifique ? Une centralisation des demandes est-elle prévue ou est-ce que la saisine peut être individuelle ?

Ce service concerne uniquement les questions juridiques relatives à la donnée. La démarche à la Région Grand Est est similaire à celle que doivent adopter la majorité des structures : consulter les ressources sur le site DataGrandEst puis prendre contact avec le DPO. A la Région, la DIMAP peut intervenir et prendre le relais pour soliciter le cabinet d’avocats Alérion via le formulaire en ligne. Ce formulaire est réservé aux référent technique DataGrandEst de la structure concernée. Dans tous les cas, il est aussi possible de s’adresser à l’équipe dataGrandest via "> s’il y a des quesitons. Elle fera le relais vers les bons interlocuteurs et pourra apporter un complément d’information sur la procédure à suivre.

 Dans quelle partie du Data act se trouvent ces dispositions?

Pouvez-vous préciser les dispositions auxquelles vous faites référence pour faciliter la réponse à votre question ?

 Concernant le risque de l’IA, est-ce que cela peut impliquer aux agents fonctionnaires de recevoir des préconisations des administrations centrales de pouvoir utiliser ou pas certains SIA ?

A ce stade, l’IA act s’impose à la France sans qu’il y ait à ce stade de véritable loi pour réguler l’IA. Il y a aujourd’hui un « gap » qu’il va falloir combler notamment grâce à des démarches d’acculturation, de sensibilisation, des guides et kits de bonnes pratiques autour de l’IA. Aujourd’hui, une offre se développe dans ce sens avec par exemple un Mooc du CNFPT sur le sujet.

 Dans quelle partie du DATA acte (numéros d’articles, chapitre du règlement) se trouvent les dispositions prévoyant la possibilité pour les collectivité de demander à des entreprises privées des données dont elle a besoin et qu’elle ne détient pas?

Ces informations seront transmises à l’issue du webinaire.

 Pour un marché de prestations informatiques de développement d’une application, est-ce qu’il ne faudrait pas ajouter des clauses indiquant que les prestataires sollicités qui recourt à l’IA doivent respecter les droits d’auteur ?

 Exemple concret : Sur le recours à de l’IA et des LLM intégré de plus en plus aux éditeurs de codes sources permettant d’aider à la rédaction de code source tel que Copilot ou autres Est-ce qu’il n’y a pas un risque de récupérer du code source écrit par d’autres auteurs qui ont des licences de réutilisations différentes (MIT, BSD, Apache, GPL, …) ?

Oui, il peut il y avoir un risque et c’est un élément important décrié par les détracteur de l’IA générative notamment autour du droit d’auteur. Des évolutions sont en cours pour mieux identifier les sources d’informations utilisées par les IA, mais à ce stade, en France, on manque de recul, notamment sur le volet juridique pour répondre à ces quesitons.

 Comment se fait-il il que le chatbot n’est pas considéré comme à risque alors qu’il y a des risques identifiés (suicide, chatbot devenu fasciste, enfermement idéologique, ..) ?

Ce choix est le résultat d’un concensus au niveau européen basé sur l’avis d’experts. Une des difficulté de jugement repose sur le caractère évolutif des IA. Elles peuvent à un moment être jugée sans risque, mais évoluer dans une direction imprévue. L’exemple du chatbot montre que l’on doit surveiller l’IA tout au long de son existence pour identifier des changements dans le risque qu’elle peut présenter. Ici aussi, la jurisprudence apportera sans doute des éclarage et clarifications dans les prochains mois et années.

  Est-ce qu’il n’y a pas un risque de ne plus arriver à connaitre la source d’origine des données traitées par l’IA ? Est-ce qu’il ne faudrait pas arriver à un certificat appliqué sur les données produites et mises à disposition même en open data ?

L’identification des sources et l’appauvrissement des contenus générés sont des réelles préoccupations actuellement. Il y a beaucoup de lobbing au niveau des entreprises sur ce sujet et les réponses éthiques et techniques ne sont pas toujours simples, notamment dans un contexte concurrentiel fort au niveau international. Les acteurs publics ont une obligation renforcée de transparence, notamment si elles utilisent de l’IA pour des raisons de transparence, mais il n’est pas toujours simple de le transposer au niveau des entreprises pour des questions notamment de modèle économique.

Pourquoi les autorités publiques ne sont pas considérés par défaut comme altruiste ? Pourquoi faut-il qu’elles se déclarent ?

En tant que structure publique, il peut paraître évident que le principe de l’altruisme soit l’appanage des administrations. Cependant, des avis divergents existent au niveau européen. Une valeur qui semble importante aujourd’hui c’est qu’un organisme altruiste ne peut proposer que des services à but non lucratif, or cela peut poser des difficultés économiques en matière de développement de nouveaux services basés notamment sur des données open data. Cela pourrait limiter le développement de certains projets.