L’intelligence artificielle suscite autant d’intérêt que de méfiance. Peut-elle prendre une décision injuste ? Les informations qui lui sont confiées restent-elles confidentielles ? L’entreprise risque-t-elle de perdre la maîtrise de ses données ou de devenir dépendante d’un fournisseur ?
Ces interrogations sont légitimes. L’IA ne présente pas le même niveau de risque dans toutes les situations. Résumer un document public n’a pas les mêmes conséquences qu’analyser des dossiers de salariés, sélectionner des candidats ou accéder aux données financières de l’entreprise.
Quels sont les enjeux éthiques ?
Une IA peut reproduire les erreurs ou les biais présents dans ses données et proposer une réponse fausse qui paraît pourtant crédible. Son résultat doit donc rester une aide à la décision, sous le contrôle d’un collaborateur capable de le vérifier et de le remettre en question.
Que signifie la souveraineté ?
La souveraineté ne concerne pas uniquement le pays dans lequel se trouve un serveur. Elle concerne la capacité de l’entreprise à garder la maîtrise de ses informations et de ses choix technologiques. Une solution peut dépendre d’un fournisseur étranger, utiliser plusieurs sous-traitants ou traiter les données dans différents pays. Cette dépendance peut avoir des conséquences si les tarifs changent, si le service devient indisponible ou si l’entreprise souhaite récupérer ses données pour utiliser une autre solution.
La véritable question porte donc sur le niveau de contrôle conservé par l’entreprise : sait-elle où ses données sont traitées, quel droit s’applique, qui peut y accéder et comment elle pourra les récupérer ?
Que deviennent les données confiées à l’IA ?
La réponse dépend de la solution utilisée, du contrat souscrit et de ses réglages. Certains services peuvent conserver les demandes et les documents transmis. D’autres offres, notamment professionnelles, prévoient des garanties plus fortes concernant leur conservation et leur réutilisation. Il ne faut donc pas supposer que toutes les données envoyées à une IA servent automatiquement à entraîner le modèle. Il ne faut pas non plus supposer qu’elles restent nécessairement confidentielles. La CNIL recommande de vérifier les conditions du fournisseur et d’encadrer les informations qui peuvent être introduites dans l’outil.
Une donnée personnelle reste par ailleurs protégée par le RGPD, même lorsqu’elle est traitée par une intelligence artificielle. La législation européenne sur l’IA complète ce cadre avec des obligations qui varient selon le niveau de risque du système.
Existe-t-il un risque de fuite ?
Oui, ce risque existe. Il peut provenir du service utilisé, d’une attaque informatique, d’un mauvais paramétrage ou d’un collaborateur qui transmet une information sensible à un outil non autorisé.
Le danger augmente également lorsqu’une IA dispose d’un accès trop large à la messagerie, aux dossiers ou aux logiciels de l’entreprise. Une mauvaise instruction ou une attaque peut alors lui faire rechercher ou transmettre des informations auxquelles elle ne devrait pas accéder. L’ANSSI considère la fuite de données sensibles comme une menace à prendre en compte dans tout projet d’IA générative.
Ce risque n’est toutefois pas propre à l’IA. Il existe déjà avec le cloud, la messagerie ou les logiciels professionnels. L’IA l’amplifie parfois parce qu’elle facilite l’accès à un grand nombre d’informations et peut agir dans plusieurs outils.
Les autres craintes sont-elles fondées ?
L’IA peut créer une dépendance technologique, produire des erreurs, fragiliser la confidentialité ou entraîner une perte progressive de certaines compétences. Son utilisation sans règles communes peut aussi conduire les salariés à employer leurs propres outils, sans que l’entreprise sache quelles données leur sont confiées.
La crainte liée à l’emploi ne peut pas être écartée d’un revers de main. Certaines tâches vont disparaître ou être fortement réduites. D’autres vont évoluer et demander davantage de contrôle, d’analyse ou de relation humaine. Les conséquences dépendront surtout des usages choisis et de la manière dont les équipes seront associées à la transformation.
L’IA n’est donc ni sans danger ni impossible à maîtriser. Une utilisation limitée à un besoin concret, avec des données protégées et un contrôle humain réel, permet d’en mesurer les bénéfices et les risques avant d’aller plus loin.
La confiance ne consiste pas à croire aveuglément dans la technologie. Elle consiste à savoir comment elle fonctionne, ce qu’on lui confie et jusqu’où on l’autorise à agir.