Fraude & Sécurité

Comment utiliser ChatGPT et les IA génératives dans son entreprise ?

Par
Romain Willmann
3/8/2023
3
min

Les intelligences artificielles génératives, comme ChatGPT, offrent des avantages considérables en termes de rapidité et de précision pour les entreprises. Cependant, il est essentiel de prendre des précautions pour garantir la sécurité des données et la qualité du contenu produit par ces outils. Cet article rappelle des principes généraux qui ont pour vocation à s’appliquer à ChatGPT et tous les outils proches et/ou dérivés, comme des extensions de navigateur, Copilot, Notion AI, Deepl).

Précautions à prendre avec ChatGPT et les IA génératives en entreprise

ChatGPT et les IA génératives sont conçues pour fournir des informations et des réponses à des questions de manière rapide et généralement précise. Toutefois, lorsque ces outils sont utilisés dans un environnement professionnel, il est important de prendre des précautions supplémentaires pour garantir par exemple que les données confidentielles de votre entreprise ne soient pas compromises ou que votre activité soit impactée par un contenu de mauvaise qualité produit par une IA.

Enjeux liés à l'entraînement des modèles d'IA générative

S’il existe de nombreux modèles d’IA, le principal enjeu posé par ceux utilisés par ChatGPT et consorts est bien souvent le même. Ces outils réutilisent les données fournies par les utilisateurs pour entraîner les modèles : tout ce qui entre dans l’outil est susceptible d’être réutilisé ultérieurement. Vos données peuvent ainsi être intégrées dans une future réponse ou partagées à des tiers en l’état.

La législation en vigueur concernant ChatGPT et les IA génératives : points clés à connaître

Il n’existe à date pas d’approche unifiée sur ChatGPT au sein de l’Union Européenne. Les régulateurs s’emparent des sujets de différentes manières :

Sans surprise, certaines entreprises ont néanmoins décidé, sur la base d’analyses de risques adaptées à leur contexte et à l’observation de dérives sur les usages, de restreindre l’accès à ChatGPT depuis leur environnement professionnel. Même si cette position peut paraître extrême, vous gagnerez à mettre en place les mesures décrites plus bas pour protéger votre activité.

Les six mesures pour protéger la confidentialité de vos données

Lorsque vous utilisez un outil d’IA générative, les six principes suivants doivent être mis en oeuvre pour minimiser les risques d’atteinte à la confidentialité des informations :

  • N’utilisez ChatGPT ou les autres outils uniquement qu’avec des données ou ressources qui ne sont pas sensibles, comme des données personnelles ou du code source. Si vous avez des doutes quant à la confidentialité d'une information, il est recommandé de demander l’avis d’un juriste ou tout simplement de ne pas l’utiliser.
  • Dans la mesure du possible, utilisez ChatGPT ou les autres outils depuis un environnement sécurisé : assurez-vous que l'ordinateur ou l'appareil que vous utilisez pour accéder à ChatGPT est connecté à un réseau sécurisé et est protégé par un logiciel antivirus.
  • Séparez les usages personnels et professionnels de ChatGPT en utilisant des identifiants différents (e.g. adresses mails professionnelles pour les usages professionnels). Les conversations sont en effet enregistrées et les historiques peuvent contenir des informations sensibles.
  • Limitez au maximum le partage des conversations ou des réponses issues de ChatGPT avec des tiers.
  • Vérifiez toujours l’authenticité des outils que vous utilisez, par exemple en vérifiant les URL des sites de téléchargement ou en passant par des stores officiels. Il existe en effet de nombreuses contrefaçons ou outils malveillants.
  • Vérifiez les réglages par défaut des outils et privilégiez les options qui minimisent le partage d’informations avec des tiers, comme la désactivation de la télémétrie, ou encore l'usage d’un adBlock sur les interfaces Web. Dans la mesure du possible, les comptes utilisés à des fins professionnelles doivent être supprimés lorsque leurs propriétaires quittent votre entreprise.

Intelligences artificielles, risques réels

Lors de l’usage de ChatGPT et des outils dérivés, les principes suivants doivent être mis en œuvre pour limiter les risques d’atteinte à l’intégrité des ressources de votre entreprise.

  • Le code et ressources produits par une IA générative doivent être testés avec les mêmes processus et outils que ceux utilisés pour évaluer la qualité des productions d’opérateurs humains. Si votre entreprise crée des logiciels, vous devrez par exemple procéder à des revues de code avec Snyk, des test dans un environnement dédié, etc…
  • Faites preuve de prudence et de diligence vis-à-vis des réponses de ChatGPT et considérez-les comme venant d’un tiers externe à votre organisation : évitez ainsi de cliquer sur des URL ou de suivre aveuglément une recommandation sans l’avoir testé.
  • Il est recommandé, dans la mesure du possible, d’identifier de manière claire les productions sur lesquelles une IA est intervenue, avec par exemple des commentaires dans un code ou une documentation pour en conserver un historique interne.

En conclusion, l'utilisation de ChatGPT et des IA génératives dans un environnement professionnel présente des avantages indéniables en termes de rapidité et d'efficacité. Cependant, il est crucial de prendre des mesures de précaution pour protéger la confidentialité des données de votre entreprise et assurer la qualité du contenu produit.

En suivant les recommandations et principes énoncés dans cet article, vous serez en mesure de tirer parti des outils d'IA tout en minimisant les risques potentiels. Restez également attentif aux évolutions législatives et réglementaires concernant ces technologies, afin d'adapter vos pratiques en conséquence et garantir la conformité de votre entreprise.

Inscrivez-vous

Bénéficiez de l'utilisation de Kolecto gratuitement pendant 1 an.

Démarrer gratuitement

Inscrivez-vous

Bénéficiez de l'utilisation de Kolecto gratuitement pendant 1 an.

Démarrer gratuitement
Inscrivez-vous

Inscrivez-vous

Bénéficiez de l'utilisation de Kolecto gratuitement pendant 1 an.

Démarrer gratuitement
Rédigé par
Romain Willmann
Security Manager de La Fabrique by CA au sein de Kolecto
Partagez cet article
Essayez Kolecto gratuitement
Découvrez la plateforme de gestion tout-en-un pour TPE/PME la plus simple du marché
Essayer gratuitement