Nouveau lab : Ce qu'il ne faut pas coller dans un outil d'IA

Les outils de chat IA font désormais partie du quotidien professionnel de nombreuses personnes. Y coller des contenus aussi. Ce post présente un nouveau lab pratique qui vous permet de vous entraîner à juger ce qu'il est sûr d'envoyer à un outil d'IA, et quoi faire lorsqu'une information sensible a déjà été transmise.

Ce que couvre le lab

« Ce qu'il ne faut pas coller dans un outil d'IA » est un lab pour débutants de la catégorie Security. Il dure environ 20 minutes et s'exécute dans le navigateur : il n'y a donc rien à installer.

Vous examinez ce que des collaborateurs s'apprêtent à envoyer à un chat IA. Votre rôle est d'agir comme la personne qui repère un problème avant qu'il ne sorte de l'entreprise, sans gêner le travail normal.

Dans le lab, vous allez vérifier des textes destinés à un chat IA, signaler les mots de passe, tokens et données personnelles, laisser tranquilles les lignes inoffensives, et réagir correctement lorsqu'un secret a déjà été envoyé.

Les tâches

Le lab est divisé en cinq tâches :

1. Trouver les secrets. Repérez les mots de passe, tokens et éléments similaires dans le texte.
2. Protéger les personnes concernées. Repérez les données personnelles sur de vraies personnes qui ne doivent pas être partagées.
3. Alléger une config, pas la jeter. Retirez les parties sensibles d'une configuration afin que le reste reste exploitable.
4. Laisser passer le texte sans risque. Validez un texte sain sans le bloquer inutilement.
5. Gérer une fuite. Réagissez correctement lorsqu'un secret est déjà parti.

Pourquoi cela vaut la peine de s'entraîner

Deux réflexes comptent ici, et ils tirent dans des directions opposées.

Le premier consiste à repérer ce qui ne devrait jamais échapper à votre contrôle. Les identifiants et les données personnelles sont les cas évidents. Ils sont faciles à manquer lorsqu'ils se trouvent au milieu d'un log, d'un script ou d'un fichier de configuration pour lequel quelqu'un demande de l'aide.

Le second est de ne pas réagir de manière excessive. Si chaque demande est bloquée, les gens arrêtent de demander et trouvent des contournements. Alléger une config pour que la partie utile puisse encore être partagée vaut souvent mieux qu'un refus catégorique. C'est pourquoi le lab comprend des tâches sur l'allègement et sur le fait de laisser passer le texte sans risque, et pas seulement sur la détection des problèmes.

La dernière tâche couvre le cas que les gens ont tendance à oublier dans les documents de politique : le secret est déjà parti. Connaître la bonne réaction est aussi utile que savoir la prévenir.

À qui s'adresse-t-il

Le lab s'adresse aux débutants. Il convient au personnel du help desk, aux admins juniors, et à toute personne qui rédige ou fait appliquer une règle d'utilisation acceptable pour les outils d'IA. Il fonctionne aussi comme un court exercice à faire avec une équipe avant de déployer une politique.

Prochaine étape

Ouvrez le lab, réalisez les cinq tâches, et notez quels types de contenu vous avez été les plus lents à repérer. Ce sont de bons candidats pour des exemples dans les consignes de votre propre équipe.