Nuevo lab: Qué no pegar en una herramienta de IA

Las herramientas de chat con IA ya forman parte del trabajo diario de muchas personas. Pegar cosas en ellas también. Este post presenta un nuevo lab práctico que te permite practicar cómo juzgar qué es seguro enviar a una herramienta de IA, y qué hacer cuando algo sensible ya se ha enviado.

Qué cubre el lab

"Qué no pegar en una herramienta de IA" es un lab para principiantes de la categoría Security. Dura unos 20 minutos y se ejecuta en el navegador, así que no hay nada que instalar.

Revisas lo que el personal está a punto de enviar a un chat de IA. Tu trabajo es actuar como la persona que detecta un problema antes de que salga de la organización, sin entorpecer el trabajo normal.

En el lab revisarás texto que va destinado a un chat de IA, marcarás las contraseñas, los tokens y los datos personales, dejarás en paz las líneas inofensivas y responderás correctamente cuando un secreto ya se ha enviado.

Las tareas

El lab se divide en cinco tareas:

1. Encuentra los secretos. Identifica las contraseñas, los tokens y elementos similares en el texto.
2. Protege a las personas que aparecen. Detecta datos personales de personas reales que no deben compartirse.
3. Recorta una configuración, no la tires. Elimina las partes sensibles de una configuración para que el resto aún se pueda usar.
4. Deja pasar el texto seguro. Aprueba el texto limpio sin bloquearlo sin motivo.
5. Gestiona una fuga. Responde correctamente cuando un secreto ya ha salido.

Por qué merece la pena practicarlo

Aquí importan dos hábitos, y tiran en direcciones opuestas.

El primero es detectar lo que nunca debería salir de tu control. Las credenciales y los datos personales son los casos obvios. Es fácil pasarlos por alto cuando están en medio de un log, un script o un archivo de configuración con el que alguien quiere ayuda.

El segundo es no reaccionar de forma exagerada. Si se bloquea toda petición, la gente deja de preguntar y busca atajos. Recortar una configuración para poder compartir la parte útil suele ser mejor que una negativa rotunda. Por eso el lab incluye tareas sobre recortar y sobre dejar pasar el texto seguro, y no solo sobre detectar problemas.

La última tarea cubre el caso que la gente suele saltarse en los documentos de políticas: el secreto ya se ha ido. Saber cuál es la respuesta correcta es tan útil como saber cómo prevenirlo.

A quién le conviene

El lab está pensado para principiantes. Encaja con el personal de help desk, los administradores junior y cualquiera que redacte o haga cumplir una norma de uso aceptable de herramientas de IA. También funciona como un ejercicio corto para hacer con un equipo antes de implantar una política.

Siguiente paso

Abre el lab, completa las cinco tareas y anota qué tipos de contenido tardaste más en detectar. Son buenos candidatos para incluir como ejemplos en la guía de tu propio equipo.