Novo lab: O que não colar em uma ferramenta de IA

As ferramentas de chat com IA já fazem parte do trabalho diário de muita gente. Colar coisas nelas também. Este post apresenta um novo lab prático que permite treinar o julgamento sobre o que é seguro enviar a uma ferramenta de IA e o que fazer quando algo sensível já foi enviado.

O que o lab cobre

"O que não colar em uma ferramenta de IA" é um lab para iniciantes na categoria Security. Leva cerca de 20 minutos e roda no navegador, então não há nada para instalar.

Você revisa o que a equipe está prestes a enviar para um chat de IA. Seu papel é agir como a pessoa que detecta um problema antes que ele saia da empresa, sem atrapalhar o trabalho normal.

No lab você vai verificar textos a caminho de um chat de IA, sinalizar senhas, tokens e dados pessoais, deixar passar as linhas inofensivas e responder de forma adequada quando um segredo já foi enviado.

As tarefas

O lab é dividido em cinco tarefas:

1. Encontre os segredos. Identifique as senhas, tokens e itens semelhantes no texto.
2. Proteja as pessoas citadas. Identifique dados pessoais de pessoas reais que não devem ser compartilhados.
3. Reduza uma configuração, não jogue fora. Remova as partes sensíveis de uma configuração para que o restante ainda possa ser usado.
4. Deixe o texto seguro passar. Aprove textos limpos sem bloqueá-los sem motivo.
5. Lide com um vazamento. Responda de forma adequada quando um segredo já foi enviado.

Por que vale a pena praticar

Dois hábitos importam aqui, e eles puxam em direções opostas.

O primeiro é identificar o que nunca deveria sair do seu controle. Credenciais e dados pessoais são os casos óbvios. Eles passam facilmente despercebidos quando estão no meio de um log, de um script ou de um arquivo de configuração para o qual alguém quer ajuda.

O segundo é não exagerar na reação. Se todo pedido é bloqueado, as pessoas deixam de perguntar e arrumam gambiarras. Reduzir uma configuração para que a parte útil ainda possa ser compartilhada costuma ser melhor do que uma recusa seca. Por isso o lab inclui tarefas sobre reduzir configurações e sobre deixar passar o texto seguro, e não apenas sobre detectar problemas.

A última tarefa trata do caso que as pessoas costumam pular nos documentos de política: o segredo já foi embora. Saber a resposta certa é tão útil quanto saber como evitar o problema.

Para quem é

O lab é voltado para iniciantes. Serve para o pessoal de help desk, admins juniores e qualquer pessoa que escreva ou aplique uma regra de uso aceitável para ferramentas de IA. Também funciona como um exercício curto para fazer com a equipe antes de implantar uma política.

Próximo passo

Abra o lab, faça as cinco tarefas e anote quais tipos de conteúdo você demorou mais para identificar. Eles são bons candidatos a exemplos nas orientações da sua própria equipe.