Deixa-me contar-te uma coisa rápida.
Nos anos 60, um japonês de seu nome Shigeo Shingo percebeu algo óbvio que ninguém queria aceitar: as pessoas erram. Sempre. E não adianta formar mais, motivar mais ou mandar vir, porque o erro vai acontecer.
Então ele criou o Poka-Yoke, que significa "à prova de erro" (mas originalmente era "à prova de idiotas").
A ideia fundamental é brutal na sua simplicidade: não confies nas pessoas para não errar. Constrói o sistema para que o erro seja impossível.
Exemplos?
- O micro-ondas não funciona com a porta aberta.
- O cartão multibanco sai antes do dinheiro.
- O USB-C entra de qualquer lado.
Há designs de que não nos apercebemos, mas que têm sentido.
Agora pensa nisto no contexto da IA.
A maioria está a usar IA de forma solta, sem limites, sem validação e sem controlo. E depois ficam surpreendidos quando:
- inventa coisas
- erra com confiança
- faz asneira em escala
Mas isto já era normal com pessoas, e as máquinas estão a aprender com as pessoas. A IA erra. Só que esse erro escala muito mais rápido, e isso pode fazer com que o impacto seja maior.
Por isso, aplica Poka-Yoke. Na prática, coisas simples:
- Não deixar a IA responder sem fontes.
- Não deixar executar ações sem aprovação.
- Não aceitar qualquer input.
- Validar o output antes de usar.
