Shadow AI: entre o risco invisível e a inovação

A inteligência artificial (IA) já entrou nas empresas brasileiras. Em muitos casos, sem que os próprios gestores percebessem. Enquanto departamentos de TI e diretorias discutem quais ferramentas adotar, colaboradores já utilizam sistemas de IA por conta própria para resumir documentos, analisar contratos, produzir textos, organizar informações e aumentar a produtividade.

O problema é que essa utilização muitas vezes acontece sem qualquer supervisão. É justamente aí que surge um fenômeno que começa a ganhar atenção no mundo corporativo: o Shadow AI. v=WNdhIPrP9K8 Na prática, o uso de ferramentas de IA pelos colaboradores pode até parecer inofensivo.

Afinal, a tecnologia pode tornar tarefas mais rápidas e aumentar significativamente a produtividade. O risco surge quando, nesse processo, informações sensíveis da empresa ou de seus clientes são inseridas nessas plataformas sem o devido cuidado: contratos confidenciais, dados pessoais, relatórios financeiros, estratégias comerciais, entre outros. O problema, portanto, não está no uso da tecnologia em si, mas na ausência de controle sobre como ela é utilizada.

A adoção espontânea da tecnologia demonstra justamente o seu potencial. A questão é que a velocidade dessa adoção pode ser maior do que a capacidade da própria empresa de estabelecer regras para sua utilização. E aqui entram as implicações jurídicas.

O uso inadequado da IA pode esbarrar na Lei Geral de Proteção de Dados, em violações de deveres de confidencialidade, de propriedade intelectual e de obrigações contratuais em geral. 200 funcionários em diferentes países apontou que 52% das organizações relatam uso de inteligência artificial não aprovado. A solução?

Partindo da premissa de que ela já faz parte do mundo corporativo e pode gerar enormes ganhos de eficiência, proibir sua utilização seria remar contra a maré. O caminho mais adequado é criar uma estrutura de governança, por meio de diretrizes claras para que a tecnologia seja manejada de forma segura e responsável. Isso significa definir, por exemplo, quais ferramentas podem ser utilizadas, quais informações não devem ser inseridas, em quais situações é necessária a supervisão humana e quem será o responsável por acompanhar esse processo.

O Shadow AI traz, portanto, um novo desafio para as empresas: a governança da inteligência artificial não pode começar apenas quando a direção decide contratar uma ferramenta. Ela precisa considerar também aquilo que os próprios colaboradores já estão utilizando. Trata-se de estabelecer um equilíbrio entre inovação e controle, sem transformar a tecnologia em um problema antes mesmo de explorar o seu potencial.

Mas a experiência mostra que políticas internas, por si só, não são suficientes. De nada adianta criar um documento estabelecendo o que pode e o que não pode ser feito se, na prática, os colaboradores não compreenderem a importância dessas regras ou se a própria cultura da empresa não acompanhar a transformação tecnológica. A governança precisa sair do papel e fazer parte da rotina.

Isso exige orientação, treinamento, responsabilidade e, sobretudo, uma cultura corporativa suficientemente arrojada para incorporar novas tecnologias sem abrir mão da segurança. Se a IA já é uma realidade, quanto tempo uma empresa pode se dar ao luxo de adiar essa discussão? Stéfano Ribeiro Ferri - Advogado, sócio fundador do escritório Stéfano Ferri Advogados.

É Relator da 6ª Turma do Tribunal de Ética e Disciplina da OAB/SP e membro da Comissão de Direito Civil da OAB Campinas. Graduado pela FAAP. O post Shadow AI: entre o risco invisível e a inovação apareceu primeiro em Revista Oeste .

]]>