IA na rotina corporativa: onde termina a eficiência e começam os riscos éticos?

Não se trata de forma alguma de proibir o uso desta ferramenta. O que garante maior segurança à empresa é estabelecer os limites de tomadas de decisões apenas com base em algoritmos, ou aceitar como verdade absoluta os dados produzidos pelas plataformas de IA.

Um tema recorrente tanto nas empresas quanto na academia é o de como utilizar a Inteligência Artificial (IA) para produzir mais, em menos tempo e com menor custo. A pergunta que fica é: Até que ponto podemos avançar em seu uso dentro de parâmetros éticos e seguros? E mais um ponto é: A IA vai substituir a mão de obra atual? Essas são apenas duas perguntas de mais uma polêmica que historicamente ocorre quando nos deparamos com o uso mais intensivo de uma nova tecnologia.

Um texto que levava dois ou três dias para ser elaborado, com a formatação bem-feita e com uma certa densidade em sua análise, passa a ser realizado em poucos minutos, de forma que, em algumas circunstâncias, a IA acaba assumindo um papel de copiloto do autor em seu ambiente de trabalho. E aí, já começa a confusão, pois fica a dúvida: De quem é o texto? Da IA ou do autor? E quão profunda é análise que foi gerada, a ponto de permitir tomadas de decisões que muitas vezes serão utilizadas para contratar ou demitir pessoas, avançar em algum projeto ou definir uma estratégia?

A bem da verdade, considero que, no ambiente acadêmico, o tratamento ético do uso da IA  já esteja relativamente bem delineado. Quando recorremos a algum de seus recursos, é possível reconhecer e mencionar esse uso, identificando a plataforma utilizada, o autor do prompt que orientou a ferramenta e a data em que o texto, a imagem ou o som foram gerados. Essa transparência, de forma alguma, diminui o mérito do autor. Afinal, o resultado obtido com o auxílio da IA não nasce apenas da tecnologia: por trás dele, há um repertório construído ao longo do tempo, alimentado por pesquisas, conhecimento acumulado e, sobretudo, pelo desenvolvimento do raciocínio crítico de quem formula as perguntas, avalia as respostas e dá sentido ao conteúdo produzido.

Também há muitas organizações que têm esse mesmo tratamento ético que orienta o uso do recurso de IA em seus trabalhos. E não há como negar que a produtividade é real, pois a IA pode organizar informações, comparar documentos, apoiar pesquisas, automatizar tarefas repetitivas e liberar tempo para atividades mais estratégicas. É nesse ponto que há um primeiro alerta que nos chama à reflexão – a visão estratégica de uma operação.

Para reduzir a incidência de eventuais problemas decorrentes do uso da IA, a presença do compliance é importante para identificar os limites associados à definição de onde termina a eficiência e começam os riscos éticos, jurídicos e reputacionais.

Vamos a alguns desses riscos, sempre lembrando que, por princípio, os colaboradores estarão imbuídos de boa vontade em apresentar o melhor trabalho com sua melhor produtividade. 

Um simples “copiar e colar” pode expor dados que a organização deveria manter sob sigilo. Por exemplo, um colaborador pode inserir um contrato em uma ferramenta pública para solicitar um resumo, compartilhar uma planilha para obter uma análise, ou apresentar informações sobre clientes para preparar uma proposta comercial. Fazer esse compartilhamento de dados com um sistema externo já configura uma quebra de sigilo e de confidencialidade, expondo o negócio a risco. Para que esse procedimento ocorra, é importante que haja uma avaliação prévia da empresa e a elaboração de uma consistente política de uso da IA, pois, numa plataforma externa, não há segurança sobre armazenamento, retenção, finalidade, acesso ou eventual transferência de informações. A utilização das ferramentas não homologadas pela companhia cria um fenômeno conhecido como Shadow IT. A intenção é boa, mas o resultado pode ser a exposição de dados que deveriam estar protegidos.

Nem sempre as respostas geradas pela IA são absolutamente verdadeiras. Embora os textos produzidos sejam bem estruturados, a depender do prompt e das fontes de pesquisa utilizadas dentro do comando dado, as respostas podem ser equivocadas, incompletas e em alguns casos, até inexistentes. 

O National Institute of Standards and Technology (NIST) utiliza o termo confabulation para descrever conteúdos falsos ou incorretos apresentados de maneira segura e convincente pelos sistemas generativos (NIST, 2024). 

Imaginemos que uma resposta equivocada incorpore uma informação comercial ou um parecer dado a um processo. Atribuir a explicação de que “foi a IA que produziu” nem indica a responsabilidade do erro à ferramenta, nem exime o autor da falha. Um erro certamente afetará um público ou uma organização com que a empresa esteja interagindo.

Esse cuidado se aplica a todas as esferas de atuação da empresa, como contratação e avaliação de pessoas e seu desempenho, acordos comerciais, questões jurídicas, cálculos para tomadas de decisões, análise de mercado e mais outras áreas de abrangência de cada negócio.

Em relação à proteção de dados, temos uma consolidada lei que garante os direitos do titular dos dados. A LGPD (Lei Geral de Proteção de Dados), em seu artigo 20, garante que o titular dos dados tem direito de solicitar a revisão de decisões tomadas apenas com base no tratamento automatizado de dados.

Vale mencionar que este artigo não tem por objetivo criticar o uso da IA ou negar sua existência. Muito pelo contrário, pois a visão da conformidade sobre o uso desta ferramenta pede, como para as demais atividades da organização, uma adequada governança de seu uso. O que vale dizer que não basta uma pessoa para supervisionar as informações recebidas pelas plataformas de IA. É importante e necessário que essa revisão seja realizada por pessoa realmente conhecedora do tema solicitado, de forma que possa corrigir eventuais informações equivocadas e, ainda, que as decisões geradas por essa fantástica ferramenta tragam os benefícios desejados para cada organização.

Não se trata de forma alguma de proibir o uso desta ferramenta. O que garante maior segurança à empresa é estabelecer os limites de tomadas de decisões apenas com base em algoritmos, ou aceitar como verdade absoluta os dados produzidos pelas plataformas de IA.

A proposta é de governar sem sufocar a inovação e, ao mesmo tempo, valorizar as pessoas que detêm esse conhecimento, beneficiando a todos os stakeholders ligados ao empreendimento.

Referências

BRASIL. Lei nº 13.709, de 14 de agosto de 2018: Lei Geral de Proteção de Dados Pessoais. Brasília, DF, 2018. Disponível em: Planalto — LGPD.

Artigo 20: O Direito de Contestar Decisões de Robôs | Compliance MSPA 

NIST — NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. Gaithersburg: NIST, 2024. Disponível em: NIST AI 600-1.

A coluna Papo de Compliance, da economista Selma Culturati Vasquez, é publicada semanalmente no BE News, nas edições de quarta-feira. Contato pelo e-mail: compliance@grupobrasilexport.com.br.