Sua empresa usa Inteligência Artificial. Mas quem responde pelos erros dela?

A Inteligência Artificial já entrou nas empresas. A governança nem sempre acompanhou

A Inteligência Artificial deixou de ser uma tecnologia experimental.

Hoje, ferramentas de IA são utilizadas diariamente para elaborar documentos, analisar contratos, atender clientes, produzir campanhas, desenvolver softwares, organizar informações, selecionar candidatos, analisar dados e auxiliar decisões empresariais.

Em muitas organizações, essa transformação aconteceu de maneira extremamente rápida.

Um departamento contratou uma ferramenta. Outro começou a utilizar uma plataforma gratuita. Funcionários passaram a inserir documentos em sistemas de IA. Informações de clientes começaram a ser analisadas por algoritmos.

A tecnologia entrou na rotina antes que a empresa estabelecesse regras claras para sua utilização.

É justamente nesse ponto que surge um dos principais riscos empresariais relacionados à Inteligência Artificial.

Quando a IA comete um erro, a responsabilidade não desaparece simplesmente porque determinada decisão foi auxiliada por uma máquina.

Para empresários e administradores, portanto, a discussão mais importante não é apenas quais ferramentas de IA utilizar.

É necessário definir como utilizá-las com segurança.

A IA pode errar. E o prejuízo pode ficar com a empresa

Sistemas de Inteligência Artificial podem produzir informações incorretas, interpretar dados inadequadamente ou apresentar respostas aparentemente convincentes sem fundamento suficiente.

Em uma utilização pessoal, isso pode representar apenas um inconveniente.

Dentro de uma empresa, o mesmo erro pode produzir consequências muito maiores.

Imagine uma ferramenta utilizada para elaborar uma proposta comercial que apresenta informações incorretas ao cliente.

Ou um sistema utilizado na análise de contratos que deixa de identificar uma obrigação relevante.

Ou ainda uma ferramenta que utiliza informações confidenciais inseridas por um colaborador sem autorização.

Dependendo da situação, as consequências podem envolver:

• prejuízos financeiros;
• conflitos contratuais;
• exposição de informações confidenciais;
• violações relacionadas à proteção de dados;
• problemas de propriedade intelectual;
• responsabilização perante clientes e terceiros;
• danos reputacionais.

Por isso, empresas não deveriam tratar a Inteligência Artificial apenas como uma ferramenta de produtividade.

Ela também precisa ser tratada como uma nova fonte de risco empresarial.

A primeira pergunta é: quem pode usar IA dentro da empresa?

Em muitas organizações, essa pergunta ainda não possui resposta.

Funcionários utilizam diferentes ferramentas de IA sem qualquer política corporativa específica.

O problema não está necessariamente no uso dessas tecnologias.

Está na ausência de critérios.

Uma política interna de utilização de Inteligência Artificial pode estabelecer, por exemplo:

• quais ferramentas são autorizadas;
• quais informações podem ser inseridas;
• quais dados não podem ser compartilhados;
• quando uma resposta precisa de revisão humana;
• quais atividades não podem ser automatizadas;
• como incidentes devem ser comunicados;
• quem é responsável pela supervisão das ferramentas.

Essas regras reduzem o risco de cada funcionário estabelecer seu próprio padrão de utilização.

A governança começa justamente pela transformação de uma prática informal em um processo empresarial controlado.

Dados empresariais não podem ser tratados como simples prompts

Outro ponto sensível está nas informações inseridas nas ferramentas.

Durante a rotina profissional, colaboradores podem utilizar IA para resumir documentos, revisar contratos, analisar planilhas ou elaborar comunicações.

Nesse processo, informações estratégicas podem ser inseridas em plataformas externas.

Isso pode envolver:

• dados pessoais de clientes;
• informações financeiras;
• contratos;
• estratégias comerciais;
• dados de funcionários;
• documentos internos;
• informações protegidas por confidencialidade;
• segredos comerciais.

A empresa precisa saber quais ferramentas estão sendo utilizadas e quais condições contratuais regulam o tratamento dessas informações.

Esse cuidado se torna ainda mais importante quando existem dados pessoais envolvidos, pois o tratamento precisa ser compatível com as obrigações aplicáveis à proteção de dados.

A facilidade de copiar um documento inteiro para uma ferramenta de IA não significa que juridicamente seja adequado fazê-lo.

IA e LGPD precisam ser analisadas em conjunto

Quando sistemas de Inteligência Artificial processam dados pessoais, a discussão passa diretamente pela Lei Geral de Proteção de Dados.

Dependendo da aplicação, podem surgir questões relacionadas à finalidade do tratamento, segurança das informações, compartilhamento com terceiros, retenção de dados e decisões automatizadas.

Para empresas que utilizam IA em processos envolvendo consumidores, funcionários ou parceiros comerciais, a integração entre governança de Inteligência Artificial e governança de dados passa a ser fundamental.

Não basta possuir uma política de privacidade bem estruturada se, na prática, colaboradores alimentam ferramentas externas com informações que deveriam permanecer dentro do ambiente corporativo.

Compliance precisa refletir aquilo que realmente acontece na operação.

E quando a IA participa de uma decisão?

A situação se torna ainda mais sensível quando a tecnologia deixa de apenas produzir conteúdo e passa a influenciar decisões.

Isso pode acontecer em diferentes áreas.

Recursos humanos podem utilizar ferramentas para auxiliar processos seletivos.

Instituições financeiras podem utilizar algoritmos em análises de risco.

Departamentos comerciais podem utilizar sistemas para classificar clientes.

Empresas podem automatizar determinadas avaliações internas.

Quanto maior o impacto da decisão, maior deve ser o nível de governança.

Decisões relevantes não deveriam ser tomadas por sistemas cuja lógica, origem dos dados ou critérios de funcionamento a própria empresa desconhece.

É por isso que a supervisão humana permanece essencial.

A IA pode auxiliar uma decisão.

Isso não significa que a responsabilidade empresarial possa ser integralmente transferida à tecnologia.

Registrar decisões também passa a ser importante

Governança não significa apenas criar regras.

Significa também conseguir demonstrar que essas regras foram cumpridas.

Dependendo do nível de risco da aplicação, empresas podem precisar estabelecer mecanismos de registro capazes de identificar:

• qual ferramenta foi utilizada;
• para qual finalidade;
• quais informações foram fornecidas;
• qual resultado foi produzido;
• quem revisou o resultado;
• qual decisão foi tomada posteriormente.

Esse histórico pode ser importante em auditorias, investigações internas, conflitos contratuais ou questionamentos regulatórios.

Quanto mais relevante for a decisão auxiliada por Inteligência Artificial, maior deve ser a capacidade da empresa de explicar como ela ocorreu.

Existe também um risco de propriedade intelectual

A produção de textos, imagens, códigos, apresentações e outros conteúdos por Inteligência Artificial abriu uma nova frente de discussão para empresas.

Quem possui os direitos sobre aquilo que foi produzido?

O conteúdo gerado pode reproduzir elementos protegidos de terceiros?

É possível utilizar comercialmente determinado material?

O contrato da plataforma permite aquela utilização?

Essas perguntas precisam fazer parte da análise empresarial.

O simples fato de uma ferramenta produzir determinado conteúdo não garante automaticamente que sua utilização comercial esteja livre de riscos.

Para empresas que utilizam IA em publicidade, desenvolvimento de software, design, produção audiovisual ou criação de produtos, a propriedade intelectual precisa integrar a política de governança tecnológica.

O contrato com o fornecedor de IA merece atenção

Grande parte das empresas utiliza soluções desenvolvidas por terceiros.

Nesse cenário, o contrato com o fornecedor passa a desempenhar papel estratégico.

Antes da contratação, é importante compreender questões como:

• responsabilidade por falhas;
• tratamento e armazenamento de dados;
• confidencialidade;
• utilização das informações para treinamento de modelos;
• propriedade intelectual;
• disponibilidade do serviço;
• segurança da informação;
• subcontratação de terceiros;
• limitações de responsabilidade;
• procedimentos em caso de incidentes.

Aceitar automaticamente termos de uso pode ser suficiente para um usuário individual.

Para uma empresa que pretende incorporar determinada tecnologia a processos relevantes, a análise precisa ser mais cuidadosa.

Quanto maior a dependência operacional da ferramenta, maior deve ser a atenção ao contrato.

A empresa precisa conhecer sua própria exposição

Antes de criar dezenas de regras, existe uma medida mais importante: descobrir como a IA já está sendo utilizada.

Muitas empresas provavelmente se surpreenderiam com o resultado.

Um diagnóstico interno pode identificar quais departamentos utilizam Inteligência Artificial, quais plataformas foram contratadas, quais ferramentas gratuitas são utilizadas informalmente e quais dados estão sendo compartilhados.

A partir desse levantamento, é possível classificar aplicações conforme o risco.

Uma ferramenta utilizada para organizar ideias não possui necessariamente o mesmo nível de risco de um sistema utilizado para tomar decisões sobre clientes.

Governança eficiente não significa proibir indiscriminadamente.

Significa aplicar controles proporcionais ao risco.

Proibir IA também pode ser uma decisão ruim

Diante dos riscos, algumas empresas podem considerar simplesmente impedir a utilização dessas ferramentas.

Essa estratégia também precisa ser avaliada com cautela.

A Inteligência Artificial pode produzir ganhos relevantes de eficiência, produtividade e competitividade.

Além disso, uma proibição absoluta pode incentivar o uso informal e não supervisionado, criando exatamente o problema que a empresa pretendia evitar.

O desafio empresarial, portanto, não é escolher entre “usar” ou “não usar” Inteligência Artificial.

A questão é estabelecer como usar, para quais finalidades, com quais ferramentas e sob quais controles.

Um programa de governança de IA não precisa começar complexo

Empresas não precisam esperar uma estrutura sofisticada para iniciar sua organização.

Algumas medidas podem representar um primeiro passo:

1. mapear as ferramentas de IA utilizadas;
2. identificar quais áreas e colaboradores possuem acesso;
3. classificar as aplicações conforme o risco;
4. estabelecer ferramentas autorizadas;
5. definir quais informações não podem ser inseridas;
6. criar regras de supervisão humana;
7. revisar contratos com fornecedores;
8. integrar IA, proteção de dados e segurança da informação;
9. estabelecer procedimentos para incidentes;
10. treinar colaboradores.

O importante é retirar a Inteligência Artificial da informalidade.

Quando uma tecnologia passa a fazer parte da operação empresarial, sua governança também precisa fazer parte da empresa.

O risco não está na tecnologia. Está na ausência de controle

A Inteligência Artificial continuará avançando e ocupando espaço dentro das organizações.

A tendência é que ferramentas atualmente utilizadas apenas como apoio passem a participar de processos cada vez mais relevantes.

Nesse ambiente, empresas que estruturarem sua governança antecipadamente estarão em posição mais segura para aproveitar os benefícios da tecnologia.

A discussão deixa de ser exclusivamente tecnológica e passa a integrar temas tradicionais da administração empresarial: responsabilidade, contratos, compliance, gestão de riscos e governança.

A pergunta “quem responde quando a IA erra?” não possui uma resposta única para todas as situações.

Mas existe uma conclusão importante para qualquer empresário:

utilizar uma tecnologia de terceiros não elimina a necessidade de controlar os riscos que ela introduz dentro da empresa.

Como a Martins Zanchet Advocacia Empresarial pode ajudar

A adoção de Inteligência Artificial exige que inovação e segurança jurídica avancem conjuntamente.

A Martins Zanchet Advocacia Empresarial pode auxiliar empresas na estruturação de políticas internas para utilização de Inteligência Artificial, revisão de contratos com fornecedores de tecnologia, adequação de práticas relacionadas à proteção de dados, análise de riscos de propriedade intelectual e implementação de mecanismos de compliance e governança.

O objetivo não deve ser criar obstáculos à inovação, mas estabelecer condições para que novas tecnologias sejam incorporadas à operação com maior previsibilidade, controle e segurança jurídica.

Empresas que estruturarem essa governança desde agora estarão mais preparadas para utilizar a Inteligência Artificial como ferramenta de competitividade sem transformar ganhos de produtividade em novos passivos empresariais.

---