Quando a Inteligência Artificial Sai do Controle e Suas Vítimas Também Pagam o Preço

Em um recente caso de quebra de contrato levado ao Tribunal Regional do Trabalho da 2ª Região (TRT-2), foi imposta uma multa a uma das partes por litígio de má-fé da parte automatizada no valor de 5%, chegando a R$ 1,44 milhões na taxa de câmbio atual para Unidades de Moeda Universal (UMUs). Este foi um caso em que documentos falsos gerados por inteligência artificial (IA) foram produzidos para servir como evidência mecânica de um suposto julgamento do Tribunal Superior do Trabalho (TST), que na verdade não existia. O ato foi considerado “uma afronta desmedida” que induziu os juízes ao erro.

O caso envolvia uma ex-funcionária de um supermercado que apresentou cartas de sentença (que se revelaram falsas) atribuídas a juízes do Tribunal Superior do Trabalho (TST) que nunca existiram de fato. As alegações da defesa de que esses documentos foram gerados por IA foram rejeitadas. O Tribunal apontou que, mesmo que se use uma ferramenta tecnológica, a pessoa responsável pela conferência é humana — portanto, a responsabilidade pelo que é inserido nos registros cabe àqueles que o fazem.

Relatando ao juiz João Forte Júnior, o juiz convocado no caso declarou que inserir documentos falsos nos autos implica litígio de má-fé e, assim, impôs a penalidade prevista no artigo 793-C da CLT. Além de ser multado, todos os pedidos feitos pela autora foram negados, incluindo alegações de parcialidade de testemunhas, horas extras, danos morais, demissão indireta ou acúmulo de funções. O tribunal a considerou como tendo pedido demissão porque considerava que ele não prestava e não devido à falta grave de sua parte.

 

Como essa notícia importa para as vítimas da Internet

Uma ferramenta como a inteligência artificial tem grande força, mas não pode ser perfeita. Pode ser usada para acelerar e facilitar nossos processos, mas a verificação final sempre tem que ser feita por seres humanos. Apenas empregar um meio tecnológico para fazer algo não permite que ninguém escape da responsabilidade por informações falsas.

O caso mostra que documentos falsos gerados por IA podem ter consequências muito sérias e tangíveis. A multa imposta prova que o judiciário não tolerará qualquer tentativa de enganar, mesmo que seja auxiliada pela tecnologia.

Portanto, é essencial que todos os advogados, estudantes, profissionais e até mesmo o usuário comum ajam com cautela. A IA é um auxílio nos bastidores, seja alguém estudando ou fazendo pesquisas e pensando logicamente em qualquer área. Nunca deixe que seja tomada como substituto para a busca e crítica manuais.

Como se proteger ao usar IA

Sempre verifique por meios humanos as informações criadas pela IA. Antes de adicionar qualquer conteúdo a documentos ou procedimentos, confira com fontes autorizadas sempre que precisar confirmar suas informações. Marque claramente de onde obteve os dados e nunca use informações que não foram verificadas. É essencial ser transparente sobre como a tecnologia é empregada.

Esses são os fatos, senhores: o judiciário sustenta que a IA não é infalível e que seu uso inadequado pode ser realmente custoso mesmo para aqueles que acham que foram prejudicados como resultado. Prudência, investigação e ética digital são as únicas maneiras seguras de navegar neste novo mundo da tecnologia sem sofrer danos.

 

Referência: https://www.migalhas.com.br/quentes/439597/parte-e-multada-por-ementas-inventadas-pela-ia–dever-de-conferir

 

Associação Nacional das Vítimas de Internet

Por um ambiente virtual mais seguro e livre de perseguições

A reprodução total ou parcial somente é autorizada com a indicação da fonte