O Superior Tribunal de Justiça (STJ) anunciou na quarta-feira (20) a abertura de uma investigação sobre o uso de inteligência artificial para fraudar o sistema eletrônico de petições do tribunal. A decisão, tomada pelo presidente do STJ, Herman Benjamin, inclui a instauração de um inquérito policial e um procedimento administrativo interno para investigar possíveis tentativas de fraude cometidas por advogados e seus escritórios.
A iniciativa surgiu após a detecção, por parte dos especialistas do tribunal, de entradas de petições que utilizavam a técnica conhecida como “prompt injection”. Esse mecanismo é uma forma de manipulação de modelos de inteligência artificial, criado para favorecer uma das partes durante o trâmite eletrônico de um processo judicial.
Os comandos encobertos são inseridos nas petições na tentativa de forçar o sistema de IA a ignorar filtros de seleção. Esses filtros são fundamentais, pois inibem a aceitação de documentos que não atendem aos requisitos mínimos necessários para a validade do processo. A preocupação do STJ é que essas fraudes possam comprometer a integridade das decisões judiciais.
De acordo Essas medidas visam garantir que as ordens inseridas nas petições não sejam executadas pela plataforma que processa essas solicitações.
Novidades no STJ
- STJ realiza curso gratuito sobre equidade racial na Justiça.
- Tribunal rejeita a utilização de inteligência artificial como prova em ações penais.
O uso de tecnologia na esfera jurídica tem avançado consideravelmente nos últimos anos, com a introdução de sistemas que facilitam o acesso à Justiça. Contudo, a inovação também levanta questões éticas e de segurança, especialmente quando se trata de potenciais fraudes que podem ser perpetradas por meio de conhecimento técnico sobre Inteligência Artificial.
Esse incidente reflete uma crescente preocupação em todo o sistema judiciário em relação ao uso da tecnologia de forma irresponsável e deliberada. A Justiça brasileira tem buscado se adaptar ao uso destas novas ferramentas de maneira segura, reforçando a necessidade de regulamentos que protejam o sistema contra ações mal-intencionadas.
A investigação do STJ certamente dará origem a reflexões sobre a maneira como a tecnologia deve ser incorporada ao sistema jurídico, para que os benefícios sejam aproveitados sem que a segurança e a ética sejam colocadas em xeque.
Assim, o tribunal não apenas busca punir possíveis transgressores, mas também pretende desenvolver mecanismos mais robustos de segurança em suas plataformas digitais, garantindo que o acesso à Justiça permaneça íntegro e confiável para todos os cidadãos.
Essa investigação se torna um chamado para que a comunidade jurídica, assim como as instituições, permaneçam atentas em relação ao uso responsável da tecnologia e à constante evolução dos métodos de fraudes, a fim de preservar a lisura e o respeito ao direito e à Justiça no Brasil.
Fonte:: agenciabrasil.ebc.com.br
