{"id":41136,"date":"2026-05-15T06:28:35","date_gmt":"2026-05-15T09:28:35","guid":{"rendered":"https:\/\/radioultimapalavra.amelhor.net\/site\/entenda-como-funciona-o-sistema-de-seguranca-de-ia-desenvolvido-no-rs-que-barrou-codigo-secreto-e-impediu-fraude-em-processo-no-para\/"},"modified":"2026-05-15T06:28:35","modified_gmt":"2026-05-15T09:28:35","slug":"entenda-como-funciona-o-sistema-de-seguranca-de-ia-desenvolvido-no-rs-que-barrou-codigo-secreto-e-impediu-fraude-em-processo-no-para","status":"publish","type":"post","link":"https:\/\/radioultimapalavra.amelhor.net\/site\/entenda-como-funciona-o-sistema-de-seguranca-de-ia-desenvolvido-no-rs-que-barrou-codigo-secreto-e-impediu-fraude-em-processo-no-para\/","title":{"rendered":"Entenda como funciona o sistema de seguran\u00e7a de IA desenvolvido no RS que barrou ‘c\u00f3digo secreto’ e impediu fraude em processo no Par\u00e1"},"content":{"rendered":"
\n
\n

Chamado de Galileu<\/strong>, o sistema foi capaz de detectar um “c\u00f3digo secreto” <\/strong>inserido por advogadas em uma peti\u00e7\u00e3o. A t\u00e9cnica, conhecida como “prompt injection<\/em>“, visava enganar a IA para que ela fizesse uma an\u00e1lise superficial do documento.<\/span> <\/p>\n<\/p><\/div>\n

\n

“Esse foi o primeiro caso confirmado de ataque do tipo prompt injection<\/em>. O sistema j\u00e1 havia sinalizado outros conte\u00fados como suspeitos, mas, ap\u00f3s verifica\u00e7\u00e3o humana, eles foram considerados leg\u00edtimos. Esses casos s\u00e3o classificados como falsos positivos”, comenta a secret\u00e1ria-geral de tecnologia e inova\u00e7\u00e3o do TRT4, Natacha Moraes de Oliveira. <\/p>\n<\/p><\/div>\n

\n

O funcionamento do Galileu para barrar a fraude ocorreu em tr\u00eas etapas principais. Primeiro, ao processar o documento, a ferramenta identificou trechos de texto ocultos que continham instru\u00e7\u00f5es maliciosas.<\/span> <\/p>\n<\/p><\/div>\n

\n

Em seguida, o sistema agiu de duas formas: emitiu um alerta em destaque para o usu\u00e1rio, <\/strong>neste caso, o juiz, com a identifica\u00e7\u00e3o t\u00e9cnica da ocorr\u00eancia e, simultaneamente, impediu que o comando malicioso fosse processado, neutralizando o ataque<\/span>. <\/p>\n<\/p><\/div>\n

\n

Um ponto central do seu desenho \u00e9 de que o Galileu n\u00e3o toma decis\u00f5es<\/strong>. A ferramenta se limita a relatar o fato t\u00e9cnico, sem qualificar a conduta ou sugerir uma puni\u00e7\u00e3o. A decis\u00e3o final \u00e9 sempre humana, segundo o TRT. No caso do Par\u00e1, o juiz examinou o conte\u00fado apontado pelo sistema antes de aplicar a multa, cumprindo a exig\u00eancia de supervis\u00e3o humana no uso de IA pelo Judici\u00e1rio.<\/span> <\/p>\n<\/p><\/div>\n

\n

Segundo a secret\u00e1ria-geral Natacha de Oliveira, o controle de ataques como a inje\u00e7\u00e3o de comandos “exige a aplica\u00e7\u00e3o de t\u00e9cnicas especializadas para serem identificadas”<\/strong>, o que refor\u00e7a a import\u00e2ncia de ferramentas institucionais. <\/p>\n<\/p><\/div>\n

\n

O comportamento do sistema, de identificar, alertar e preservar a decis\u00e3o humana<\/strong>, segue diretrizes t\u00e9cnicas internacionais de seguran\u00e7a para IA e obedece a uma resolu\u00e7\u00e3o do Conselho Nacional de Justi\u00e7a (CNJ) sobre o tema. <\/p>\n<\/p><\/div>\n

\n

O que o sistema faz<\/h2>\n<\/p><\/div>\n
\n

O Galileu foi concebido em 2023 pelo Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-4) e lan\u00e7ado em 2024, e atua como um assistente para o juiz na elabora\u00e7\u00e3o de minutas de senten\u00e7as<\/span>. A IA foi programada para ler os documentos do processo, como a peti\u00e7\u00e3o inicial, a contesta\u00e7\u00e3o do r\u00e9u e as atas de audi\u00eancias. <\/p>\n<\/p><\/div>\n

\n

A partir dessa leitura, o sistema realiza as seguintes tarefas: <\/p>\n<\/p><\/div>\n

\n
    \n
  • Sumariza os pedidos: <\/strong>identifica e resume as principais pretens\u00f5es de cada parte do processo.<\/li>\n
  • Sugere uma estrutura: <\/strong>prop\u00f5e um “esqueleto” para a senten\u00e7a, com a nomina\u00e7\u00e3o dos cap\u00edtulos a serem abordados.<\/li>\n
  • Busca fundamenta\u00e7\u00e3o: <\/strong>pesquisa, em um banco de dados interno e controlado, subs\u00eddios para a fundamenta\u00e7\u00e3o da decis\u00e3o, como modelos e precedentes.<\/li>\n<\/ul><\/div>\n
    \n

    A ferramenta apenas gera minutas e sugest\u00f5es<\/strong>, que s\u00e3o obrigatoriamente revisadas, validadas, adaptadas ou rejeitadas pelo magistrado, que mant\u00e9m total controle sobre o conte\u00fado final. <\/p>\n<\/p><\/div>\n

    \n

    “No dia a dia, ele tira do caminho a parte mais repetitiva e burocr\u00e1tica da reda\u00e7\u00e3o, liberando tempo para o trabalho propriamente jurisdicional, como an\u00e1lise de provas, valora\u00e7\u00e3o de depoimentos e fundamenta\u00e7\u00e3o da decis\u00e3o”, explica a secret\u00e1ria-geral.<\/p><\/blockquote><\/div>\n

    \n

    Alerta para manipula\u00e7\u00e3o<\/h2>\n<\/p><\/div>\n
    \n

    O sistema de intelig\u00eancia artificial Galileu<\/strong> foi concebido desde o in\u00edcio com foco em seguran\u00e7a<\/strong>. Segundo os desenvolvedores, a ferramenta adota protocolos rigorosos para reconhecer sinais de risco<\/strong> e alertar os usu\u00e1rios<\/strong> sempre que encontra ind\u00edcios de uso malicioso, como o registrado no caso envolvendo documentos do Par\u00e1. <\/p>\n<\/p><\/div>\n

    \n

    A possibilidade de que terceiros tentassem influenciar o funcionamento do sistema j\u00e1 era prevista na fase de desenvolvimento: <\/p>\n<\/p><\/div>\n

    \n

    “Considerando que parte do conte\u00fado dos processos \u00e9 apresentada por terceiros, o Tribunal precisa considerar esse risco, ou seja, a possibilidade de que tragam instru\u00e7\u00f5es endere\u00e7adas \u00e0 IA, mesmo que invis\u00edveis a olho nu”, destaca Natacha.<\/p><\/blockquote><\/div>\n

    \n

    Por isso, mecanismos capazes de detectar textos ocultos em arquivos PDF, como o uso de letras na mesma cor do fundo, foram incorporados desde os testes iniciais e seguem em evolu\u00e7\u00e3o cont\u00ednua. <\/p>\n<\/p><\/div>\n

    \n

    Prote\u00e7\u00e3o<\/h2>\n<\/p><\/div>\n
    \n

    Para evitar que instru\u00e7\u00f5es maliciosas interfiram nas respostas geradas pela IA, o Galileu opera com diferentes n\u00edveis de prote\u00e7\u00e3o<\/strong>, que funcionam de maneira independente. Antes mesmo de qualquer conte\u00fado ser analisado pelo modelo de intelig\u00eancia artificial, os arquivos passam por uma triagem t\u00e9cnica em busca de sinais de adultera\u00e7\u00e3o<\/strong>. <\/p>\n<\/p><\/div>\n

    \n

    O sistema avalia desde artif\u00edcios simples, como texto camuflado, at\u00e9 estrat\u00e9gias mais complexas, como tentativas de inje\u00e7\u00e3o de comandos, pr\u00e1ticas de engenharia social e uso de codifica\u00e7\u00f5es para oculta\u00e7\u00e3o de instru\u00e7\u00f5es. <\/p>\n<\/p><\/div>\n

    \n

    Al\u00e9m das barreiras automatizadas, a revis\u00e3o humana \u00e9 considerada “a camada mais importante”<\/strong>. Quando o sistema identifica algo suspeito, ele emite um alerta destacado ao usu\u00e1rio<\/span>. A decis\u00e3o final permanece exclusivamente sob responsabilidade do magistrado, que analisa o conte\u00fado apontado e fundamenta sua atua\u00e7\u00e3o. <\/p>\n<\/p><\/div>\n

    \n

    “O sistema apoia, mas n\u00e3o substitui o julgamento humano. Esse \u00e9 um princ\u00edpio inegoci\u00e1vel do projeto”, resume a secret\u00e1ria-geral Natacha.<\/p><\/blockquote><\/div>\n

    \n

    A equipe respons\u00e1vel pelo Galileu reconhece que tentativas de manipula\u00e7\u00e3o tendem a se tornar cada vez mais sofisticadas<\/span>. Para lidar com esse cen\u00e1rio, o sistema passa por atualiza\u00e7\u00f5es peri\u00f3dicas<\/strong> e recebe novas camadas de prote\u00e7\u00e3o<\/strong>, acompanhando a evolu\u00e7\u00e3o das estrat\u00e9gias maliciosas. <\/p>\n<\/p><\/div>\n

    \n

    Paralelamente, testes de seguran\u00e7a s\u00e3o realizados de forma ampla e recorrente<\/strong>, com base em refer\u00eancias internacionais consolidadas na \u00e1rea de seguran\u00e7a em IA. <\/p>\n<\/p><\/div>\n

    \n

    V\u00cdDEOS: Tudo sobre o RS<\/h2>\n<\/p><\/div>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

    Chamado de Galileu, o sistema foi capaz de detectar um “c\u00f3digo secreto” inserido por advogadas em uma peti\u00e7\u00e3o. A t\u00e9cnica, conhecida como “prompt injection“, visava enganar a IA para que…<\/p>\n","protected":false},"author":1,"featured_media":41137,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[],"class_list":["post-41136","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-regiao"],"_links":{"self":[{"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/posts\/41136","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/comments?post=41136"}],"version-history":[{"count":0,"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/posts\/41136\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/media\/41137"}],"wp:attachment":[{"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/media?parent=41136"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/categories?post=41136"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/radioultimapalavra.amelhor.net\/site\/wp-json\/wp\/v2\/tags?post=41136"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}