De alucinações ao Supremo Tribunal: a IA pode administrar justiça?

“O problema das alucinações não foi resolvido”, disse ele em discurso à Associação de Advogados da Austrália no remaining de agosto. “Nomes de casos fabricados, legislação citada e falsos princípios estão sendo colocados perante os tribunais.

“Os advogados foram disciplinados na maioria das jurisdições, incluindo a Austrália, por confiar no conteúdo de IA alucinado.

“Sem transparência, responsabilidade e supervisão, esses sistemas correm o risco de perpetuar as próprias injustiças que pretendem resolver”.

Matt McMillan, advogado de tecnologia de Lander & Rogers

“As alucinações de IA nos lembram que análises legais precisas, confiáveis ​​e críticas atualmente continuam sendo uma capacidade exclusivamente humana”.

E, apenas algumas semanas atrás, outro caso de alto nível reverberou através do sistema jurídico. As submissões apresentadas por um réu na Suprema Corte de Victoria continham citações fabricadas e julgamentos inexistentes gerados pela IAem um caso de assassinato. O advogado do réu disse ao juiz James Elliott que estava “profundamente arrependido e envergonhado”. O erro atrasou os procedimentos e levou a uma terceira rodada de envios corrigidos.

“Não é aceitável que a IA seja usada, a menos que o produto desse uso seja verificado de forma independente e minuciosa”, disse Elliott ao Supremo Tribunal em Melbourne.

Agora houve mais de uma dúzia de casos relatados em tribunais australianos de documentos contendo citações falsas.

Se estamos prontos ou não, a IA generativa varreu rapidamente os locais de trabalho e as salas de aula da Austrália e também entrou em nossos tribunais.

Isso levanta a questão: até que ponto nosso sistema de justiça deve permitir IA, alucinações? E a IA deve eventualmente empunhar o martelo?

A perspectiva de um juiz de IA não é mais o materials da ficção científica. A Estônia já testou um sistema de IA para resolver pequenas disputas de reivindicações abaixo de € 7000 (US $ 12000). Os tribunais de Cingapura estão experimentando a arbitragem assistida pela AA para desobstruir os pedidos de backlogs.

No SXSW Sydney do próximo mês, o escritório de advocacia Lander & Rogers encenará um experimento provocativo: um caso de peculato fictício de alto risco estabelecido em 2035, no qual um juiz de IA pesará evidências, avaliará o sentimento do público usando algoritmos e entregará uma sentença. A sessão será liderada pelo executivo da Lander & Rogers Courtney Blackman, que no ano passado foi um julgamento simulado envolvendo advogados de IA.

Ellen Skinner é juiz e é presidente do Tribunal de Infantis de Nova Gales do Sul. Ela se juntará a um ético treinado em Oxford e um advogado de tecnologia em debater o veredicto da IA ​​no remaining do cenário. O advogado de tecnologia de Lander & Rogers, Matt McMillan, também está no painel. Ele diz que os sistemas de IA têm potencial significativo para permitir um maior acesso à justiça, tornar os processos legais mais eficientes e reduzir o viés humano.

Com a supervisão humana adequada, a IA pode apoiar um sistema jurídico mais equitativo, diz ele.

“Essa supervisão humana é, no entanto, essencial para a questão da confiança. Muitos sistemas atuais, por exemplo, são treinados em dados históricos que podem refletir vieses sistêmicos. Portanto, sem transparência, responsabilidade e supervisão, esses sistemas correm o risco de perpetuar as próprias injustiças que pretendem resolver.

“O raciocínio authorized, que geralmente envolve contexto e julgamento ethical, é complexo, humano e não pode ser totalmente capturado por máquinas, por mais inteligente que sejam. Embora a IA seja inteligente, permanece, pelo menos por enquanto, uma aproximação do pensamento humano”.

Para todos os pontos de interrogação em torno de alucinações, ética e precisão, as ferramentas de IA rapidamente se tornaram amplamente utilizadas pelos escritórios de direito da Austrália e seus clientes.

A start-up authorized da IA ​​do Vale do Silício, Harvey, co-fundada pelo ex-litigante californiano Winston Weinberg, assinou um terço das empresas de primeira linha da Austrália, incluindo King & Wooden Mallesons, Ashurst, Gilbert + Tobin e Arnold Bloch Leibler, para sua solução de IA que fornece análises instantâneas e processamento de dados para dados de dados. Acabou de abrir um escritório de Sydney, onde planeja contratar 15 pessoas.

Weinberg diz que o verdadeiro potencial da justiça da IA ​​está em casos de baixo risco, pelo menos por enquanto. Ele acha que esse sistema poderia funcionar na Austrália.

“Think about duas partes concordando em enviar uma pequena reivindicação a um árbitro de IA”, diz ele. “Ambos os lados colocam em seu argumento, a IA produz uma decisão e, se discordar, eles podem recorrer. Isso pode acelerar e desobstruir muito do sistema jurídico, mas acho que a realidade é que, para coisas muito altas, você deseja um júri de seus colegas”.

É uma visão pragmática: não os juízes de robôs nos julgamentos de assassinato na Suprema Corte, mas software program resolvendo as curvas de pára-choque de estacionamento ou brigas de proprietário de proprietários.

A Inglaterra e o País de Gales recentemente deram aprovação limitada da Judges para usar a IA, embora apenas para escrever opiniões, não para pesquisa ou tomada de decisão. Sob esse sistema, a IA pode ajudar na papelada, mas não decidirá culpa ou inocência.

O Instituto Australiano de Administração Judicial, em um relatório recente, enfatizou que as ferramentas de IA devem atender aos mais altos padrões de transparência e responsabilidade da profissão. Isso significa saber como um algoritmo chegou à sua conclusão, que é algo que continua sendo uma caixa preta para a maioria dos modelos de linguagem.

Os proponentes sugerem que a IA poderia um dia trazer consistência ao banco. Um estudo da Universidade de Chicago replicou um experimento de 2015 envolvendo 31 juízes federais dos EUA, agora comparando-os com o GPT-4O da Openai. Os juízes foram influenciados por retratos emocionais dos réus 65 % das vezes, mesmo quando o precedente ditou o contrário. AI, por outro lado, permaneceu sem subsídio e foi impulsionada apenas pelo precedente. Os pesquisadores apelidaram a IA de “juiz formalista”, observando que sua abordagem é mais semelhante aos estudantes de direito do que os juristas experientes.

Apesar dos riscos, o momento está construindo e parece inegável, pelo menos para pesquisas e tarefas de baixo nível.

Anthony Curtin, sócio -gerente da Merton Legal professionals, diz que toda vez que entrevista um graduado, advogado ou parceiro, ele espera que eles mostrem uma curiosidade e vontade de adotar a IA.

Carregando

“Isso revolucionará nossa indústria e, se você estiver na defensiva, então perderá”, diz ele.

“Todo advogado e estudante de direito deve testar essas plataformas. Eles ainda não são perfeitos, mas seu impacto já é significativo e acelerado. Sem entender essa mudança, você corre o risco de estar por trás da bola oito no recrutamento e progressão na carreira.

“Como setor, precisamos abraçar e aproveitar isso. Estamos em um ponto de virada da vida, tecnologia e como operamos. Um dia, vamos olhar para trás com a nostalgia e o orgulho de estar na primeira fila desta importante mudança”.

A start-up do Vale do Silício Harvey afirma que sua tecnologia de IA salva advogados entre 13 e 25 horas por mês em pesquisa e desenho. Para empresas maiores que integram a IA nos fluxos de trabalho personalizados, o número pode subir para mais de 80 horas.

No momento em que os governos estão desesperados para elevar a produtividade nacional, esses números são difíceis de ignorar.

Os advogados juniores podem gastar menos de suas carreiras percorrendo a jurisprudência e mais tempo no tribunal ou aconselhando clientes, diz Weinberg.

O boletim informativo para briefing de negócios oferece grandes histórias, cobertura exclusiva e opinião de especialistas. Inscreva -se para obtê -lo todos os dias da semana de manhã.