A pesquisa em inteligência artificial e Direito no Brasil

Publicado em 11/12/2017 às 09h45

FONTE: CONSULTOR JURÍDICO

 

Opinião

A pesquisa em inteligência artificial e Direito no Brasil

9 de dezembro de 2017, 11h40
 

Por Juliano Maranhão

Diversos programas de computador têm sido criados, divulgados e distribuídos para aumentar a eficiência da atuação de operadores jurídicos, escritórios de advocacia, tribunais, órgãos legislativos e administrativos. São frutos das chamadas lawtechs, startups que surgem e crescem cada vez mais no país, reunindo programadores e advogados.

Por outro lado, sistemas computacionais que empregam inteligência artificial são parte corrente de relações sociais e econômicas e seu uso tende a aumentar exponencialmente, com relações jurídicas constituídas e executadas automaticamente, todas envolvendo processos decisórios.

Esses temas de vanguarda trazem uma série de desafios para engenheiros, cientistas da computação, juristas e formuladores de políticas públicas, de modo que o ensino e a pesquisa acadêmica precisam se estruturar e construir bases teóricas bem fundadas para o desenvolvimento dessas novas tecnologias, bem como de sua possível regulação.

Diversos centros de pesquisa têm sido criados para dar suporte ao florescimento à inteligência artificial (IA) ligada ao Direito em seus países, por meio do fomento e desenvolvimento de pesquisa acadêmica. Por exemplo, o Codex, da Universidade de Standford; o Cirsfid, centro de Informática Jurídica da Universidade de Bologna; o programa de Sistemas Inteligentes, da Universidade de Pittsburgh; o centro de Direito e Tecnologia da Informação do King’s College. As principais universidades do mundo têm criado não só centros congêneres de pesquisa, como também novos cursos de Direito aliados ao ensino de lógica jurídica e lógica de programação, além de incubadoras de lawtechs.

A Associação Internacional de Inteligência Artificial e Direito (Iaail) promove, bienalmente, a Conferência Icail, atualmente a mais relevante da área, que reúne pesquisadores dos principais centros internacionais de inteligência artificial e Direito. Ainda há poucos brasileiros nessa comunidade acadêmica, mas o país começa a ganhar reconhecimento, valendo mencionar que a Universidade de São Paulo está na disputa com a Universidade de Montreal para sediar o próximo Icail, a ocorrer em 2019. De todo modo, para inserir o Brasil nesta nova fronteira tecnológica, é fundamental que não só a USP como também as principais universidades do país comecem a engajar pesquisadores nesse ramo.

Dentro desse espírito, um grupo de professores de Engenharia, Ciência da Computação, Filosofia e Direito da USP criou um think tank, chamado Lawgorithm, para articular a pesquisa acadêmica e a formação universitária com as iniciativas práticas, nos setores público e privado, de desenvolvimento de ferramentas computacionais para a atividade jurídica, bem como para refletir sobre as implicações jurídicas, sociais, econômicas e culturais da inteligência artificial em geral. Outras iniciativas têm surgido dentro de universidades com a aproximação entre as faculdades de Direito e de Ciência da Computação, que têm resultado em teses recentes, voltadas, de um lado, a pensar a regulação da inteligência artificial e, de outro, criar aplicações de inteligência artificial ao Direito.

Nesse novo horizonte de pesquisa, há quatro convicções importantes que devem pautar as investigações:

  • o raciocínio jurídico é complexo, envolvendo não só a subsunção de regras a determinado conflito, mas a construção de soluções normativas, por meio de interpretação e contraposição de argumentos, que envolvem: a) identificação das regras a serem aplicadas; b) o significado dos termos contidos nas regras perante conceitos jurídicos fundamentais; e c) a adequação das soluções indicadas pelas regras em relação a propósitos de políticas públicas e princípios valorativos;
  • ferramentas gerais de inteligência artificial serão mais eficientes e adequadas quando forem empregadas no Direito com base em representação de conhecimento, análise e inferências típicas dos juristas;
  • os juristas atuarão com mais qualidade e produtividade quando se desvencilharem de tarefas repetitivas e puderem ter acesso rápido e eficiente ao conhecimento específico necessário ao seu labor intelectual;
  • a inteligência artificial deve ser estudada de uma perspectiva multidisciplinar, considerando suas condições técnicas, impactos econômicos, sociais e culturais, como pressuposto de qualquer regulação ou interpretação de suas implicações jurídicas.

A partir dessas convicções, é importante separar duas perspectivas da interação entre inteligência artificial (IA) e Direito. Da perspectiva da aplicação da inteligência artificial ao Direito (que chamo de IA&Direito), é importante promover a pesquisa sobre sistemas lógicos que sirvam de base a ferramentas computacionais capazes de tornar mais eficiente a atuação de juristas (juízes, advogados, promotores, professores de Direito etc.) e gerar informações sobre as atividades legislativa e jurisdicional. Da perspectiva da disciplina jurídica da inteligência artificial (que chamo de Direito da IA), a pesquisa jurídica deve buscar compreender tecnicamente o que são e qual o significado de agentes digitais em suas relações com humanos de modo a refletir sobre seus impactos sociais e sobre novas questões jurídicas delas derivadas. Para essas duas linhas, tanto para a Ciência da Computação quanto para o Direito devem ser dirigidos esforços para a pesquisa teórica e para a pesquisa aplicada.

No âmbito da IA&Direito, há um ativo importante nas mãos dos pesquisadores: os tribunais brasileiros geram, diariamente, grande quantidade de dados públicos sobre os processos em trâmite ou concluídos, em formatos digitais. Assim, abordagens de big data podem coletar, armazenar e tratar essa base, gerando ricas informações quantitativas sobre a atuação dos órgãos de adjudicação no país, o que pode contribuir significativamente para os estudos atuais em jurimetria.

Técnicas de processamento de linguagens naturais e machine learning são treinados a partir de um corpus de dados relevantes, sobre os quais são construídas ontologias, que representem as relações semânticas entre os termos e conceitos empregados. Uma vez treinados, esses sistemas podem interagir com textos aos quais ainda não foram expostos, generalizando os conceitos representados nas ontologias e as interações entre eles. Mas é importante que tais ferramentas gerais de IA sejam potencializadas pela introdução de aspectos da estrutura específica de textos jurídicos, como sentenças, acórdãos ou petições, bem como por ontologias adequadas a conceitos jurídicos e relações lógicas próprias da linguagem jurídica e de sistemas normativos.

Outra linha relevante de pesquisa é o desenvolvimento de ferramentas de busca inteligentes, que não se limitem à identificação sintática de termos, mas aplicam técnicas de processamento de linguagem natural e aprendizado de máquina para classificação de conteúdo. A pesquisa em IA&Direito deve incorporar a representação de conhecimento jurídico. Assim, por exemplo, é possível desenvolver buscadores que identifiquem divergências entre decisões, ou que, em vez de buscar casos por termos, identifiquem casos que contenham argumentos a favor ou contra uma determinada tese, ou, ainda, que busquem casos ou legislação que justifiquem um determinado direito ou obrigação.

Ferramentas capazes de descrever posições jurídicas individuais (direitos, obrigações, poderes, imunidades), a partir de uma base de legislação ou de precedentes, podem também ser incorporadas em chatbots jurídicos, capazes, por exemplo, de responder a consumidores quais são os seus direitos, mesmo que derivados de obrigações impostas aos fornecedores ou sobre definições jurídicas de condutas abusivas.

Outra área promissora é a pesquisa sobre smart contracts. Há uma série de softwares para a gestão e execução automática de contratos. Normalmente, aplicam contratos simples, traduzidos pelo programador por uma série de instruções procedimentais. Hoje, há interesse em ligar smart contracts a tecnologias de blockchain. O desafio para IA&Direito nesse campo está em criar ferramentas que não se limitem a instruções procedimentais, mas sejam capazes de entender contratos cada vez mais complexos e inferir as posições individuais das partes a serem executadas.

Lawtechs incubadas em escritórios de advocacia têm criado para uso próprio ou ofertado ao mercado diferentes geradores de documentos. Suas técnicas podem ir desde simples modelos pré-definidos até ferramentas capazes de selecionar tipos mais adequados de documentos, ou sugerir complementações de textos ou citações, a partir de uma base de dados. O desafio para IA&Direito está em desenvolver ferramentas capazes de construir os próprios modelos ou documentos a partir da indicação de argumentos e teses jurídicas ou por meio de reconhecimento de padrões nos documentos já existentes em uma base.

Diversas “plataformas” têm surgido para interação on-line entre credores e devedores de modo que resolvam seus conflitos por meio de acordo. Há ferramentas de inteligência artificial que podem substituir o negociador, com base em lógicas de argumentação ou de jogos estratégicos. O desafio para IA&Direito está em introduzir mecanismos de negociação automática que empreguem conhecimento jurídico na construção de argumentos ou avaliação de movimentos estratégicos no jogo de negociação. Tal avanço ampliaria o acesso e a abrangência dessas plataformas.

Uma das grandes preocupações decorrentes do emprego de IA baseado em aprendizado de máquina está no fato de que tais sistemas podem desenvolver correlações baseadas em abordagens de big data, propiciando tomadas de decisão cujo fundamento teórico é de difícil conceptualização. Embora para humanos o “aprendizado” tenha a ver com mudança, evolução e consolidação de uma base de conhecimento por critérios racionais, esse modelo de representação de conhecimento não está presente nas implementações de sistemas com aprendizado de máquina. Esse desafio em aproximar modelos de representação e revisão de conhecimento com aprendizado de máquina é importante para diferentes domínios do conhecimento, mas é crucial para o Direito, uma vez que quaisquer decisões com implicações sobre direitos individuais legitimam-se apenas e na medida em que apresentem motivação suficiente, obviamente em linguagem e racionalidade compreensíveis para o ser humano.

Por outro lado, com a participação de agentes eletrônicos no cotidiano da vida em sociedade e desenvolvendo relações entre si e com seres humanos, é natural que suas ações possam violar regras de comportamento, capazes de gerar responsabilidades ou consequências jurídicas. Assim, a pesquisa em IA&Direito também deve buscar desenvolver mecanismos de compliance, não só pela introdução de restrições em seu design, mas que também permitam ao agente digital entender e interpretar regras de modo a escolher cursos de ação que evitem sanções, o que envolve não só a consideração de regras como também de seus propósitos.

O desenvolvimento de aplicações adequadas à representação do conhecimento e de inferências tipicamente jurídicas depende da pesquisa teórica sobre lógicas subjacentes aplicáveis, como lógicas deônticas, lógicas de argumentação derrotável, logicas de preferência etc., bem como sobre modelos abstratos capazes de descrever os aspectos mais gerais e a lógica do processo interpretativo jurídico.

Em relação ao Direito da IA, é importante que os centros de pesquisa jurídica se preparem para compreender as profundas transformações sociais, econômicas e culturais decorrentes da IA, de modo a reinterpretar conceitos fundamentais e estruturar políticas públicas capazes de prevenir impactos negativos e permitir o avanço da tecnologia.

Nas diversas atividades com aplicação de IA, há emprego de algoritmos capazes de coletar e classificar informações, avaliá-las, tomar decisões e atuar com efeitos no mundo físico e consequências práticas para indivíduos que travam relações jurídicas intermediadas pelo uso desses sistemas, ou mesmo exclusivamente entre agentes eletrônicos. Entra em jogo, portanto, a pergunta sobre sua personalidade e capacidade jurídicas, ou seja, se pode ser sujeito de direitos e deveres e agir com efeitos jurídicos e responsabilidade. Diversas análises doutrinárias e judiciais encontram dificuldades ao lidar com agentes eletrônicos, em diversos ramos do Direito, por confrontarem a seguinte tensão: no Direito moderno, o conceito de capacidade jurídica pressupõe consciência individual autônoma, mas há polêmica sobre a adequação ou mesmo possibilidade de explicarmos ações de agentes eletrônicos nesses termos. Isso traz implicações relevantes para o Direito Contratual, propriedade intelectual, responsabilidade civil e proteção de dados.

No âmbito do Direito Contratual, deve-se refletir sobre como lidar com o fato de que sistemas de IA podem participar da negociação, formação e execução de contratos. Para todas essas etapas, o Direito Civil baseia-se em conceitos que pressupõem intencionalidade das partes: expectativas, crenças, vontades, objetivos, boa-fé etc. Como aplicar o Direito Contratual a negócios firmados por agentes autônomos sem atribuir-lhes intencionalidade? Devemos entender que agentes autônomos têm intenções? Ou devemos reconstruir o Direito Civil sem o conceito de intencionalidade?

Em relação à propriedade intelectual, o emprego de inteligência artificial para a criação de obras literárias, musicais, audiovisuais, assim como para invenções, modelos de utilidade, marcas e desenhos industriais já é uma realidade. Diante disso, a pesquisa jurídica tem que enfrentar as seguintes questões: essas criações são protegidas? Quem seriam os titulares de direitos patrimoniais ou morais de autor? Seria o programador, a empresa que investiu no desenvolvimento do programa ou o usuário que tenha exercido alguma influência sobre a criação feita pelo programa? Ou, diante da multiplicidade de participantes, que também não formam uma coletividade definida, seriam inadequados os conceitos tradicionais da PI, como “propriedade” e “autoria” para essas criações?

Em relação à responsabilidade civil, sistemas que empreguem IA podem violar direitos de terceiros. Embora tal possibilidade já tenha sido pensada em relação a outros artefatos, em que a responsabilidade é atribuída ao artífice ou ao proprietário, no caso de IA, há dificuldades que merecem reflexão. Sistemas baseados em aprendizado de máquina podem tomar decisões autônomas, isto é, que independem de uma instrução ou programação previamente determinada, a partir da análise de enorme gama de dados recolhidos de diversas fontes. Além disso, o sistema pode empregar uma combinação de diferentes programas de computador, de diferentes criadores e mesmo softwares licenciados em regime livre. Diante dessa fragmentação, quem deveria suportar o risco econômico inerente à proliferação desses sistemas nas relações sociais?

Por fim, em relação à proteção de dados, deve-se atentar para o fato de que sistemas de IA baseados não só tomam decisões com base em dados como a cada interação recolhem dados para a futura tomada de decisões. Há preocupação sobre como esses dados são colhidos, processados e empregados. Além disso, tais sistemas podem tomar decisões com base em “perfis” individuais ou de grupos desenvolvidos pelos próprios sistemas, ou ainda com base em correlações derivadas de um modelo de aprendizado de máquina sobre enorme gama de dados, de difícil compreensão teórica. Como os dados processados podem ser enviesados, as decisões automáticas decorrentes podem interferir em direitos individuais, sem que o programa ou os desenvolvedores consigam sequer apresentar justificativas humanamente compreensíveis sobre quais foram as razões de sua decisão. Portanto, além da preocupação de a IA poder extrair o conhecimento por trás de decisões baseadas em algoritmos complexos envolvendo aprendizado de máquina, existe a preocupação jurídica com a regulação e garantia dos direitos daqueles que são afetados por tais decisões.

Procurei aqui propor uma agenda para pesquisa sobre IA&Direito e em Direito da IA que seja capaz de abrir novas frentes de inovação tecnológica e reflexão sobre suas as implicações jurídicas e na expectativa de que haja, cada vez mais, abertura nas faculdades de Direito para esses temas e maior interação com professores de ramos do conhecimento, antes vistos como distantes do universo jurídico, como a Matemática, Ciência da Computação e a Engenharia.

Juliano Maranhão é professor livre-docente da Faculdade de Direito da USP, pesquisador da Fundação Alexander von Humboldt e membro da International Association of Artificial Intelligence and Law.

https://www.conjur.com.br/2017-dez-09/juliano-maranhao-pesquisa-inteligencia-artificial-direito-pais 

Revista Consultor Jurídico, 9 de dezembro de 2017, 11h40

voltar para Notícias

left show fwR tsN bsd b02s|left tsN show fwB bsd b02s|left show tsN fwB normalcase|bnull||image-wrap|news fwB fwR normalcase tsN|fwR normalcase tsN fsN|b01 c05 bsd|login news fwR normalcase tsN|fwR normalcase tsN c15 bsd b01|normalcase tsN|content-inner||