Diante de críticas ao PL 2.338/2023, que regulamenta o uso de inteligência artificial (IA) no país, o relator da proposta, senador Eduardo Gomes (PL-TO) apontou que fará novas audiências para ampliar o debate e disse que vai buscar um texto de convergência sobre o tema. A afirmação foi feita em audiência pública na manhã desta quarta-feira (1º), na comissão temporária criada para analisar o texto elaborado por uma comissão de juristas, em que o projeto voltou a ser criticado.
Entre as questões recorrentes estão, por um lado, o critério para a classificação de riscos para a sociedade, que não consideraria as especificidades de cada setor — o que é visto como um entrave para o desenvolvimento de aplicações —; e, por outro, brechas que podem levar à discriminação de grupos minoritários.
Eduardo Gomes reforçou que o trabalho da comissão de juristas foi fundamental para dar o ponto de partida para o debate no Congresso Nacional e que IA é um tema que está em constante transformação:
— Vamos buscar a convergência. IA é o primeiro assunto que você conversa com o especialista hoje e dois meses depois ele sabe menos. Vamos intensificar o reconhecimento e a participação de todos os expositores. […] Promoveremos mais dois ou três debates virtuais com todos para que a gente possa chegar a um texto — sugeriu o senador.
Durante a audiência requerida pelo senador Astronauta Marcos Pontes (PL-SP) para debater os impactos da inteligência artificial nos setores da indústria, agricultura, público, financeiro e Judiciário, especialistas apresentaram suas discordâncias ao projeto.
Coordenador de Governança em Ciência, Tecnologia e Inovação da Rede Governança Brasil (RGB), Walter Marinho apontou que testes sobre o uso da IA em julgamentos com base em dados existentes evidenciou a existência de vieses preconceituosos.
— Nós temos um case que, em determinadas regiões onde havia um grande número de crimes, ela [a aplicação de IA] automaticamente sugeria que as pessoas daquelas regiões poderiam ter uma maior chance de cometer crimes. E automaticamente ela condenava essas pessoas com penas maiores do que pessoas de outras regiões com crimes iguais. Daí a importância de uma revisão humana — apontou.
A intenção debatida no Judiciário, de acordo com o conselheiro do Conselho Nacional de Justiça (CNJ) Luiz Fernando Bandeira de Mello Filho, é a de avançar em uma aplicação que garanta uma análise rápida de dados e que facilite a redação dos textos dos magistrados e não criar robôs que tomem essas decisões.
— A ideia não é ter um robô julgando casos, mas ajudando no levantamento com base na jurisprudência do próprio magistrado e de outros tribunais. Não é possível ficar para trás nessa matéria — disse.
Alto risco
Para o Presidente do Conselho de Inovação do Hospital das Clínicas da Faculdade de Medicina da Universidade de São Paulo (FMUSP), Giovanni Cerri, a atual redação do projeto, que classifica todas as aplicações na área da saúde como de alto risco, impede o avanço do uso da IA no setor.
— A Anvisa já estabeleceu diferentes níveis de enquadramento para aplicativos com IA. Se considerarmos todas as aplicações como de alto risco, vamos inviabilizar parte da pesquisa e da aplicação da IA na saúde. Vamos retardar o processo — criticou.
A professora do Instituto Brasileiro de Mercado de Capitais (IBMEC) Crisleine Yamaji também considera que o texto aborda a IA predominantemente pelo lado dos riscos e não dos benefícios. O texto, segundo ela, é um modelo importado que não se aplica à realidade brasileira.
— Praticamente todos os setores produtivos estão dentro de alto risco. Quando se faz isso, a gente pressupõe que o uso da IA é negativo. É preciso permitir uma flexibilidade para que os próprios setores possam categorizar e estabelecer monitoramentos, sem burocratizar demais — avaliou.
Também participaram do debate na Comissão Temporária sobre Inteligência Artificial no Brasil (CTIA) o coordenador do Grupo de Governança e Regulação de Dados da Zetta, Daniel Stivelberg; o presidente da Associação das Empresas Brasileiras de Tecnologia da Informação do Estado do Rio de Janeiro (Assespro-RJ), Robert Janssesn; o gerente da Unidade de Difusão de Tecnologias da Agência Brasileira de Desenvolvimento Industrial (ABDI), Bruno Jorge Soares; e Marco Antonio Lauria, membro do Conselho da Associação Internacional de Inteligência Artificial (A2IA).
Entre as questões recorrentes estão, por um lado, o critério para a classificação de riscos para a sociedade, que não consideraria as especificidades de cada setor — o que é visto como um entrave para o desenvolvimento de aplicações —; e, por outro, brechas que podem levar à discriminação de grupos minoritários.
Eduardo Gomes reforçou que o trabalho da comissão de juristas foi fundamental para dar o ponto de partida para o debate no Congresso Nacional e que IA é um tema que está em constante transformação:
— Vamos buscar a convergência. IA é o primeiro assunto que você conversa com o especialista hoje e dois meses depois ele sabe menos. Vamos intensificar o reconhecimento e a participação de todos os expositores. […] Promoveremos mais dois ou três debates virtuais com todos para que a gente possa chegar a um texto — sugeriu o senador.
Durante a audiência requerida pelo senador Astronauta Marcos Pontes (PL-SP) para debater os impactos da inteligência artificial nos setores da indústria, agricultura, público, financeiro e Judiciário, especialistas apresentaram suas discordâncias ao projeto.
Coordenador de Governança em Ciência, Tecnologia e Inovação da Rede Governança Brasil (RGB), Walter Marinho apontou que testes sobre o uso da IA em julgamentos com base em dados existentes evidenciou a existência de vieses preconceituosos.
— Nós temos um case que, em determinadas regiões onde havia um grande número de crimes, ela [a aplicação de IA] automaticamente sugeria que as pessoas daquelas regiões poderiam ter uma maior chance de cometer crimes. E automaticamente ela condenava essas pessoas com penas maiores do que pessoas de outras regiões com crimes iguais. Daí a importância de uma revisão humana — apontou.
A intenção debatida no Judiciário, de acordo com o conselheiro do Conselho Nacional de Justiça (CNJ) Luiz Fernando Bandeira de Mello Filho, é a de avançar em uma aplicação que garanta uma análise rápida de dados e que facilite a redação dos textos dos magistrados e não criar robôs que tomem essas decisões.
— A ideia não é ter um robô julgando casos, mas ajudando no levantamento com base na jurisprudência do próprio magistrado e de outros tribunais. Não é possível ficar para trás nessa matéria — disse.
Alto risco
Para o Presidente do Conselho de Inovação do Hospital das Clínicas da Faculdade de Medicina da Universidade de São Paulo (FMUSP), Giovanni Cerri, a atual redação do projeto, que classifica todas as aplicações na área da saúde como de alto risco, impede o avanço do uso da IA no setor.
— A Anvisa já estabeleceu diferentes níveis de enquadramento para aplicativos com IA. Se considerarmos todas as aplicações como de alto risco, vamos inviabilizar parte da pesquisa e da aplicação da IA na saúde. Vamos retardar o processo — criticou.
A professora do Instituto Brasileiro de Mercado de Capitais (IBMEC) Crisleine Yamaji também considera que o texto aborda a IA predominantemente pelo lado dos riscos e não dos benefícios. O texto, segundo ela, é um modelo importado que não se aplica à realidade brasileira.
— Praticamente todos os setores produtivos estão dentro de alto risco. Quando se faz isso, a gente pressupõe que o uso da IA é negativo. É preciso permitir uma flexibilidade para que os próprios setores possam categorizar e estabelecer monitoramentos, sem burocratizar demais — avaliou.
Também participaram do debate na Comissão Temporária sobre Inteligência Artificial no Brasil (CTIA) o coordenador do Grupo de Governança e Regulação de Dados da Zetta, Daniel Stivelberg; o presidente da Associação das Empresas Brasileiras de Tecnologia da Informação do Estado do Rio de Janeiro (Assespro-RJ), Robert Janssesn; o gerente da Unidade de Difusão de Tecnologias da Agência Brasileira de Desenvolvimento Industrial (ABDI), Bruno Jorge Soares; e Marco Antonio Lauria, membro do Conselho da Associação Internacional de Inteligência Artificial (A2IA).
Fonte: Agência Senado
O post “Relator de projeto que regulamenta IA quer buscar texto de convergência” foi publicado em 01/11/2023 e pode ser visto original e