Inteligência artificial, complexidade real. Esse é o tema central da 45ª Semana Científica do Hospital de Clínicas de Porto Alegre (HCPA), que ocorreu entre os dias 22 e 26 de setembro e reuniu profissionais, pesquisadores e estudantes das mais diversas áreas.
A programação incluiu uma mesa redonda sobre Inteligência Artificial e legislação, realizada no dia 24. As palestras ficaram a cargo dos advogados Rafael da Cás Maffini e André Luiz Pontin, que defenderam a importância do olhar humano na gestão das novas tecnologias.
“A inteligência artificial é uma realidade intransponível”, afirmou Maffini. Para ele, que é Mestre e Doutor em Direito pela Universidade Federal do Rio Grande do Sul (Ufrgs), o conceito de tecnologia é bastante abrangente, ainda mais na área da saúde.
Cirurgias robóticas, uso de inteligência artificial e mapeamentos genéticos são apenas algumas inovações do campo. E é aí que surge a necessidade de uma nova regulamentação.
“Se há alguma intervenção cirúrgica por um mecanismo robótico que causa uma lesão ao paciente em razão de problemas relacionados com a programação algorítmica, de quem é a responsabilidade?”, indagou o advogado.
“A inteligência artificial é uma realidade intransponível”, afirma Rafael de Cás Maffini
TÂNIA MEINERZ/JC
A resposta não é simples. Embora seja necessário analisar cada caso individualmente, é unanimidade que a implementação de novas tecnologias insere mais um agente no cenário das possíveis responsabilidades.
“Além do médico e da instituição hospitalar, há quem venda o equipamento, quem faz a manutenção do equipamento, quem programa o equipamento e assim por diante. Vamos ter que analisar as atividades imputáveis a cada um desses atores em um cenário decorrente do uso de novas tecnologias”, explicou o advogado.
Para Pontin, os avanços tecnológicos ampliam horizontes para a área da saúde, mas vêm acompanhados de novos desafios. “Os impactos relacionados ao uso da inteligência artificial numa série de atividades do ambiente hospitalar são fenomenais. Mas assim como ela traz oportunidades, também traz riscos”, afirmou.
Entre os obstáculos desse novo cenário, há um embate direto com a Lei n° 13.709/2018, mais conhecida como Lei Geral de Proteção de Dados (LGPD). A norma regulamenta a coleta, o armazenamento e o tratamento de dados pessoais no Brasil.
“A inteligência artificial se alimenta de dados. Ela só funciona com enormes volumes de dados, que criam informações. Para a inteligência artificial poder criar um processo ou prever determinada situação, ela tem que analisar milhares de outros documentos em busca de um padrão, que vai servir para identificar determinadas situações”, destacou Pontin, que é procurador-geral da Procempa.
O tratamento inadequado dessas informações pode resultar em vazamento de dados sensíveis e reidentificação de pacientes anonimizados. Há ainda a possibilidade de criação de uma espécie de “caixa preta”.
“A gente tem muita dificuldade em auditar o resultado gerado por inteligência artificial. Até reconhecemos que o resultado é perfeito, mas não sabemos como ela chegou nesse resultado. E a auditoria de um processo de saúde é muito importante”, completou o procurador-geral da Procempa.
O papel do olhar humano
Maffini explica que a inteligência artificial é resultado da interação entre uma programação e uma determinada base de dados. Isso pressupõe um certo grau de autonomia das novas tecnologias, mas não significa que a intervenção humana é dispensável.
“Se o ser humano não faz a revisão adequada, esse nível de autonomia poderá suscitar previsões, textos, constatações inadequadas. Por isso, ainda hoje, o monitoramento humano é necessário, pelo menos para revisar o produto da inteligência artificial”, afirmou o advogado.
Engana-se, portanto, quem pensa que a solução está em não usar a inteligência artificial. De acordo com Maffini, ela traz benefícios incalculáveis, que contemplam o aprimoramento de procedimentos cirúrgicos, a melhoria da educação em saúde e, até mesmo, a possibilidade de prevenir condições genéticas futuras.
O segredo, na verdade, está em conter os efeitos colaterais. E é aí, que entra um olhar humano voltado à gestão de riscos. “Essa metodologia serve para uma série de coisas. Ela serve para a gente gerir o risco de atravessar a rua, ela serve para a gente gerir o risco de dirigir um automóvel, ela também serve para a gente utilizar qualquer sistema como um sistema de inteligência artificial”, afirmou Pontin.
"A implementação de uma governança institucional é o melhor remédio", destaca André Luiz Pontin
TÂNIA MEINERZ/JC
O procurador-geral aponta para a importância de trabalhar regras de transparência dentro das instituições de saúde e construir diretrizes internas referentes à utilização das ferramentas. "A implementação de uma governança institucional é o melhor remédio para a gente tratar esses riscos relacionados ao uso da inteligência artificial", completou.
Para Maffini, além de uma governança institucional, faz-se necessário o estabelecimento de um "dever informacional" entre as instituições de saúde e os pacientes. "Quem presta atividade deve estar devidamente atento à necessidade de informar o paciente, e o paciente, por sua vez, tem que estar devidamente atento à informação do que está acontecendo", explicou.
Em outras palavras, as novas tecnologias aprimoram a atuação humana, mas não a substituem. "A gente tem que tomar cuidado para não abrir mão dos riscos da intervenção humana e simplesmente trocá-los por riscos iguais ou maiores das novas tecnologias", finalizou o advogado.