O avanço dos sistemas autônomos e tudo que vem associado a esse modelo, como a segurança e a necessidade do humano atuando sempre junto à máquina, é um dos temas destacados por líderes do setor público durante o AWS DC Summit, que acontece em Washington (EUA) essa semana. “O próximo passo da evolução é a construção de sistemas autônomos de defesa. E a chave desse movimento é fazer com que aconteça tendo humanos supervisionando cada processo", disse o vice-presidente e Chief Security Officer Amazon, Stephen Schmidt. Uma pessoa pode fazer a mesma pergunta a um modelo de IA 100 vezes, e não receberá a mesma resposta todas as vezes. Isso faz parte da forma como a matemática por trás desses sistemas funciona, o chamado modelo não determinístico.“Ter um ser humano capaz de fazer um julgamento final sobre o que a IA produziu é extremamente importante", reforçou. Desta forma, se você está apenas fazendo uma pergunta e recebendo uma resposta, isso pode exigir um nível de escrutínio. Mas, se você vai tomar uma ação para bloquear algo ou impedir que algo aconteça, é preciso ter certeza absoluta de que aquilo está correto. “É necessário haver uma pessoa qualificada, ao final do processo de uso da IA, dizendo: “sim, essa é a ação correta a ser tomada neste momento e neste contexto”, reforça. Essa visão é compartilhada pela Chief Artificial Intelligence Officer CIA, Lakshmi Raman. “Definitivamente, temos uma oportunidade de transformar as operações empresariais, utilizando IA para executar tarefas complexas e com várias etapas, acionando ferramentas em diferentes bases de dados e outros sistemas fundamentais, o que tem um potencial tremendo. Mas sempre com um ser humano em uma etapa crucial para revisar o que está acontecendo", defende.Segundo ela, porém, é preciso se preocupar com o chamado drift, desvio de comportamento do modelo. Esses sistemas funcionam, em parte, como uma caixa-preta. O que está acontecendo dentro dessa caixa-preta? Podemos garantir um nível de explicabilidade para os usuários? “Podemos estar acessando dados de várias bases ao mesmo tempo. Garantir que temos autorização legal e estamos em conformidade com políticas e normas de proteção de dados é essencial. Mas, com isso em mente, ser capaz de reunir dados de múltiplas fontes e usar agentes de IA como auxiliares cognitivos é algo incrivelmente empolgante", analisa.