A discussão sobre inteligência artificial na Europa está rapidamente a deixar de ser apenas uma questão de modelos, algoritmos ou capacidade computacional. À medida que os sistemas ganham autonomia e passam de ferramentas que respondem a instruções para agentes capazes de executar tarefas, negociar ou tomar decisões, cresce também a necessidade de perceber onde termina a automação e onde começa a responsabilidade humana e empresarial.
A questão central já não é apenas o que um agente de inteligência artificial consegue fazer, mas quem assume a responsabilidade pelas decisões que esse agente toma.
É neste contexto que Adolfo Mesquita Nunes estará, a 21 de outubro, no palco Future of AI Agents in the European Regulatory Landscape, com uma intervenção centrada na relação entre a evolução destes sistemas e o enquadramento regulatório europeu.
O momento é particularmente relevante porque empresas e reguladores estão, na prática, a avançar em paralelo. De um lado, a Europa estabelece regras para a utilização de inteligência artificial através do AI Act. Do outro, as organizações começam a experimentar sistemas cada vez mais autónomos em processos onde anteriormente existia uma cadeia de decisão essencialmente humana.
É precisamente nesse intervalo entre a norma e a utilização concreta da tecnologia que surgem algumas das questões mais difíceis. Um agente pode executar uma tarefa segundo parâmetros definidos por uma organização, mas a sua autonomia introduz uma camada adicional de complexidade quando o resultado não corresponde ao que estava previsto.
Para os responsáveis de tecnologia, esta discussão está longe de ser exclusivamente jurídica. A introdução de agentes de IA nas empresas obriga a pensar simultaneamente em governação, controlo, supervisão e distribuição de responsabilidades. Quanto maior for a autonomia concedida aos sistemas, mais importante se torna perceber quem definiu as regras, quem validou os processos e quem mantém capacidade para intervir.
A autonomia tecnológica não elimina a responsabilidade da organização. Pelo contrário, torna mais importante definir antecipadamente quem controla, supervisiona e responde pelas decisões automatizadas.
A escolha de Adolfo Mesquita Nunes para esta discussão acrescenta uma perspetiva particularmente ligada à relação entre inovação e regulação. Advogado especializado em direito público e regulação, desempenhou funções como Secretário de Estado do Turismo, período em que acompanhou do lado do regulador a entrada das plataformas digitais em setores estabelecidos.
Atualmente, na Pérez-Llorca, trabalha com empresas de setores sujeitos a níveis elevados de regulação e mantém ligação ao meio académico através do ensino de Políticas Públicas na NOVA SBE e na NOVA School of Law.
Esta combinação permite olhar para o problema a partir de duas posições que nem sempre coincidem. A primeira é a do regulador, preocupado com os riscos, responsabilidades e efeitos da tecnologia. A segunda é a das organizações que precisam de interpretar estas regras e transformá-las em decisões operacionais sem bloquear a adoção de novas ferramentas.
É provavelmente neste equilíbrio que se encontra uma das principais dificuldades colocadas pelos agentes de inteligência artificial. A tecnologia avança no sentido de sistemas com maior capacidade de ação, enquanto as organizações continuam a funcionar com estruturas de responsabilidade concebidas para decisões tomadas diretamente por pessoas.
Quanto mais capacidade de decisão for transferida para agentes de IA, maior será a necessidade de tornar explícita a cadeia de responsabilidade que permanece dentro da organização.
Para os decisores empresariais, esta mudança poderá tornar a governação da inteligência artificial tão importante como a própria escolha tecnológica. Não basta avaliar o desempenho de um sistema ou a sua capacidade para automatizar processos. Torna-se necessário compreender como são tomadas as decisões, quais os limites definidos para o agente e em que momento deve existir intervenção humana.
O debate regulatório europeu entra, por isso, numa fase menos teórica. O AI Act estabelece o quadro, mas a utilização crescente de sistemas autónomos coloca às empresas o desafio de traduzir regras gerais em procedimentos concretos.
A discussão de 21 de outubro deverá concentrar-se precisamente nesse ponto de contacto entre a norma e a realidade empresarial. Porque, à medida que os agentes passam de assistentes digitais para sistemas capazes de agir em nome das organizações, a pergunta sobre quem responde deixa de ser uma hipótese jurídica para passar a fazer parte da arquitetura da própria tecnologia.
INFO: ACEPI
