Um modelo de linguagem pode redigir um e-mail impecável e, em seguida, inventar uma referência jurídica inexistente, tudo na mesma conversa. Avaliar a fiabilidade da inteligência artificial exige ir além da simples questão da veracidade das respostas e analisar o que, na própria conceção desses sistemas, produz resultados ora úteis, ora enganosos.
Fiabilidade da IA em testes e em condições reais: uma diferença subestimada
A maioria dos artigos sobre as limitações da IA concentra-se nos erros visíveis: uma data errada, um número inventado, uma fonte inexistente. O quadro de análise do NIST (AI 600-1, perfil dedicado à IA generativa) aponta para um problema mais estrutural: o desempenho medido em laboratório não prevê o comportamento após a implementação.
Um modelo pode obter uma pontuação elevada num conjunto de dados de teste e, depois, produzir resultados piores perante pedidos formulados de outra maneira ou num contexto que os seus dados de treino não abrangiam. Por esse motivo, o NIST recomenda a monitorização contínua dos sistemas em funcionamento, e não apenas uma validação inicial.
Esta distinção tem consequências concretas. Uma empresa que valida uma ferramenta de IA com base numa amostra controlada e, depois, a implementa em grande escala sem mecanismos de acompanhamento fica exposta a uma degradação silenciosa dos resultados. Para compreender melhor as razões da falta de fiabilidade da IA, é preciso olhar para além da simples exatidão pontual.
Alucinações, enviesamentos e privacidade: quadro dos riscos identificados pelo NIST
O perfil AI 600-1 do NIST não se limita aos erros factuais. Distingue várias categorias de riscos que afetam a fiabilidade de um sistema de IA generativa, mesmo quando a resposta parece correta à primeira vista.
| Tipo de risco | Descrição | Consequência para o utilizador |
|---|---|---|
| Fabricação de informações (confabulação) | O modelo gera factos, citações ou referências inexistentes | Decisões baseadas em dados falsos |
| Enviesamentos herdados dos dados de treino | Os resultados reproduzem desequilíbrios presentes no conjunto de dados | Discriminação no recrutamento, no crédito e na saúde |
| Violação da privacidade | O modelo pode reproduzir dados pessoais assimilados durante o treino | Violação da privacidade sem que o utilizador se aperceba |
| Impossibilidade de rastrear a proveniência | Não há uma forma fiável de verificar a origem de uma informação gerada | Incapacidade de auditar ou contestar um resultado |
Uma resposta plausível pode ser problemática mesmo sem um erro factual evidente, se utilizar dados pessoais ou não permitir identificar a sua fonte. Este aspeto continua a ser pouco abordado nos guias destinados ao público em geral sobre as limitações da IA.
Regulamento Europeu da IA: a fiabilidade como obrigação, não como recomendação
O Regulamento Europeu da IA (AI Act) entrou em vigor em 1 de agosto de 2024. A sua aplicação é gradual: as obrigações de literacia em IA e algumas proibições aplicam-se desde 2 de fevereiro de 2025, e as regras relativas aos modelos de IA de finalidade geral entrarão em vigor em agosto de 2025.
Esta abordagem baseada nos níveis de risco muda as regras do jogo. Uma ferramenta de IA utilizada para filtrar candidaturas ou atribuir uma pontuação de crédito não está sujeita ao mesmo regime que um chatbot de apoio ao cliente. As obrigações de transparência, documentação e controlo humano aumentam consoante o nível de risco atribuído.
O que o quadro regulamentar exige na prática
- Os sistemas classificados como de alto risco (saúde, recrutamento, justiça) devem ser submetidos a uma avaliação de conformidade antes de serem colocados no mercado, incluindo a documentação dos dados de treino e das medidas contra os enviesamentos
- Os fornecedores de modelos de IA de finalidade geral terão de cumprir obrigações de transparência relativamente aos dados utilizados e às limitações conhecidas do sistema
- Os utilizadores profissionais de sistemas de alto risco têm de implementar supervisão humana e comunicar falhas graves
Assim, a regulamentação trata a fiabilidade como uma questão de governação e responsabilidade, e não apenas como uma questão técnica de desempenho do modelo.
Adoção nas empresas: a diferença entre ter uma ferramenta disponível e saber utilizá-la
Em França, apenas 10 % das empresas com 10 ou mais trabalhadores utilizavam pelo menos uma tecnologia de IA em 2024, face a 6 % no ano anterior. Este rápido crescimento esconde um problema: ter uma ferramenta disponível não significa saber utilizá-la de forma fiável.
Uma experiência individual feita por um trabalhador curioso não cria um processo. Sem um protocolo para verificar os resultados, sem formação sobre as limitações do modelo e sem regras claras sobre os dados que podem ou não ser introduzidos numa ferramenta de terceiros, a adoção continua a ser frágil. O risco deixa então de ser apenas uma resposta errada e passa a ser uma confiança mal calibrada em resultados não verificados.
Verificação dos resultados: o que muitas vezes falta
O NIST recomenda verificar sistematicamente as fontes e citações produzidas por um modelo generativo. Na prática, esta verificação raramente está integrada nos processos de trabalho. Um colaborador que utiliza um assistente de IA para redigir um resumo ou preparar uma decisão nem sempre tem o hábito ou o tempo necessário para verificar cada afirmação.
O problema agrava-se nos domínios em que os erros têm consequências graves: saúde, direito e finanças. Nestes setores, a supervisão humana não é um luxo, mas uma condição de funcionamento.
A fiabilidade da inteligência artificial não se resume a uma taxa de erro num benchmark. Depende da qualidade dos dados de treino, do contexto de implementação, do nível de supervisão humana e do quadro regulamentar que rege a sua utilização. Ao impor obrigações proporcionais ao risco, o regulamento europeu formaliza aquilo que a experiência no terreno confirma: um modelo com bom desempenho em condições controladas pode tornar-se uma fonte de decisões erradas sem uma governação adequada.
