Em concursos de Tecnologia da Informação, especialmente para Tribunais de Contas, os algoritmos de aprendizado de máquina vêm ganhando destaque por auxiliarem em auditorias complexas, como a detecção de fraudes. Compreender os problemas de underfitting e overfitting é vital, pois eles impactam diretamente a capacidade de generalização dos modelos — ponto recorrente nas provas da FGV, CESPE, FCC e afins.
Questão base (FGV – TCE/RR – Auditor de Controle Externo, 2025):
“Marcelo, auditor especializado em Análise de Dados, está estudando o uso de algoritmos de aprendizado de máquina para a detecção de fraudes em contas públicas. Como parte de seus experimentos, ele dividiu seu conjunto de dados em treinamento e teste. Após treinar um modelo, percebeu que os resultados apresentavam indícios de underfitting. O underfitting ocorre…”
A) quando o modelo se ajusta bem ao conjunto de treinamento, mas acaba por capturar não apenas os padrões, mas também os ruídos, comprometendo sua capacidade de generalização.
B) apenas quando o conjunto de treinamento não contém exemplos de todas as classes, prejudicando o desempenho do modelo em classes minoritárias.
C) quando o modelo não consegue capturar adequadamente os padrões nos dados do conjunto de treinamento, resultando em um desempenho insuficiente.
D) quando a taxa de aprendizado do modelo é muito baixa, prolongando o tempo necessário para que o modelo convirja.
E) quando o modelo apresenta uma complexidade muito maior do que o necessário, levando ao uso ineficiente de recursos computacionais.
1. Fundamentos de Generalização
1.1 O Ciclo Treino–Validação–Teste
Dividir o dataset em subconjuntos evita avaliar o modelo nos mesmos dados em que foi calibrado. O ideal inclui:
- Treino: ajusta parâmetros internos.
- Validação: afina hiperparâmetros (taxa de aprendizado, número de árvores, etc.).
- Teste: estima desempenho em dados “nunca vistos”.
1.2 Erro de Treino x Erro de Teste
Modelo bom ≅ erro baixo em ambos. Divergências revelam:
- Overfitting: erro baixo no treino, alto no teste.
- Underfitting: erro alto em ambos.
2. Underfitting em Detalhes
É o fenômeno de alta bias (viés): o modelo é excessivamente simplista ou mal configurado, incapaz de representar a relação entrada-saída presente no conjunto de dados.
2.1 Causas Comuns
- Modelo de baixa complexidade (ex.: regressão linear para problema não linear).
- Hiperparâmetros limitantes (poucas árvores em Random Forest, profundidade rasa em Árvores de Decisão).
- Pré-processamento excessivo (redução de dimensionalidade que remove informações úteis).
- Treinamento interrompido precocemente (early stopping sem convergência).
2.2 Como Detectar
- Erro de treino significativamente alto.
- Erro de validação/teste similar ao treino (sem gap).
- Gráficos de learning curves convergindo para erro elevado.
2.3 Estratégias de Correção
- Usar modelos mais complexos ou adicionar camadas (em redes neurais).
- Aumentar o número de parâmetros/trees/neurônios.
- Reduzir regularização (α do Lasso, λ do Ridge).
- Treinar por mais épocas ou com taxa de aprendizado adequada.
3. Overfitting Contrastado
Overfitting corresponde ao extremo oposto: erro de treino muito baixo, mas teste alto, caracterizando alta variance.
3.1 Técnicas de Combate
- Regularização (L1, L2, Dropout, weight decay).
- Cross-validation k-fold para escolha robusta de hiperparâmetros.
- Early stopping monitorando métrica de validação.
- Ensemble Methods (Bagging, Boosting).
4. Análise das Alternativas da Questão
- A) Descreve sobreajuste (overfitting) — captura ruído, não padrão real.
- B) Confunde underfitting com class imbalance; problema diferente tratado com resampling, SMOTE, etc.
- C) Correta — define precisamente o underfitting.
- D) Taxa de aprendizado baixa gera treinamento lento ou travado, mas não caracteriza underfitting em si; basta aumentar ou usar scheduler.
- E) Complexidade excessiva pode levar a overfitting e gasto computacional, antônimo do cenário proposto.
5. Conceitos Correlatos que Costumam Cair
5.1 Bias–Variance Trade-off
Equilíbrio entre proximidade de acerto nos dados de treino (bias) e sensibilidade a variações nos dados (variance). A meta é minimizar o erro total.
5.2 Validação Cruzada Estratificada
Importante em bases desbalanceadas (fraudes ~1%). Mantém proporção de classes em cada fold, reduzindo variação nas métricas.
5.3 Métricas além da Acurácia
- Precisão, Revocação, F1-Score para classes raras.
- AUC-ROC: mede separação entre classes.
- PR-AUC: melhor para desbalanceados.
Conclusão: Underfitting sinaliza que o modelo não está “ouvindo” os dados. Para a prova, memorize: erro alto em todos os conjuntos, alta bias, modelo simples ou mal configurado. Diferencie com clareza de overfitting e de problemas adjacentes como class imbalance ou hiperparâmetros mal sintonizados.
Mapa da Aprovação: Resumo Esquematizado
| Aspecto | Underfitting (Alta Bias) | Overfitting (Alta Variance) |
|---|---|---|
| Erro de Treino | Alto | Baixo |
| Erro de Teste | Alto (≈ treino) | Alto (≫ treino) |
| Causas Típicas | Modelo simples; poucas épocas; forte regularização | Modelo muito complexo; treinamento excessivo; pouca regularização |
| Sintomas Visuais | Curvas de treino & validação próximas e elevadas | Curvas distantes (gap), validação aumentando |
| Contra-medidas | Aumentar complexidade, relaxar regularização, treinar mais | Regularizar, coletar mais dados, early stopping, ensemble |
Check-list Rápido
- Dados desbalanceados? Use estratificação, métricas adequadas.
- Hiperparâmetros revisados? Ajustar profundidade / número de neurônios / taxa de aprendizado.
- Cruzou folds? Validação cruzada k-fold estratificada.
Teste Seus Conhecimentos: Questões de Fixação
Referências:
- [1] Shalizi, C. – Lecture Notes on Bias-Variance Trade-off
- Goodfellow, I.; Bengio, Y.; Courville, A. (2016). Deep Learning. MIT Press.
- Hastie, T.; Tibshirani, R.; Friedman, J. (2017). The Elements of Statistical Learning (2ª ed.). Springer.
- [4] Scikit-Learn – Underfitting vs. Overfitting Example
- Chawla, N. V.; et al. (2002). “SMOTE: Synthetic Minority Over-sampling Technique”. Journal of Artificial Intelligence Research.
