Resumo
Máquinas de Vetores Suporte de Mínimos Quadrados (Least Squares Support Vector Machines, LSSVM) são uma alternativa para as Máquinas de Vetores Suporte (Support Vector Machines, SVM) convencionais, pois o seu processo de treinamento é baseado em resolver um sistema de equações lineares, enquanto o processo de treinamento da SVM consiste em resolver um problema de programação quadrática (Quadratic Programming, QP). Problemas de programação quadrática podem ser representados por uma função convexa, no qual é tão facil de resolver quanto uma função linear, ou uma função não convexa, quando pode apresentar várias soluções viáveis. Com isso, apesar de resolver um sistema de equações lineares ser mais fácil que resolver um problema de programação quadrática, a ausência de esparsidade na solução, torna sua aplicação incoveniente a um grande conjunto de dados. A fim de superar tal desvantagem, neste trabalho são apresentadas duas novas abordagens às máquinas de vetores suporte, chamadas Optimally Pruned LSSVM (OP-LSSVC), quando aplicada a problemas de classificação e Optimally Pruned LSSVR (OP-LSSVR), quando aplicada a problemas de regressão. São apresentadas também outras duas abordagens semelhantes, chamadas Matching Pursuit LSSVC (MPLSSVC), quando aplicada a problemas de classificação e Matching Pursuit LSSVR (MPLSSVR), quando aplicada a problemas de regressão. A Máquina de Vetor Suporte de Mínimos Quadrados Otimamente Podada (Optimally Prunned Least Squares Support Vector Machines, OP-LSSVM), proposta deste trabalho, faz uso da Regressão Esparsa Multiresposta (Multiresponse Sparse Regression, MRSR), um método para obtenção de soluções esparsas, que durante o treinamento permite obter uma ordem dos vetores que mais representa uma variável dependente. Além disso, essa ordem fornecida pelo MRSR é reavaliada, de forma que um subconjunto de vetores suporte ainda melhor seja obtido. Para isso, o método de validação cruzada Leave-one-out (LOO) é utilizado. Essa proposta foi inspirada em uma recente metodologia, chamada OP-ELM (Optimally Prunned Extreme Learning Machine), a qual realiza a poda de neurônios da camada oculta em Máquinas de Aprendizagem Extrema (ELM). Neste trabalho, a LSSVM e o MRSR são utilizados de forma conjunta para obter um classificador e um regressor esparso. Por fim, pode-se concluir com os resultados obtidos que ambos os modelos, OP-LSSVM e OP-LSSVR, obtém um desempenho equivalente ou superior em relação a outras metodologias aplicadas. De mane