Resumo
A máquina de aprendizagem mínima (Minimal Learning Machine, MLM) é um método em que seu treinamento ocorre pelo cômputo de um mapeamento entre distâncias de entrada e de saída. Esse mapeamento depende de dois processos, que são a seleção dos pontos de referência e a resolução do sistema linear de múltiplas respostas. Durante a seleção de pontos de referência devem ser satisfeitos dois critérios: (i) redução da quantidade de pontos de referência e (ii) quais são os pontos de referência mais adequados. Porém, na proposta original do modelo MLM, a seleção desses pontos é realizada de maneira aleatória. Os pontos de referência são utilizados para definir as matrizes de distância no espaço de entrada (características) e saída (rótulos). Cada linha dessas matrizes, possui as distâncias de um padrão de treinamento para todos os pontos de referência. Por outro lado, cada ponto de referência define uma coluna das matrizes de distâncias. A solução obtida pela resolução do sistema linear de múltiplas respostas define o mapeamento entre as matrizes de distâncias no espaço de entrada e de saída. A seleção adequada de pontos de referência permite que se obtenha soluções menos complexas para o sistema linear de múltiplas respostas. Além disso, a redução do número de pontos de referência diminui o custo computacional do modelo MLM em sua fase de predição, que depende de um processo de otimização. Soluções esparsas de sistemas lineares de múltiplas respostas possuem a característica de ter a matriz de parâmetros com a maioria das linhas iguais a zero. Cada linha na matriz de pesos com valores iguais a zero, é equivalente a remover uma coluna da matriz de coeficientes. Relacionando isso ao MLM, a seleção de pontos de referência é um processo de tentar estimar as colunas da matriz de distâncias que são equivalentes às linhas da matriz de pesos diferentes de zero. Por isso, o processo de seleção de pontos de referência e computo do mapeamento entre as matrizes de distância pode ser tratado como um problema de resolução esparsa de sistemas lineares de múltiplas respostas, que é um problema NP-Difícil. Existem diversos métodos capazes de obter aproximações para esse tipo de problema, mas a extensão do algoritmo de Aprendizado Bayesiano Esparso (Sparse Bayesian Learning, SBL) para sistemas lineares de múltiplas respostas, M-SBL, é capaz de obter uma solução esparsa e, por ser uma estratégia Bayesiana, incorpora uma medida de complexidade chamada de navalha de Occam. Neste trabal