Come calcolare peso Decay in Reti Neurali

reti neuronali sono formate dai circuiti delle cellule elettricamente eccitabili . Queste reti sono composte da un numero variabile di ingresso e di uscita del neurone strati . Le sinapsi di memorizzare parametri chiamati "pesi ", usato per manipolare i dati nei calcoli . Per mezzo di " peso decadimento , " si può calcolare una uscita generalizzata di un'intera rete di neuroni . Questo decadimento peso fornisce un certo rigore sui pesi più grandi per regolarizzare i dati in uscita . Se non decaduto, i grandi pesi possono causare rilevanti variazioni nei dati di uscita . Pertanto , è molto importante utilizzare l'eliminazione di peso e ridurre i pesi più grandi al fine di raggiungere una superficie liscia output.Things che ti serviranno
MATLAB /toolbox NetLab

Mostra Altre istruzioni
Calcolo

1

-up ingressi in MATLAB . Aprire la casella degli strumenti NetLab - " Mathworks " > " NetLab " - e assegnare i parametri di input come segue : matrice per vettori di ingresso , matrice per valori di riferimento , il numero di unità nello strato nascosto, il numero massimo di iterazioni per le reti non convergenti ei parametri per il peso decadimento
.
2

Usate le statistiche di regolarizzazione di Gauss per ogni livello di rete . Impostare i parametri di peso decadimento a mlpprior , in modo che: prima = mlpprior ( nin , NHidden , Nout , aw1 , AB1 , aw2 , AB2 ) , dove " aw1 " è il decadimento peso delle prime pesi strato ; " AB1 " è il parametro decadimento peso per i primi pregiudizi strato ; " aw2 " è il parametro decadimento peso per il secondo strato pesi ; " AB2 " è il parametro di decadimento peso per il secondo strato di pregiudizi . Set-up della rete attraverso la formazione dei dati di ingresso e di uscita in modo tale che netti = MLP ( nin , NHidden , Nout , funzione precedente) e [ net , opzioni] = netopt (al netto , opzioni , Trainin , trainOut , metodo ) .

3

Impiegare la standardizzazione degli input e degli obiettivi o regolare la durata pena per deviazioni standard per tutti gli ingressi e gli obiettivi . Una buona generalizzazione può essere possibile se almeno 3 diversi costanti di decadimento sono disponibili per i nascoste , nascosto , e -output nascosto pesi ingresso nascosto nella rete .