Distributional Neurons: Making Uncertainty a Unit of Computation

Sintesi

Le reti neurali propagano generalmente attivazioni nascoste puntuali. Questo articolo studia una granularità più fine: il neurone stesso come unità di calcolo basata su una distribuzione. EVE associa a ogni unità un posteriore condizionato dall’input, un prior locale, un campionamento riparametrizzato, una regolarizzazione KL e diagnostiche interne. La valutazione isola dapprima la singola unità, quindi ne analizza la composizione in un MLP profondo e l’integrazione nel blocco feed-forward di un Transformer. I risultati migliorano diverse metriche probabilistiche mantenendo una precisione puntuale comparabile.

Questa pagina offre una presentazione in italiano. Il titolo bibliografico ufficiale, l’abstract completo, il manoscritto e i metadati di Google Scholar restano disponibili nella pagina scientifica di riferimento in inglese.