Distributional Neurons: Making Uncertainty a Unit of Computation

Zusammenfassung

Neuronale Netze geben verborgene Aktivierungen meist als Punktwerte weiter. Dieser Artikel untersucht eine feinere Recheneinheit: das Neuron selbst als verteilungsbasierte Recheneinheit. EVE versieht jede Einheit mit einem eingabebedingten Posterior, einem lokalen Prior, reparametrisiertem Sampling, KL-Regularisierung und internen Diagnosen. Die Auswertung isoliert zunächst die einzelne Einheit und untersucht anschließend ihre Zusammensetzung in einem tiefen MLP sowie ihre Integration in den Feed-forward-Block eines Transformers. Die Ergebnisse verbessern mehrere probabilistische Metriken bei vergleichbarer Punktvorhersagegenauigkeit.

Diese Seite bietet eine deutschsprachige Einführung. Der offizielle bibliografische Titel, das vollständige Abstract, das Manuskript und die Google-Scholar-Metadaten bleiben auf der englischen wissenschaftlichen Referenzseite verfügbar.