Archives scientifiques
Treize pages de recherche en accès ouvert sur les neurones variationnels et distributionnels, le calcul variationnel, l’intégration dans les Transformers, l’activité interne, la lecture des états latents et le contrôle fondé sur l’incertitude.
10 août 2026 (v1) · Zenodo · Prépublication
L’article sépare quatre axes du calcul neuronal probabiliste, formalise un critère explicite de neurone variationnel au niveau de l’unité et l’illustre par des expériences EVE contrôlées, dont une comparaison fraîche sur 50 seeds à capacité exactement appariée.
2026 · Research Square · Article de recherche
Les réseaux neuronaux propagent généralement des activations cachées ponctuelles. Cet article étudie une granularité plus fine : le neurone lui-même comme unité de calcul fondée sur une distribution. EVE associe à chaque unité un postérieur conditionné par l’entrée, un prior local, un échantillonnage reparamétré, une régularisation KL et des diagnostics internes. L’évaluation isole d’abord l’unité, puis étudie sa composition dans un MLP profond et son intégration au bloc feed-forward d’un Transformer. Les résultats améliorent plusieurs métriques probabilistes tout en maintenant une précision ponctuelle comparable.
14 juillet 2026 · Research Square · Article de recherche
Cet article développe la thèse architecturale selon laquelle le neurone peut être traité comme une distribution plutôt que comme une activation ponctuelle. Il distingue ce calcul probabiliste local d’une incertitude portée uniquement par les poids, les ensembles, les sorties ou les variables latentes globales. Il situe également EVE par rapport à l’inférence variationnelle, à la stochasticité et aux réseaux bayésiens : le changement proposé concerne d’abord la granularité de l’unité de calcul.
30 juin 2026 · Research Square · Article de recherche
Cet article étudie le neurone comme état latent local et sépare l’apprentissage du postérieur de sa lecture. Après l’entraînement, le postérieur EVE est gelé et seule la règle de lecture varie. Ce protocole vérifie si le même état latent contient une information prédictive exploitable au-delà de sa moyenne. Sur une tâche contrôlée de prévision multimodale, des lectures structurées améliorent les métriques probabilistes sans réentraîner le postérieur.
4 mai 2026 · Research Square · Article méthodologique
Cet article méthodologique propose un neurone variationnel local dont l’activité probabiliste interne peut être mesurée et contrôlée. Chaque unité comporte une variable latente scalaire, un prior normal standard, un postérieur gaussien amorti, un échantillon reparamétré et un terme KL local. Le protocole suit notamment la divergence KL, le carré de la moyenne postérieure, la proportion d’unités hors de la plage d’activité et, en option, une persistance autorégressive, puis relie ces diagnostics à l’erreur de prédiction.
20 février 2026 · arXiv · Accès ouvert
Cette publication introduit un neurone variationnel distributionnel conçu comme une unité probabiliste locale. Chaque unité porte un prior, un postérieur amorti, un échantillon reparamétré et une régularisation ELBO locale.
14 mars 2026 · arXiv · Accès ouvert
Cette publication cartographie l’espace de conception d’EVE. Elle étudie l’effet de la dimension latente, du contrôle local de capacité et de la persistance temporelle sur le fonctionnement interne mesurable du neurone.
30 mars 2026 · arXiv · Accès ouvert
Cette publication intègre des unités EVE dans les blocs feed-forward d’un Transformer tout en conservant son architecture générale. Elle compare les variantes déterministe et variationnelle à l’aide de métriques prédictives et probabilistes.
14 avril 2026 · arXiv · Accès ouvert
Cette publication étudie l’incertitude interne comme signal opérationnel. Elle l’utilise pour réguler l’apprentissage, sélectionner des points de contrôle et guider des interventions au moment de l’inférence.
27 juillet 2026 · Zenodo · Accès ouvert
EVE représente certaines activations cachées sous la forme de distributions postérieures conditionnées par l’entrée. Cette architecture rend l’incertitude interne observable et exploitable pour le suivi de la fiabilité et pour un calcul tenant compte de l’incertitude.
29 juillet 2026 · Zenodo · Accès ouvert
EVE rend l’activité postérieure interne directement mesurable pendant le calcul d’un modèle de langage. L’étude compare la qualité prédictive, la calibration et le risque dans la queue de distribution à ceux de modèles déterministes, de MC Dropout et d’ensembles.
28 juillet 2026 · Zenodo · Accès ouvert
L’article propose un tableau de mesure de l’activité postérieure locale : divergence KL, échelle postérieure, énergie de la moyenne et proportion d’unités actives. Ces mesures internes sont mises en relation avec le comportement prédictif, la calibration et la robustesse.
29 juillet 2026 · Zenodo · Accès ouvert
Cette étude contrôlée, menée avec cinq initialisations aléatoires appariées, évalue EVE comme mécanisme à petite échelle pour produire et mesurer une activité probabiliste interne. Elle examine conjointement la vraisemblance, la précision, la calibration, le risque extrême et les diagnostics postérieurs.