Algorithmic ersatz for VSA: Macroscopic simulation of Vector Symbolic Architecture
Ersatz algorithmique pour VSA : simulation macroscopique de l'architecture symbolique vectorielle
Résumé
Spiking neuronal networks are biologically plausible implementations of brain circuit computations, meaning that they can provide a way to manipulate symbols embedded as numeric vectors that carry semantic information. More precisely, the Neural Engineering Framework (NEF), relying itself on a vector symbolic architecture (VSA) formalism, bridges the gap between tightly interleaved numerical and symbolic (including formal) computations. Determining how the brain can implement such processing is an important issue.
In the present work, following this track, we consider such a VSA-based formalism, and propose an implementation at a macroscopic level, thus a higher order of magnitude of scale than usual mesoscopic implementations. We also attempt to provide a better natural representation of usual human symbolic operations, considering an implementation of modal logic. Beyond usual VSA data structures such associative memories we also introduce the notion of "relation maps" corresponding to relational memories, as observed in the brain.
An open-source implementation is provided with a benchmark and experimental observation of the method performance and limitation.
Les réseaux neuronaux à pics sont des implémentations biologiquement plausibles des calculs de circuits cérébraux, ce qui signifie qu'ils peuvent fournir un moyen de manipuler des symboles intégrés sous forme de vecteurs numériques porteurs d'informations sémantiques. Plus précisément, le Neural Engineering Framework (NEF), s'appuyant sur un formalisme d'architecture symbolique vectorielle (VSA), comble le fossé entre les calculs numériques et symboliques (y compris formels) étroitement imbriqués. Déterminer comment le cerveau peut mettre en œuvre un tel traitement est une question importante.
Dans le présent travail, en suivant cette piste, nous considérons un tel formalisme basé sur VSA et proposons une implémentation à un niveau macroscopique, donc un ordre de grandeur d'échelle plus élevé que les implémentations mésoscopiques habituelles. Nous tentons également de fournir une meilleure représentation naturelle des opérations symboliques humaines habituelles, en considérant une implémentation de la logique modale. Au-delà des structures de données VSA habituelles telles que les mémoires associatives, nous introduisons également la notion de « cartes de relations » correspondant aux mémoires relationnelles, telles qu'observées dans le cerveau.
Une implémentation open source est fournie avec un benchmark et une observation expérimentale des performances et des limitations de la méthode.
Origine | Fichiers éditeurs autorisés sur une archive ouverte |
---|