Sampling-based inference and predictions in the hippocampus  Page description

Help  Print 
Back »

 

Details of project

 
Identifier
125386
Type PD
Principal investigator Újfalussy, Balázs Benedek
Title in Hungarian Inferencia és predikció mintavetelezés alapján a hippokampuszban
Title in English Sampling-based inference and predictions in the hippocampus
Keywords in Hungarian hippocampus, idő, szekvencia, inferencia, statisztikus modellek, mintavételezés, viselkedés, adatelemzés
Keywords in English hippocampus, time, sequences, inference, statistical modeles, sampling, behaviour, data analysis
Discipline
Cognition (e.g. learning, memory, emotions, speech) (Council of Medical and Biological Sciences)60 %
Neuroanatomy and neurophysiology (Council of Medical and Biological Sciences)20 %
Analysis, modelling and simulation of biological systems (Council of Medical and Biological Sciences)20 %
Panel Neurosciences
Department or equivalent LendületLaboratory of Neuronal Signaling (Institute of Experimental Medicine)
Participants Orbán, Gergo
Starting date 2017-12-01
Closing date 2020-12-31
Funding (in million HUF) 15.216
FTE (full time equivalent) 2.40
state closed project
Summary in Hungarian
A kutatás összefoglalója, célkitűzései szakemberek számára
Itt írja le a kutatás fő célkitűzéseit a témában jártas szakember számára.

Az idegrendszer egyik kulcsfeladata, hogy a viselkedési döntések meghozatalát predikciókkal segítse. Ahhoz, hogy predikciókat tehessen, az agy egy, a környezetről alkotott dinamikus modellt használ, ám nem ismert, hogy milyen formában tárolja és hogyan használja ezt a dinamikus modellt.

A hippokampusz fontos szerepet játszik a térbeli tájékozódásban és az epizódikus emléknyomok eltárolásában. Mindkét képességhez szükséges az egymástól időben elválasztott események összekötése. Az a hipotézisünk, hogy a hippokampusz egy dinamikus valószínűségi generatív modellt formál. A hálózat működésének alapja, hogy a modellből időbeli pályákat (trajektóriákat, azaz egymás után következő állapotok sorozát, melyek az ún. theta szekvenciáknak felelnek meg) mintavételez. Ezek a trajektóriák tükrözhetik mind a közelmúlt történéseire vonatkozó inferenciát, mind a jövőre vonatkozó predikciókat.

Az elmélet azt jósolja, hogy az idegsejtek aktivitásának variabilitása szorosan kapcsolódik a környezetet jellemző bizonytalansághoz. A pályázat célja, hogy a trajektória mintavételezés elméletét kidolgozza, és a predikcióit kísérleti adatokon tesztelje. Szabadon mozgó állatokból származó sok-elektródás elvezetések adatait fogom elemezni, hogy a theta szekvenciák során fellépő variabilitás konzisztens-e az elmélet jóslataival. Továbbá kísérletesen indukált környezeti ambiguitás során mért Ca jelek alapján feltárom a kapcsolatot a környezet bizonytalansága, a neurális variabilitás és az egyedi események során mutatott viselkedésbeli válaszok között. Az elméleti megfontolásokon alapuló kísérletek segítségével megérthetjük, hogy az agy miként tud jóslatokat tenni egy bizonytalan világban.

Mi a kutatás alapkérdése?
Ebben a részben írja le röviden, hogy mi a kutatás segítségével megválaszolni kívánt probléma, mi a kutatás kiinduló hipotézise, milyen kérdéseket válaszolnak meg a kísérletek.

Az idegrendszer komplex feladatok során jelentős bizonytalanság mellett is képes jó döntéseket hozni. Ahhoz, hogy a különböző lehetőségek közül is képesek legyünk helyesen választani, meg kell jósolnunk a választás lehetséges következményeit és azok bekövetkezésének a esélyét. A helyes jóslathoz szükség van arra, hogy agyunk megalkossa a környezet időbeli struktúrájának a modelljét, de nem ismert, hogy milyen neurális mechanizmusok felelősek a modell tárolásáért, a predikciók megalkotásáért vagy a hozzajuk tartozó bizonytalanság reprezentációjáért.

A hippokampusz fontos szerepet játszik a térbeli navigációban és az epizódikus emléknyomok eltárolásában. Mindkét képességhez szükséges az egymástól időben elválasztott események összekötése. Az a hipotézisünk, hogy a hippokampusz egy dinamikus valószínűségi generatív modellt formál, amelyben az egyedi eseményeket sejtcsoportok aktivitása kódolja, és a környezet időbeli strukturája a sejtcsoportok közötti dinamikára képzezhető le. A hálózat működésének alapja, hogy a modellből időbeli pályákat (trajektóriákat, azaz egymás után következő állapotok sorozát, melyek az ún. theta szekvenciáknak felelnek meg) mintavételez. Ezek a trajektóriák tükrözhetik mind a közelmúlt történéseire vonatkozó inferenciát, mind a jövőre vonatkozó predikciókat. Mivel a predikciókhoz tartozó bizonytalanságot a trajektóriák variabilitása kódolja, az elmélet szoros kapcsolatot jósol a neurális variabilitás és az állat viselkedése között. A pályázat célja, hogy a trajektória mintavételezés elméletét kidolgozza, és a predikcióit kísérleti adatokon tesztelje.

Mi a kutatás jelentősége?
Röviden írja le, milyen új perspektívát nyitnak az alapkutatásban az elért eredmények, milyen társadalmi hasznosíthatóságnak teremtik meg a tudományos alapját. Mutassa be, hogy a megpályázott kutatási területen lévő hazai és a nemzetközi versenytársaihoz képest melyek az egyediségei és erősségei a pályázatának!

Jelen pályázatban bemutatott kutatás két fontos ponton járulhat hozzá a tudomány fejlődéséhez: Elsősorban azt fogjuk feltárni, hogy az agykéreg információ feldolgozó működéséhez hogyan járul hozzá a idegsejtek aktivitásában mérhető variabilitás. A mintavételezés hipotézis azt feltételezi, hogy a variabilitás nem rossz (zaj) és nem is semleges (redundancia), hanem a számítások elengedhetetlen részét képezi: az egyes eseményekhez rendelt bizonytalanságot reprezentálja. Mint sok más biológiai rendszer, az idegrendszer is sokszor zajosnak és megbízhatatlannak tűnik. Azonban többféleképpen tekinthetünk erre a zajra: megpróbálhatjuk csökkenteni a mértékét vagy teljesen kiküszöbölni, de meg is szelidíthetjük, hogy valami hasznos munkát végezzen. A gépi tanulás és statisztika ezt Monte Carlo technikáknak nevezi, de még lehetne mit tanulni az idegrendszertől, ha jobban megértenénk működésének alapjait. A pályázatban bemutatott kísérleteken keresztül megtudhatjuk, hogy az idegrendszer hogyan képes a zajt értelmes variabilitássá formálni, hogy segítségével a jövőre vontakozó jóslatokat tehessen.

Másodszor, fényt derítünk azokra a neurális mechanizmusokat, melyek a jóslatokért és az inferenciáért felelősek a hippokampusz által megvalósított generatív modellben. Megközelítésünk újdonsága abban áll, hogy egy statisztikai alapú, nagyszámú kísérleti adat értelmezésére alkalmas keretet ajánl, valamint számos korabbi funkcionális elméletet ("kognitiív gráf", "mentális tér") önt kvantitatív formába. Az egyedi eseményekre vonatkozó predikciók és a hozzájuk tartozó binzonytalanság neurális alapjának azonosítása fontos lépés lesz flexibilis neurális protézisek tervezése felé is.

Jelen pályázat szoros kollaboraciót igényel elméleti és kísérleti oldal között, és a neurális aktivitás szintjét összeköti az állat viselkedésével. A pályázat alapja, hogy a különféle szintű megközelítések egymást kölcsönösen erősítik, Magyarországon még ritkának számít. Az elméleti technikákat, melyeket a munka során használni tervezünk - Bayesiánus statisztika, neurális mintavételezés vagy rejtett változós modellek - sikeresen alkalmazták a neocortex megértésére, de a hippokampusz irányában képességeik mindezidáig kiaknázatlanok maradtak.

A kutatás összefoglalója, célkitűzései laikusok számára
Ebben a fejezetben írja le a kutatás fő célkitűzéseit alapműveltséggel rendelkező laikusok számára. Ez az összefoglaló a döntéshozók, a média, illetve az érdeklődők tájékoztatása szempontjából különösen fontos az NKFI Hivatal számára.

Ahhoz, hogy jó döntéseket hozhassunk, fel kell mérnünk a döntések lehetséges következményeit, valamint az egyes események bekövetkezésének esélyeit. Ha a rövidebb utat vagy gyorsabb sort akarjuk kiválasztani, vagy ha süteményt rendelünk a repülőtérre indulás előtt, mind olyan mindennapos döntési helyzetek melyek könnyen balul sülhetnek el. Jellemző rájuk a bizonytalanság a jelenlegi helyzetet illetően - Hol vagyok? Melyik sor rövidebb? Történt-e baleset az úton? - és az események közötti összefüggések modellezése - Hova jutok, ha balra fordulok? Milyen gyorsan haladnak a sorok? Milyen hamar ér a taxi a repülőtérre?

Ebben a pályázatban azt tanulmányozzuk, hogy az idegrendszer hogyan tesz jóslatokat és hogyan méri fel az egyes események bekövetkezésének esélyét. Azt gondoljuk, hogy a hippocampus eltárolja a környezet modelljét, ahol az egyes eseményeket sejtcsoportok aktivitása kódolja, míg az események közötti kapcsolatokat a hálózat dinamikája képezi le. A modell segítségével az agy képes a lehetséges eseményekből mintákat venni trajektóriák (eseménysorozatok) formájában. Az egyes események bekövetkezésének az esélye a mintákban mért gyakoriságuk segítségével becsülhető.

Ahhoz, hogy a mintavételezés neurális alapját azonosítani tudjuk, idegsejtek aktivitását fogjuk mérni a hippokapuszban, mialatt az egerek egyszerű döntési feladatban vesznek részt. Azt várjuk, hogy az idegsejtek aktivitásának variabilitása arányos lesz a feladat bizonytalanságával. A kísérletek során lehetőségünk lesz az állat viselkedését az idegsejtek aktivitása alapján megjósolni, és megérthetjük hogy az agy miként használ modelleket arra, hogy előrejelezzen eseményeket egy bizonytalan világban.
Summary
Summary of the research and its aims for experts
Describe the major aims of the research for experts.

Making informed predictions to guide adaptive actions is a basic goal of all neural systems. Predictions require a model of the temporal structure of the environment, but little is known about how the brain might implement dynamical models and use them for computations.

The hippocampus has a crucial role in episodic memory and spatial navigation, both of which requires the ability to form associations across temporally separated events. I propose, that the hippocampus implements a dynamical probabilistic generative model. The basic computation of the circuit is to sample trajectories (sequences of states; corresponding to theta sequences) from the model representing both inference of recent states from the available sensory evidence and predictions of future states.

Our theory predicts that the variability observed in the neuronal activity is tightly coupled to the uncertainty of the animal about the environment. The goal of the proposal is to elaborate our central hypothesis about trajectory sampling theory and test its predictions using experimental data. Specifically, I will analyse multi-electrode recordings from freely moving rats to test whether the changes in the variability of theta sequences is consistent with the predictions of the theory. Moreover, I will analyse Ca imaging data from mice performing decision making under experimentally induced environmental ambiguity to asses the relationship between uncertainty, neuronal variability and behavioural performance on a single trial basis. These theory-driven experimental investigations will enable us to elucidate the neuronal mechanisms of how the brain uses models to make predictions in an uncertain world.

What is the major research question?
Describe here briefly the problem to be solved by the research, the starting hypothesis, and the questions addressed by the experiments.

Our brains are able to make informed decisions about complex problems in an uncertain world. A necessary requirement for selecting among different choices is the ability to predict their potential future outcomes and the probability of their occurrence. Predictions require a model of the temporal structure of the environment, but little is known about the neuronal mechanisms responsible for the implementation of this dynamical model, nor how the brain uses dynamical models to predict future outcomes and how it represents the uncertainty associated with them.

The hippocampus has a crucial role in episodic memory and spatial navigation, both of which requires the ability to form associations across temporally separated events. The central hypothesis of our proposal is that the hippocampus implements a dynamical model of the environment, where individual events are encoded by the activation of cell assemblies and the temporal structure of the environment is mapped to the dynamics of the cell assemblies. The basic computation of the circuit is to generate sampled trajectories (sequences of events; corresponding to theta sequences) from the model representing both inference of recent states from the available sensory evidence and predictions of future events. As the uncertainty of the predictions is represented by the variability of the trajectories, our theory predicts a tight coupling between the behavioural performance and the neuronal variability. The goal of the project is to elaborate the experimental predictions of the trajectory sampling theory, to analyse neuronal data to test these predictions and to design novel experiments to further challenge the model.

What is the significance of the research?
Describe the new perspectives opened by the results achieved, including the scientific basics of potential societal applications. Please describe the unique strengths of your proposal in comparison to your domestic and international competitors in the given field.

Our research project will have a substantial contribution to the progress of the field along the following two directions: First, it will contribute to understand the role of neuronal variability in cortical computations. The sampling theory assumes that variability is neither bad (noise), nor neutral (redundancy) but it is a crucial part of the computations performed by the brain: it represents the uncertainty associated with specific events. As many other biological systems, the nervous system seems often noisy and unreliable. However, there are many ways to look at this noise: one can try to get reduce or suppress it, one can also tame the dragons, and get the noise to do some useful work for the system. This is exactly what Monte Carlo methods are achieving for machine learning, but we may still learn efficient new tricks from the brain if we can understand its computational principles. Our theory driven experimental investigations will clarify how the brain transforms the noise to useful neuronal variability in order to implement sampling based predictions in the nervous system.

Second, we will reveal the neuronal mechanisms of predictions and inference in a generative model implemented by the hippocampus. The major novelty of our approach is that it offers a solid statistical framework to interpret a wealth of experimental data and formalises earlier theoretical considerations (e.g., "cognitive graph", "mental space") about the function of the hippocampus. Identifying neural correlates of internal representations of predictions and the associated uncertainty on a single trial level will also be an essential step towards designing flexible neuronal prosthetics.

The proposed project requires a tight collaboration between theory and experiments and links neuronal activity with behaviour, a constellation seldom observed in Hungary but proven to have a great potential to advance neuroscience. Furthermore, the computational techniques used in the project - Bayesian statistics, neuronal sampling or latent variable modelling - have been successfully applied to reveal neocortical computations, but their potential to elucidate hippocampal function remained largely unexplored.

Summary and aims of the research for the public
Describe here the major aims of the research for an audience with average background information. This summary is especially important for NRDI Office in order to inform decision-makers, media, and others.

Making informed decisions requires to predict the potential future consequences and evaluate the uncertainty associated with the outcomes. For example, taking a risky shortcut, choosing between queues or ordering a cake just before going to the airport are typical situations where things can easily go wrong. A common factor in all these situations is that they are all characterised by uncertainty of our current state (Where am I? Which queue is shorter? Are there accidents on the road?) and a temporal model of the environment (Where do I get if I turn right? How fast queues progress? How quick it is to get to get a taxi?).

The current project studies how the brain represents uncertainty in temporal models of the outside world. We propose that the hippocampus implements a model of the environment, where events are encoded by a group of cells and the temporal dynamics of events is mapped to their activity dynamics. To represent uncertainty and to make predictions, the brain samples possible trajectories (series of events) from this model that are consistent with the sensory inputs. The frequency of certain events in the resulting samples could then be used to predict the future outcome of decisions.

To identify neuronal correlates of the trajectory sampling, we will monitor the activity of multiple neurons in the hippocampus of mice performing a simple decision making task. We predict that the variability of neuronal responses will be proportional to the level of uncertainty in the task. These experiments will enable us to predict the choices of the animal on individual trials and to understand how the brain uses models to make predictions in an uncertain world.





 

Final report

 
Results in Hungarian
Cselekedeteink lehetséges jövőbeli következményeinek felmérése fontos eleme az intelligens tervezésnek. Változó és csak részben megfigyelhető környezetben az állatok számára hasznos lehet, ha egyszerre többféle opcióval is számolnak, de hogy az egyes opciók valószínűségét hogyan reprezentálja az idegrendszer az még feltáratlan. Ebben a pályázatban térbeli navigáció során megfigyelhető hippokampális reprezentációkat vizsgáltuk melyek az útvonal tervezéséhez kapcsolódnak. Nem találtunk arra utaló jeleket, hogy az agy többféle opciót egyidejűleg reprezentálna: az idegsejtek aktivitása minden időpillanatban csak egyetlen pozíciót kódolt. Ezzel szemben az egymás utáni theta ciklusokban kódolt útvonalak közötti variabilitás nagyobb, mint amit akkor várnánk, ha mindig csak az állat számára a pillanatnyilag legvalószínűbb opció volna reprezentálva. Ez arra utal, hogy az idegrendszer a lehetséges opciókat egymás után, véletlenszerűen mintavételezve veszi figyelembe a rövid távú tervezés során. Megvizsgáltuk azt is, hogy a hippokampális piramissejtek dendritfája mennyiben járul hozzá a sejtek hely-függő aktivitásához. Azt találtuk, hogy egyetlen, globális dendritikus nemlinearitással jól tudtuk jósolni a sejtek természetes szinaptikus bemenetekre adott válaszát. Ezen túlmenően megmutattuk hogy a dendritikus nemlinearitások akkor tudják érdemben befolyásolni a sejt kimenetét, ha a szinaptikus klaszterek közepes méretűek.
Results in English
Predicting the possible future consequences of actions is necessary for efficient planning. In volatile or partially observed environments animals can capitalise on representing the uncertainty associated with those predictions but whether and how uncertainty is represented during planning, and more specifically during navigation has remained elusive. In this project, we investigated the neuronal representations in the hippocampus associated with planning during a goal-oriented spatial navigation task. We found no evidence for the instantaneous representation of the uncertainty in the data: the population activity typically encoded single locations at any given time point. However, the variability between subsequent theta cycles is larger than that expected from only encoding the most likely trajectory, and is consistent with random sampling from hypothetical future trajectories. Thus, in the hippocampus uncertainty during short term planning is represented by encoding multiple alternative options sequentially. We also analysed the contribution of dendritic nonlinearities to the spatially selective activity of hippocampal place cells. We found that linear integration with a single global dendritic nonlinearity can accurately predict the response of neurons to naturalistic synaptic inputs. Moreover, we demonstrated that the contribution of dendritic nonlinearities to the neural output is maximal when synaptic clusters, formed via local plasticity, are moderately large.
Full text https://www.otka-palyazat.hu/download.php?type=zarobeszamolo&projektid=125386
Decision
Yes





 

List of publications

 
Ujfalussy B.B., Makara J.K.: Impact of functional synapse clusters on neuronal response selectivity, NATURE COMMUNICATIONS 11: (1) 1413, 2020
Ádám Magó, Jens P. Weber, Balázs B. Ujfalussy and Judit K. Makara: Synaptic Plasticity Depends on the Fine-Scale Input Pattern in Thin Dendrites of CA1 Pyramidal Neurons, The Journal of Neuroscience, 40(13):2593–2605, 2020
Balázs B. Ujfalussy, Judit K. Makara, Máté Lengyel, Tiago Branco: Global and Multiplexed Dendritic Computations under In Vivo-like Conditions, Neuron, 100 p579–592, 2018
Balázs B Ujfalussy, Judit K Makara: Impact of functional synapse clusters on neuronal response selectivity, BioRxiv, 634220; doi: https://doi.org/10.1101/634220, 2019
Balázs Ujfalussy, Márton Kis, Gergő Orbán: Representation of uncertainty during hippocampal theta sequences, 2019 Conference on Cognitive Computational Neuroscience, 2019




Back »