Brain-computer interfaces in a new perspective: observing the neocortex simultaneously with high density microelectrode arrays and two-photon microscopy  Page description

Help  Print 
Back »

 

Details of project

 
Identifier
121015
Type PD
Principal investigator Márton, Gergely
Title in Hungarian Agy-gép interfészek új perspektívában: a neocortex egyidejű vizsgálata nagy sűrűségű mikroelektród rendszerekkel és kétfoton mikroszkópiával
Title in English Brain-computer interfaces in a new perspective: observing the neocortex simultaneously with high density microelectrode arrays and two-photon microscopy
Keywords in Hungarian agy-gép interfész, kétfoton, mikroszkóp, mikroelektród, multielektród, agyi, MEMS,
Keywords in English brain-computer interface, two-photon, microscopy, microelectrode, multielectrode, array, neural, MEMS
Discipline
Bioinformatics (Council of Medical and Biological Sciences)50 %
Material Science and Technology (electronics) (Council of Physical Sciences)30 %
Neuroanatomy and neurophysiology (Council of Medical and Biological Sciences)20 %
Panel Genetics, Genomics, Bioinformatics and Systems Biology
Department or equivalent Institute of Cognitive Neuroscience and Psychology (Research Center of Natural Sciences)
Participants Ulbert, István
Starting date 2016-12-01
Closing date 2019-11-30
Funding (in million HUF) 15.087
FTE (full time equivalent) 2.40
state closed project
Summary in Hungarian
A kutatás összefoglalója, célkitűzései szakemberek számára
Itt írja le a kutatás fő célkitűzéseit a témában jártas szakember számára.

Az agy-gép interfészek alkalmasak többek között bénulásban szenvedő vagy amputáción átesett páciensek motorizált végprotéziseinek vezérlőjeleinek előállítására, továbbá alternatív kommunikációs útvonalat biztosíthatnak bezártságszindrómában szenvedő betegek számára. Ahhoz hogy az elektronikus eszközök gondolattal történő vezérlése gyors, megbízható, és robusztus módon megvalósulhasson, olyan neurális interfészek létrehozására van szükség, melyek alkalmasak nagy információtartalommal bíró jelek mérésére, hosszú távon. A legígéretesebb eredményeket ezen a téren idegszövetbe implantált mikroelektród-rendszerekkel sikerült elérni.
Véleményünk szerint az in vivo környezetben egyedien nagy térbeli felbontást biztosítani képes kétfoton mikroszkópia kombinálható nagy felbontású extracelluláris elektrofiziológiával (ez utóbbit a mikroelektród-rendszerek biztosítják), egér agykéregben. Ez a kombináció három fő módon lenne képes elősegíteni a neurális implantátumokon alapuló agy-gép interfész rendszerek viselkedésének és karakterisztikájának megismerését: 1. az implantátumokat körülvevő idegszövet krónikus megfigyelése optikai módszerrel rengeteg új információt szolgáltathat a gliális hegszövet képződéséről, ami kritikus az agy-gép interfészek hosszú távú működését tekintve. 2. Betekintést nyerhetünk az elektródokat körülvevő sejtek helyzete és az általuk egy neurális interfész számára szolgáltatott információ mennyisége közti korrelációba. 3. Feltárhatjuk, hogy különböző mérési modalitások jelenléte hogyan befolyásolja egy agy-gép interfész rendszer hatékonyságát.

Mi a kutatás alapkérdése?
Ebben a részben írja le röviden, hogy mi a kutatás segítségével megválaszolni kívánt probléma, mi a kutatás kiinduló hipotézise, milyen kérdéseket válaszolnak meg a kísérletek.

Feltételezzük, hogy mikroelektród-rendszerekkel mért sejtaktivitások forrása megjeleníthető szimultán mért optikai (kétfoton által gerjesztett fluoreszcenciai) és elektrofiziológiai jelek összevetésével. A két korszerű módszer együttes alkalmazásával mindkettőről lényeges tulajdonságokat tárhatunk fel. A javasolt kutatással a következő kérdésekre keressük a választ:
- Egy sejt morfológiája és elektródhoz viszonyított pozíciója hogyan hat a regisztrált akciós potenciál hullámformájára?
- Milyen a gliasejtek hosszú távú dinamikája a krónikusan implantált szenzorokat körülvevő szövetben?
- Hogyan hat az implantáció a szövetre, nemcsak anatómiailag, de funkcionális szempontból is?
- Mi az érhálózat megsértésének a hatása a mikroelektródok teljesítményére?
- Hogyan hat a különböző mérési modalitások (elektrofiziológiai, optikai) bevonása egy agy-gép interfész rendszer hatékonyságára?
Az már bizonyított, hogy a mikroelektródok segítségével történő stabil krónikus jelregisztrálás egyik fő gátja a biológiai rendszer immunválasza. Azt feltételezzük, hogy az implantátum geometriáján és anyagán kívül az implantáció minősége is kritikus tényező, mely az immunválaszt befolyásolja, valamint erős kapcsolat van az implantációt kísérő vérzés mértéke és a nem megfelelő hosszú távú működés között.
Azt gondoljuk, hogy egy nagy sűrűségű optikai és elektrofiziológiai mérési modalitással ellátott agy-gép interfész nagyobb információátadási rátával rendelkezik, mint a pusztán egy modalitást alkalmazó rendszerek. Ez feltehetően azt is jelenti, hogy a multimodális interfész rövidebb és hatékonyabb tanulási folyamat után, nagyobb pontossággal és kisebb késleltetéssel vezérelhető.

Mi a kutatás jelentősége?
Röviden írja le, milyen új perspektívát nyitnak az alapkutatásban az elért eredmények, milyen társadalmi hasznosíthatóságnak teremtik meg a tudományos alapját. Mutassa be, hogy a megpályázott kutatási területen lévő hazai és a nemzetközi versenytársaihoz képest melyek az egyediségei és erősségei a pályázatának!

Ismereteink szerint a kutatás megvalósulásával a világon először kerülne felhasználásra optikai módszer annak érdekében, hogy egy központi idegrendszerbe implantált, in vivo működő mikroelektród-rendszer környezetében lévő sejteket tanulmányozzuk. Ehhez a legkorszerűbb mikroszkópiai metódust alkalmaznánk, mely jelenleg a legnagyobb térbeli felbontást képes biztosítani. A koncepció megvalósíthatóságának bebizonyításán túl az alábbi tudományos eredményekre számítunk:
- Az egyes akciós potenciálok mikroelektródokon mért jelekre generált hatásának leírása. Jobban megértjük majd, hogyan hat a neuronok morfológiája és elektródokhoz viszonyított pozíciója a mérésekre.
- A gliasejtek viselkedésének longitudinális megfigyelése olyan új stratégiák kidolgozását eredményezheti, melyek az idegentest-válasz kedvezőtlen hatásainak mérséklését célozzák.
- Utóbbi olyan multielektród-rendszerek fejlesztését eredményezheti, melyek hosszú távú működése és jel-zaj aránya kedvezőbb a jelenlegieknél.
- A két mérési modalitás agy-gép interfészek hatékonyságára gyakorolt hatásának összehasonlításával olyan kulcskérdésekre hívhatjuk fel a figyelmet, melyek lényegesek az agy-gép interfészek pontosságának és sebességének fejlesztését tekintve.
- A kutatás tartalmazza a neocortex széles tartományának megfigyelését egy tanulási folyamatot tartalmazó feladat közben, miáltal tovább növelhetjük az agyi plaszticitásra vonatkozó ismereteinket.
Bízunk benne, hogy ezek az eredmények nem csak az agy-gép interfészeket kutató közösségre lesznek nagy hatással, hanem általánosabban, olyan idegtudósok számára is hasznos lesz, akik extracelluláris elektródokat vagy kétfoton mikroszkópiát használnak. Amennyiben a céljainkat sikerül elérni, a módszerekkel mért jelek tulajdonságairól, megbízhatóságukról, esetleges zavaró tényezőkről merőben új képet kaphatunk. Reményeink szerint eredményeinket magas impakt faktorú, referált folyóiratokban publikálhatjuk majd.

A kutatás összefoglalója, célkitűzései laikusok számára
Ebben a fejezetben írja le a kutatás fő célkitűzéseit alapműveltséggel rendelkező laikusok számára. Ez az összefoglaló a döntéshozók, a média, illetve az érdeklődők tájékoztatása szempontjából különösen fontos az NKFI Hivatal számára.

A pusztán gondolattal irányítható művégtagok, tolószékek, infokommunikációs eszközök (ún. agy-gép interfészek) új távlatokat nyitottak meg például a bénuláson átesett páciensek rehabilitációjában. Sajnos azonban ezeknek az eszközöknek a kutatása még gyerekcipőben jár, egyelőre nem léteznek olyan megoldások, melyekkel olyan összetett módon lehetne vezérelni egy robotkezet, hogy az hasonlítson a természetes mozgás fürgeségére és precizitására. Általánosan elmondható, hogy egy agy-gép interfész minél nagyobb felbontással képes a felhasználó agyi jeleit mérni, működése annál gyorsabb, megbízhatóbb. A kutatás célja többek között az, hogy az agyi jelek mérésének két legmodernebb, legnagyobb felbontást biztosító módszerét ötvözze: a mikroméretű elektródokkal végezhető agykérgi elektrofiziológiát és egy speciális, sejt szintű felbontást lehetővé tévő, háromdimenziós (ún. kétfoton) mikroszkópiát. Ezáltal először sikerülhet az, hogy egyszerre "elektromosan belehallgassunk" és "optikailag belelássunk" egy agyterület működésébe. A módszerek ötvözésével többek között megvizsgálhatjuk, mik a mikroelektródos mérések kulcs tulajdonságai -és esetleges hibái-, melyeket figyelembe véve a jelenlegieknél hatékonyabb agy-gép interfész rendszerek hozhatók létre.
Summary
Summary of the research and its aims for experts
Describe the major aims of the research for experts.

Brain-computer interfaces (BCIs) can provide control signals for prosthetic devices of patients suffering from paralysis or limb loss. Furthermore, BCIs can function as alternative communication routes for locked-in syndrome patients. To achieve fast, reliable and robust thought-control of electronic devices, neural interfaces need to be constructed that can provide signals with large information content on the long term. The most promising results on this field have been achieved by implantable microelectrode arrays.
We propose that the uniquely high-resolution in vivo 2-photon microscopy with calcium imaging for neural activity detection could be combined with high density extracellular electrophysiology (the latter is allowed by microelectrode arrays, MEAs) in the mouse neocortex.. This will help us to better understand the behaviour and characteristics of neural implant-based BCIs in three ways: 1. chronic, optical monitoring of the neural tissue surrounding microelectrode arrays could yield invaluable information of the course of the glial scar formation, which is critical in the aspect of long-term behaviour of BCIs. 2. we will gain insight to the correlation between the location of cells surrounding the MEAs and the extent of information they provide for neural interfaces. 3. we will learn how the presence of different measurement modalities contribute to the efficacy of a BCI systems.
We aim to use a highly reproducible and machinized surgery procedure for probe implantation and 2-photon optical window preparation, in order to give space to as little human error as possible.

What is the major research question?
Describe here briefly the problem to be solved by the research, the starting hypothesis, and the questions addressed by the experiments.

We hypothesize that sources of unit activity waveforms recorded by the MEA can be visualized by confronting simultaneously recorded optical (two-photon excited fluorescence) and electrophysiological signals. By doing so, the two advanced methods will reveal crucial properties of one another. We wish to address the following questions by the outlined research:
- How does cell morphology and location (relative to the MEA) affect its recorded action potential waveform?
- What is the long term dynamics of glial cells in a tissue region containing a chronically implanted probe?
- How does the probe implantation impact the tissue, not only anatomically, but functionally as well?
- What is the effect of vasculature damage on MEA performance?
- How do the involvement of different neural activity measurement modalities (electrophysiological, optical) affect the efficacy of a BCI?
It is already proven that a major cause of failure in obtaining stable chronic recordings with MEAs is the response of the biological system. We assume, however, that besides probe geometry and material, the quality of implantation is also a crucial factor which affects the foreign body response and there is a strong correlation between hemorrhage and long-term failure.
We also assume that a BCI driven by both high density optical and electrophysiological modalities will provide higher information transfer rate relative to those operated by single modalities. This will supposedly also mean shorter and more effective learning period, and the system can function with lower latency and higher accuracy.

What is the significance of the research?
Describe the new perspectives opened by the results achieved, including the scientific basics of potential societal applications. Please describe the unique strengths of your proposal in comparison to your domestic and international competitors in the given field.

To the best of our knowledge, we aim to be the first to utilize an optical method in order to study the cells surrounding an in vivo implanted, functioning MEA in the central nervous system. We wish to achieve this by employing a state of the art optical method, allowing observation of the tissue with very high spatial density. Apart from proving the feasibility of the concept, we expect the following scientific outcome:
- Description of the contribution of action potentials to the signals measured on an extracellular MEA. We will better understand how the morphology and relative location of a neuron affects the measurements.
- Longitudinal observation of the behavior of glial cells might give rise to novel strategies that can circumvent the deteriorative effect of the foreign body response on signal stability.
- The latter can lead to the design of MEAs with better long term performance and higher signal-to-noise ratio.
- By comparing the efficacy of two modalities for the construction of BCIs, we might be able to determine key elements that are crucial to improve the accuracy and speed of BCI systems.
- The observation of a wide neocortical region during a task involving learning can give further insight to the plasticity of the brain.
We trust on that these findings will be groundbreaking not only for the scientific community involved in BCI research, but more generally, to neuroscientists who use extracellular electrode arrays or two-photon microscopy for their research. Provided our goals are achieved, we will get a second sense of the nature, reliability and possible artifact content of the data acquired by either methods. We hope that we can publish our findings in high impact refereed journals.

Summary and aims of the research for the public
Describe here the major aims of the research for an audience with average background information. This summary is especially important for NRDI Office in order to inform decision-makers, media, and others.

Purely thought-controlled prosthetic limbs, wheelchairs, infocommunication devices (so-called brain-computer interfaces) have opened new perspectives in the rehabilitation of e.g. patients suffering from paralysis. Unfortunately, the research of these devices is still in its infancy. No such solutions exist yet, which would enable one to control a robotic hand with the smoothness and agility of natural movements. In general, the measurement of the neural activity with the finest possible resolution is crucial for creating brain-computer interfaces. The scope of the research, among others, is to combine the two of the most modern methods in neural activity measurement, both of which can measure with very high spatial resoultion. The first method is the application of an array of microelectrodes, the second is a special, three dimansional (so-called two-photon) microscopy. With the combination of these, we could achieve for the first time to "electrically listen" and "optically see" the activity of a brain region at the same time. This will allow us to examine the key features (and possible causes of failure) of the microelectrodes, which need to be considered in order to create more efficient brain-computer interfaces.





 

Final report

 
Results in Hungarian
A kutatás során három fő eredményt sikerült elérni, az eredmények az agy-gép interfészekben hasznosítható módon lehetővé teszik az agykéregben lévő idegsejtek jeleinek egyidejű regisztrációját nagy sűrűségű szövetbe ültetett mikroelektród rendszerekkel és napjaink egyik legmodernebb képalkotó eljárásával, ún. kétfoton mikroszkópiával. Ezek között szerepelnek a mikroszkóp geometriájához optimalizált, miniatürizált mikro-elektromechanikai rendszerek (MEMS) gyártástechnológiájával készült multielektródok, a fotoelektromos hatásból eredő, a hasznos jeleknél nagyságrendekkel nagyobb műtermékeket kiszűrni képes szoftverek, valamint olyan mesterséges intelligencia alapú algoritmusok, melyek az elektrofiziológiai és kétfoton mikroszkópos jelfolyamokban sejtektivitásokat találnak és különböztetnek meg. Csupán a fő eredményekből 3 db nemzetközi, lektorált, impakt faktorral rendelkező, Q1 besorolású folyóiratcikk született. A kutatás további hatásai például a kétfoton mikroszkóp alatt fluoreszkáló elektród-bevonatok, illetve az agy-gép interfészek szakirodalmát áttekintő, kidolgozás alatt álló tudományos közlemény.
Results in English
The research project yielded three main results, applicable in brain-computer interfacing. These results allow simultaneous measurement of neurons within the brain cortex via implanted high density microelectrode arrays and a state-of-the-art imaging method, so-called two-photon microscopy. Firstly, with the utilization of micro-electromechanical systems (MEMS) technology, such microelectrode arrays were created which are optimized for the geometry of the microscope. Secondly, software was developed which is suitable for eliminating the photoelectric artifacts, caused by the microscope. These artifacts are orders of magnitude greater than the useful signals. The third main result of the research project is the development of artificial intelligence-based algorithms, which are able to detect and classify cell activities from the signals obtained by the microelectrode arrays as well as the two-photon microscope. These main results were published three international scientific papers in Q1 journals with impact factor. Other effects of the research are, for example, electrode deposits which are fluorescent under the two-photon microscope and a publication in progress, which reviews the literature of brain-computer interfaces.
Full text https://www.otka-palyazat.hu/download.php?type=zarobeszamolo&projektid=121015
Decision
Yes





 

List of publications

 
Orbán Gábor, Meszéna Domokos, Tasnády Kinga Réka, Ulbert István, Márton Gergely: Method for spike detection from microelectrode array recordings contaminated by artifacts of simultaneous two-photon imaging, PLOS ONE 14 : 8 p. e0221510 (IF 2.776, Q1), 2019
Meszéna Domokos, Kerekes Bálint Péter, Pál Ildikó, Orbán Gábor, Tobias Holzhammer, Patrick Ruther, Ulbert István, Márton Gergely: A novel, silicon-based spiky probe providing improved cell accessibility during in vitro extracellular recordings, Sensors & Actuators: B. Chemical 297 Paper: 126649 (IF 6.393, Q1), 2019
Zátonyi Anita, Orbán Gábor, Romil Modi, Márton Gergely, Meszéna Domokos, Ulbert István, Pongrácz Anita, Walter Voit, Joshi-Imre Alexandra, Fekete Zoltán: A softening laminar electrode for recording single unit activity from the rat hippocampus, Átdolgozásra visszaküldve (major revision): Scientific Reports (IF 4.122; Q1), 2019
Rácz Melinda ; Liber Csaba; Németh Erik; Fiáth Richárd; Rokai János; Harmati István; Ulbert István; Márton Gergely: Spike detection and sorting with deep learning, JOURNAL OF NEURAL ENGINEERING AiP (2019), 2019
Fiáth Richárd , Márton Adrienn Lilla, Mátyás Ferenc, Pinke Domonkos, Márton Gergely, Tóth Kinga, Ulbert István: Slow insertion of silicon probes improves the quality of acute neuronal recordings, In press: Scientific reports (IF 4.122; Q1), 2019
Orbán Gábor, Marek Tamás, Meszéna Domokos, Kerekes Bálint Péter, Tasnády Kinga Réka, Ulbert István, Mészáros Gábor, Keresztes Zsófia, Márton Gergely: Fluorescent conductive polymer coating on implanted microelectrodes for visualization in two-photon microscopes, 11th FENS Forum of Neuroscience 7-11 July 2018, Berlin, Germany, 2018, 2018
Meszéna Domokos, Kerekes Bálint Péter, Pál Ildikó, Orbán Gábor, Tobias Holzhammer, Patrick Ruther, Ulbert István, Márton Gergely: A novel, silicon-based spiky probe providing improved cell accessibility during in vitro extracellular recordings, Átdolgozásra visszaküldve (major revision): Sensors & Actuators: B. Chemical (IF 5,667, Q1), 2019
Orbán Gábor, Meszéna Domokos, Tasnády Kinga Réka, Ulbert István, Márton Gergely: Method for spike detection from microelectrode array recordings contaminated by artifacts of simultaneous two-photon imaging, Beküldve (submitted): PLOS ONE (IF 2.766, Q1), 2019
Fiáth Richárd , Márton Adrienn Lilla, Mátyás Ferenc, Pinke Domonkos, Márton Gergely, Tóth Kinga, Ulbert István: Slow insertion of silicon probes improves the quality of acute neuronal recordings, Scientific reports 9:111, 2019 (IF 4.011; Q1), 2019
Zátonyi Anita, Orbán Gábor, Romil Modi, Márton Gergely, Meszéna Domokos, Ulbert István, Pongrácz Anita, Walter Voit, Joshi-Imre Alexandra, Fekete Zoltán: A softening laminar electrode for recording single unit activity from the rat hippocampus, Scientific Reports 9 : 1 Paper: 2321 (IF 4.011; Q1), 2019




Back »