Investigation of optimal parameter estimation methods  Page description

Help  Print 
Back »

 

Details of project

 
Identifier
115820
Type K
Principal investigator Péceli, Gábor
Title in Hungarian Optimális paraméterbecslési eljárások vizsgálata
Title in English Investigation of optimal parameter estimation methods
Keywords in Hungarian Maximum Likelihood becslés, Numerikus optimalizálás
Keywords in English Maximum Likelihood Estimation, Numerical Optimization
Discipline
Automation and Computer Science (Council of Physical Sciences)100 %
Ortelius classification: Automation
Panel Informatics and Electrical Engineering
Department or equivalent Department of Measurement and Information Systems (Budapest University of Technology and Economics)
Participants Csuka, Barna
Kollár, István
Pálfi, Vilmos
Renczes, Balázs
Virosztek, Tamás
Starting date 2015-09-01
Closing date 2018-12-31
Funding (in million HUF) 19.758
FTE (full time equivalent) 8.37
state closed project
Summary in Hungarian
A kutatás összefoglalója, célkitűzései szakemberek számára
Itt írja le a kutatás fő célkitűzéseit a témában jártas szakember számára.

A számítógépek diszkrét, és a valós rendszerek folytonos jelei közötti kapcsolatot az analóg-digitális, illetve digitális-analóg átalakítók teremtik meg. A hatékony jelfeldolgozáshoz az átalakított jeleknek megfelelően kell reprezentálniuk a külső folyamatokat, ez pedig az átalakítók minőségén múlik. Ezért az alapkérdés kettős:
a) a számítógépbe töltött jelek mennyi információt hordoznak?
b) ezt az információt hogyan lehet legjobban kinyerni?
Az átalakítók minősítésére léteznek szabványos tesztelési eljárások (IEEE 1241-es szabvány). Gyakran alkalmazott a szinuszos gerjesztés, ahol a visszamért jel segítségével meghatározzák az A/D átalakító minősítés szempontjából fontos paramétereit. Ahhoz, hogy a legpontosabb eredményeket kapjuk, a bemeneti szinuszjelnek, illetve a paraméterek pontosságának is szigorú feltételeknek kell megfelelniük. A szabvány azonban két ponton is hiányos: egyrészt nincs elfogadott eljárás annak ellenőrzésére, hogy a gerjesztőjel megfelel-e a követelményeknek, másrészt a jelparaméterek meghatározásának javasolt módja (legkisebb négyzetek módszere) csak ideális átalakító esetén képes torzítatlanul meghatározni a bemeneti jel paramétereit. Az említett két hibaforrás szignifikánsan ronthatja a minősítési eljárás eredményeit. Kutatásunk fő célkitűzései tehát:
- módszert adni arra, hogy ellenőrizhető legyen a bemeneti szinuszjel alkalmassága a minősítési eljárás elvégzésére,
- a jelparamétereknek a legkisebb négyzetes eljárásnál pontosabb (elvileg a lehető legjobb) meghatározását lehetővé tevő (maximum likelihood) becslő megalkotása, vizsgálata és jellemzése.
Az így létrehozott eljárásokat mindenki számára elérhetővé tesszük az interneten keresztül.

Mi a kutatás alapkérdése?
Ebben a részben írja le röviden, hogy mi a kutatás segítségével megválaszolni kívánt probléma, mi a kutatás kiinduló hipotézise, milyen kérdéseket válaszolnak meg a kísérletek.

Az A/D átalakítók szinuszjellel végrehajtott tesztje lehetőséget ad gyors és hatékony tesztelésükre, ám az eljárás számos hibalehetőséget rejt magában, melyeknek felismerésére és elkerülésére most még nem állnak rendelkezésre megfelelő módszerek. A teszteredmények jósága erősen függ a szinuszjel paramétereitől, melyeket azonban nem ismerünk pontosan, és nem mérhetők meg megfelelően. Sajnálatos módon már kis eltérés is komoly eltéréseket okozhat az eredményekben. Emiatt a mért mintákból egy becslési eljárással szokták meghatározni a jelparamétereket, azonban az eljárás az esetek többségében torzított eredményeket ad. Célszerű volna tehát egyrészt ellenőrizni a bemenő szinuszjelet a jelfeldolgozás végrehajtása előtt, másrészt olyan paraméterbecslési eljárást kidolgozni, amely figyelembe tudja venni az átalakító nemlineáris karakterisztikáját a jelparaméterek meghatározásakor. Ez a maximum likelihood (ML) eljárás. Fentiek tükrében tehát a kutatás alapkérdései a következőek:
1. Megállapítható-e kizárólag a mért jel alapján, hogy az alkalmas-e az A/D teszt megfelelő pontosságú végrehajtására? (azt gondoljuk: igen)
2. Ha egy jel nem felel meg a követelményeknek, minden esetben új mérés végrehajtására van-e szükség? (nem mindig, és azt is segíteni tudjuk)
3. Megvalósítható-e úgy az ML eljárás, hogy nem használ sokkal több erőforrást mint a legkisebb négyzetes becslés (LS), ezáltal pontosságának és sebességének köszönhetően vonzó alternatíva lesz-e a tesztet végzők számára? (azt godoljuk: igen)
4. Mivel az esetek döntő többségében az ML módszer az LS becsléstől eltérő eredményt ad, van-e lehetőség ellenőrizni az eredmények helyességét? (azt gondoljuk: igen)

Mi a kutatás jelentősége?
Röviden írja le, milyen új perspektívát nyitnak az alapkutatásban az elért eredmények, milyen társadalmi hasznosíthatóságnak teremtik meg a tudományos alapját. Mutassa be, hogy a megpályázott kutatási területen lévő hazai és a nemzetközi versenytársaihoz képest melyek az egyediségei és erősségei a pályázatának!

Válaszolni szeretnénk arra, hogy
- mennyi információ van a szinuszos gerjesztőjellel elvégzett mérések eredményében (ez nem egyszerű kérdés, és nincs is még pontosan megválaszolva),
- ezt hogyan lehet kinyerni,
- a kapott eredmények statisztikai tulajdonságai milyenek.
Ezzel egyrészt nyitott elvi kérdéseket válaszolunk meg, de lehetővé válik az is, hogy az integrált áramkörök gyártói, a készülékgyártók, és -felhasználók pontosan azonos mennyiségeket mérjenek és használjanak az analóg-digitális átalakítók jellemzésére, valamint a, hogy egy kvázi-szabványos, publikusan elérhető program segítségével az összes ilyen jelfeldolgozás azonos referenciaeljárással összehasonlítható legyen.

A kutatás összefoglalója, célkitűzései laikusok számára
Ebben a fejezetben írja le a kutatás fő célkitűzéseit alapműveltséggel rendelkező laikusok számára. Ez az összefoglaló a döntéshozók, a média, illetve az érdeklődők tájékoztatása szempontjából különösen fontos az NKFI Hivatal számára.

A mai mérési eljárások nagy része analóg-digitális átalakítókat használ, és ezek eredményét a számítógépbe tölti. Az analóg-digitális átalakítók szinte mindenhol jelen vannak: használatukkal mérik az autóban a kormány elfordulását és határozzák meg a szükséges kerékelfordulást, hangunkat továbbítható jellé alakítják egy telefonbeszélgetés során, meghatározzák az atomerőműben a reaktor hőmérsékletét és döntenek a reakció további szabályozásának módjáról. Fontos kérdés, hogy a kapott minták mennyi információt tartalmaznak, és hogyan lehet ezt az információt kinyerni. Egy jó példa az analóg-digitális átalakítók tesztelése: Ez azért fontos, mert a mért jeleket ilyen átalakítókon keresztül visszük be a számítógépekbe, és a valóságról nyert információ annál pontosabb, minél pontosabbak az átalakítók. Megfelelő tesztelésre szüksége van az áramkörgyártóknak, a készülékgyártóknak (akik az integrált áramköröket beépítik), valamint a készülékek felhasználóinak, sőt, jó minőségű készülékekbe önteszt is be van építve, melynek nagyon megbízhatónak kell lennie. Munkánk célja tehát egy olyan összetett tesztelési eljárás létrehozása, amely garantálja az eredmények pontosságát.
A jelenlegi eljárások (melyek a legkisebb négyzetek módszerén alapulnak) gyorsak ugyan, de nem eléggé pontosak.
A kidolgozott módszerek alapján nyilvánosan elérhető programcsomagot fogunk létrehozni. Egy ilyen programcsomag garantálhatná a teszteredmények helyességét, azaz jó alapja volna az egyes gyártók egyes termékeinek objektív összehasonlítására is. Ez lehetőséget ad arra is, hogy eldöntsük: két átalakító közül melyik felel meg jobban a céloknak.
Summary
Summary of the research and its aims for experts
Describe the major aims of the research for experts.

The discrete signals of computers and the continuous signals of real systems are connected to each other via analog-to-digital and digital-to-analog converters. For sufficient signal processing it is crucial that the converted signal appropriately represents the measured processes, and this is determined by the quality of the converters. The basic questions are:
a) How much information is contained in the samples in the computer?
b) How can we extract all the information?
For example, for certification purposes there are standardized testing methods, defined in the IEEE standard 1241. Sinusoidal excitation is commonly used, and the ADC’s parameters which are the most important for the certification, are determined. In order to gain precise results, the input sine wave and the precision of the parameters have to meet strict criteria. However, the standard is slightly incomplete in two aspects. First, there is no standardized method for verify the purity of the input signal. On the other hand, the method, suggested to determine the parameters (least squares estimation), can yield unbiased results only for ideal converters. These two error sources may significantly decrease the quality of the certification process, resulting in not perfectly reliable converter datasheets. Hence the main targets of our research are:
- providing a method to be able to check whether the input sine wave is appropriate for the certification process,
- creating, investigating and describing the maximum likelihood estimator of the signal parameters, that is more precise (in principle the best), than the least squares estimator.
The created procedures will be shared via internet.

What is the major research question?
Describe here briefly the problem to be solved by the research, the starting hypothesis, and the questions addressed by the experiments.

ADC testing with sinusoidal excitation signal provides opportunity for fast and efficient converter certification. However, the process contains several error sources and there is still no method to recognize and eliminate these. The quality of the test results strongly depends on the parameters of the sine wave. Unfortunately even small deviations may result in serious errors in the results. Therefore the signal parameters are determined with an estimation process, but for real converters this yields biased results. Thus it would be practical to check the input signal before the execution of the data processing. On the other hand, a parameter estimation method should be developed which takes into consideration the non-linear characteristic of the converter during the determination of the parameters. This is the maximum likelihood (ML) procedure. On the grounds of these considerations the basic questions of the research are the followings:
1. Having only the measured signal, is it possible to decide, whether the input is appropriate for ADC test?
2. In case the signal does not meet the requirements, is the execution of a new measurement required, or a modofocation of the processed sample set is enough?
3. Is it possible to realize the ML method with sufficiently high precision and low computational demand compared to the LS method so that it offers a reasonable alternative for the test engineers?
4. Since in most cases the results of the ML method differs from the estimations of the LS method, is it possible to verify the results?

Based on our preliminary results, we expect positive answers to all of these questions.

What is the significance of the research?
Describe the new perspectives opened by the results achieved, including the scientific basics of potential societal applications. Please describe the unique strengths of your proposal in comparison to your domestic and international competitors in the given field.

One of the most important issues in measurement is the amount of information gained from the signal. This is still not clearly solved in the relevant literature, although it is of fundamental importance for further research. Possible parameter extraction methods, their precision and accuracy are also to be investigated.
We expect to be able to solve these issues, and answer the open theoretical questions. In the example of ADC testing, this will enable the IC manufacturers, the device manufacturers and users to measure and use precisely identical quantities for the characterization of ADCs. Furthermore, a publicly available program, as a reference method, will verify the test results.

Summary and aims of the research for the public
Describe here the major aims of the research for an audience with average background information. This summary is especially important for NRDI Office in order to inform decision-makers, media, and others.

Modern measurement procedures usually apply analog-digital converters, and upload the results into computers. Analog-to-digital converters can be found almost everywhere. The rotation of the steering wheel in our cars, on which the necessary wheel rotation depends, is measured using them. They convert our voice to a transmittable signal during a phone call. Reactor temperature and further control steps in a nuclear power plant are determined with the help of them.
It is an important question, how much information is contained in these samples, and how can we extract this information. An example is testing of analog-to-digital converters. It is of high importance, since the measured signals are transmitted to the computers via these converters, and the more precise the converter, the more precise the information gained from the reality. Appropriate testing is needed for electrical circuit manufacturers, device manufacturers (who build integrated circuits in), and also for the users of the devices. In high quality equipment even a built-in self-test can be found, which has to be reliable. Hence the aim of our work is to create a complex test method, that guarantees the precision of the result. Although current methods, based on the least squares method, are fast, they do not yield sufficiently precise results.
Based on the methods we even intend to create a publicly available software kit. This kit would guarantee the correctness of the test results, ensuring the ability of objectively comparing devices of different manufacturers. This is the only way to decide which converter is more convenient for the given purposes.





 

Final report

 
Results in Hungarian
1. Megvizsgálásra és továbbfejlesztésre került a szabvány által javasolt legkisebb négyzetes becslési eljárás a szinuszjel paramétereinek meghatározására a numerikus hibák szempontjából. Ezen kívül az eljárást kondicionáltság szempontjából is tanulmányoztuk, és megmutattuk hogy a kutatás során meghatározott módszer segítségével a numerikus stabilitás jelentősen javítható. 2. Kidolgoztunk egy frekvenciatartománybeli szinuszbecslő eljárást, mely kevesebb erőforrásigény mellett, a szabványos eljárással azonos pontossággal képes a paraméterek meghatározására. Erre alapozva létrehoztunk egy módszert, amely képes ellenőrizni, hogy a bemeneti jel eleget tesz-e a szabvány feltételeinek. A módszer képes olyan részrekord azonosítására, amely eleget tesz ezeknek. Kidolgoztunk egy továbbfejlesztett eljárást a hisztogram tesztre, mely képes akkor is az átalakító karakterisztikájának a torzítatlan becslésére, mikor a szabvány feltételei nem teljesülnek. 3. Megvalósításra került a szinusz paramétereinek Maximum likelihood (ML) becslése, mely képes a paraméterek meghatározásánál az átalakító karakterisztikáját is figyelembe venni. Elkészült továbbá a módszer továbbfejlesztett változata, mely képes a jitter modellezésére és jellemzésére. Kidolgoztuk annak módszerét, hogy az átalakító karakterisztikáját kisebb számú paraméterrel tudjuk modellezni. 4. Továbbfejlesztettük a kutatócsoport által kiadott, mindenki számára ingyenesen hozzáférhető, MATLAB alapú ADC tesztelő toolboxot.
Results in English
1. We have investigated and improved the standard least squares sine fitting method in terms of numerical errors and stability. In addition, we have studied the conditioning of the procedure. We have shown that proposed methods are able to improve the numerical stability of the algorithms significantly. 2. We have developed a frequency domain sine fitting method that is able to determine the parameters of a sine wave with the same precision but with significantly less computational demand compared to the method proposed in the standard. This method is the basis of the procedure that is capable of checking the fulfillment of the conditions defined the relevant standard. The method can identify a subrecord fulfilling the requirement. We have developed an improved sine wave histogram test method that yields unbiased estimation results, even if the standard’s requirements are not fulfilled. 3. The Maximum likelihood (ML) estimation of sine parameters has been realized. It is able to take the characteristics of the ADC into account during the estimation. The was improved in terms of modelling and characterizing jitter. We have developed a method to reduce the number of needed parameters to describe ADC characteristics. 4. We have further developed the MATLAB-based ADC toolbox that was created by the research group.
Full text https://www.otka-palyazat.hu/download.php?type=zarobeszamolo&projektid=115820
Decision
Yes





 

List of publications

 
Vilmos Pálfi: An Improved Sine Wave Histogram Test Method for ADC Characterization, IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT, 2019
Vilmos Pálfi, Tamás Virosztek, István Kollár: Full information ADC test procedures using sinusoidal excitation, implemented in MATLAB and LabVIEW, ACTA IMEKO 4:(3) pp. 4-13. (2015), 2015
Balázs Renczes, István Kollár, Antonio Moschitta, Paolo Carbone: Numerical Optimization Problems of Sine-Wave Fitting Algorithms in the Presence of Roundoff Errors, IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT 65:(8) pp. 1785-1795. (2016), 2016
Tamás Virosztek, István Kollár: Parameterization of Nonlinearity for Efficient Estimation in ADC Testing, Proceedings of the 21th IMEKO TC4 International Symposium on Understanding the World through Electrical and Electronic Measurement (előkészületben), 2016
Barna Csuka, Istvan Kollár, Zsolt Kollár, Márton Kovács: Comparison of Signal Processing Methods for Calculating Point-by-point Discrete Fourier Transforms, Proceedings of the 26th Conference Radioelektronika 2016, April 19-20, Kosice, Slovak Republic, 2016
Balázs Renczes, István Kollár, Tamás Dabóczi: Efficient Implementation of Least Squares Sine Fitting Algorithms, IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT 65:(12) pp. 2717-2724., 2016
Balázs Renczes, Vilmos Pálfi: Improving the Conditioning of Maximum Likelihood Sine Wave Fitting, 22nd IMEKO TC4 International Symposium & 20th International Workshop on ADC Modelling and Testing: Supporting world development through electric&electronic measurements., 2017
Tamás Virosztek, István Kollár: Parameterization of Nonideal Quantizers for Simultaneous Estimation of Quantizer and Excitation Signal Parameters, MEASUREMENT 50: Paper MEASUR4701. 27 p., 2017
Balázs Renczes: Accurate Floating-Point Argument Calculation for Sine-Fitting Algorithms, IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT 66:(11) pp. 2988-2996. (2017), 2017
Tamás Virosztek: Maximum Likelihood Estimation of Aperture Jitter Using Sinusoidal Excitation, MEASUREMENT 115, pp. 95-103. (2018), 2018
Vilmos Pálfi, Balázs Renczes: A novel frequency domain periodic signal estimator, XXII IMEKO World Congress: Knowledge through Measurement. Konferencia helye, ideje: Belfast, Észak-Írország, 2018.09.03-2017.09.06. (International Measurement Confederati, 2018





 

Events of the project

 
2016-09-07 10:51:49
Vezető kutató váltás
Régi vezető kutató: Kollár István
Új vezető kutató: Péceli Gábor

A vezető kutató váltás indoka: Dr. Kollár István 2016.07.29-én elhunyt.
2016-09-07 10:31:46
Résztvevők változása
2016-04-22 12:02:16
Résztvevők változása




Back »