Teorija informacij in izvorno kodiranje

Opis predmeta

Verjetnost, naključne spremenljivke (eksperimenti, dogodki, definicije verjetnosti, diskretna in zvezna naključna spremenljivka, porazdelitvene funkcije, momenti naključnih spremenljivk). Naključni procesi (vzorčna funkcija, statistična in časovna povprečja, avtokorelacija, stacionarnost, ergodičnost, gostota močnostnega spektra). Informacija (definicija informacije, informacijski izvori, entropija, redundanca). Kodiranje in stiskanje podatkov (teorem o izvornem kodiranju, izgubno in brezizgubno stiskanje, entropijsko kodiranje, Lempel-Zivovo kodiranje). Vzajemna entropija in kapaciteta kanala(vzajemna informacija, informacijski kanal, vzajemna entropija diskretnih virov, kapaciteta kanala, diferencialna entropija, kapaciteta Gaussovega kanala). Kodiranje analognih signalov – formatiranje signala (vzorčenje, idealno in regularno vzorčenje, teorem o vzorčenju in rekonstrukciji, vzorčenje ozkopasovnih signalov; kvantizacija, zrnato in prekoračitveno popačenje, dinamično območje). Zvokovni signali (zvok in sluh, značilnosti avdio signala, psihoakustične značilnost sluha, frekvenčno maskiranje, redundanca in irelevanca avdio signala; značilnosti govornega signala, model govornega trakta, redundanca in irelevanca  govora). Kodiranje govora (logaritemsko stiskanje z neenakomerno kvantizacijo, A-zakon, prediktivno kodiranje; skalarna kvantizacija (DPCM, ADPCM), vektorska kvantizacija(CELP)  . Kodiranje avdio signala (standardizirano kodiranje brez stiskanja: CD, DVD-avdio, DSD; stiskanje signala z izločanjem irelevance, MP2, MP3, AAC).

Cilji in kompetence

Spoznavanje osnovnih principov informiranja in pojmov, vezanih na prenos informacije. Osnove stiskanja podatkov in njihove teoretične meje. Spoznavanje lastnosti analognih informacijskih signalov, ki so pomembni za postopke kodiranja. Razlikovanje med redundanco in irelevanco ter z njima povezanimi postopki stiskanja podatkov. Spoznavanje različnih načinov kodiranja govornih signalov. Specifičnosti kodiranja avdio signalov in standardni postopki stiskanja.

Metode poučevanja in učenja

Predavanja, laboratorijske vaje, domače naloge

Predvideni študijski rezultati

Po uspešno opravljenem izpitu naj bi bili študenti zmožni:

– razložiti razliko med irelevanco in redundanco v procesu informiranja,

– pojasniti ozadje za izračun količine informacije simbola informacijskega vira,

– izpeljati matematično utemeljitev za maksimalno entropijo diskretnega vira brez spomina,

– izračunati matriko pogojnih verjetnosti za prenos večnivojskih simbolov v prisotnosti aditivnega Gaussovega šuma,

– primerjati diferencialno entropijo zvezne naključne spremenljivke z entropijo diskretnega vira,

– opisati osnovne postopke, ki so nujno potrebni pri kodiranju analognih signalov,

– določiti potrebno minimalno število bitov  A/D pretvornika v odvisnosti od želenega razmerja S/N in dinamičnega območja avdio signala.

Reference nosilca

1 PIRC, Matija, FURLAN, Jože. Effects of high electric fields on tunneling-assisted optical electron transitions in a-Si. IEEE transactions on electron devices. [Print ed.]. Dec. 2011, vol. 58, no. 12, str. 4318-4323, ilustr. ISSN 0018-9383. http://dx.doi.org/10.1109/TED.2011.2169068

2 PIRC, Matija, TOPIČ, Marko. Electroabsorption modeling in hydrogenated amorphous silicon. IEEE transactions on electron devices. [Print ed.]. Dec. 2013, vol. 60, no. 12, str. 3973-3978, ilustr. ISSN 0018-9383. http://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=6631493

3 BRECL, Kristijan, PIRC, Matija, BOKALIČ, Matevž, MORELJ, Dorijan, TOPIČ, Marko. PV module behaviour

on the substring level under real conditions monitored by junction box electronic device Jubomer. IET renewable power generation. [Print ed.]. 2019, vol. , no. , str. 1-5, ilustr. ISSN 1752-1416. https://digital-library.theiet.org/content/journals/10.1049/iet-rpg.2019.0156, DOI: 10.1049/iet-rpg.2019.0156

4 PIRC, Matija, CASERMAN, Simon, FERK, Polonca, TOPIČ, Marko. Compact UV LED lamp with low heat emissions for biological research applications. Electronics. Mar. 2019, vol. 8, no. 3, str. 1-18, ilustr. ISSN 2079-9292. https://www.mdpi.com/2079-9292/8/3/343, DOI: 10.3390/electronics8030343

5 PIRC, Matija. Idle noise reduction of a parametric acoustic array power driver = Zmanjšanje lastnega šuma ojačevalnika in modulatorja za parametrično akustično polje. Informacije MIDEM : časopis za mikroelektroniko, elektronske sestavne dele in materiale. [Tiskana izd.]. Mar. 2019, vol. 49, no. 1, str. 33-42, ilustr. ISSN 0352-9045. http://www.midem-drustvo.si/Journal%20papers/MIDEM_49(2019)1p33.pdf, DOI: 10.33180/InfMIDEM2019.105

Temeljni viri in literatura

1. S. Tomažič, Osnove telekomunikacij I, Založba FE in FRI, 2002

2. N. Pavešič, Informacija in kodi, Založba FE in FRI, 2010

3. J.R. Deller, J.G. Proakis, J.H. Hansen, Discrete-time processing of speech signals, MacMillan, New York, 1993

4. N. Moreau, Tools for signal compression,  ISTE Ltd. and John Wiley & Sons, Inc., 2009

Bodi na tekočem

Univerza v Ljubljani, Fakulteta za elektrotehniko, Tržaška cesta 25, 1000 Ljubljana

E:  dekanat@fe.uni-lj.si T:  01 4768 411