Teorija informacij in izvorno kodiranje

Opis predmeta

Verjetnost, naključne spremenljivke (eksperimenti, dogodki, definicije verjetnosti, diskretna in zvezna naključna spremenljivka, porazdelitvene funkcije, momenti naključnih spremenljivk). Naključni procesi (vzorčna funkcija, statistična in časovna povprečja, avtokorelacija, stacionarnost, ergodičnost, gostota močnostnega spektra). Informacija (definicija informacije, informacijski izvori, entropija, redundanca). Kodiranje in stiskanje podatkov (teorem o izvornem kodiranju, izgubno in brezizgubno stiskanje, entropijsko kodiranje, Lempel-Zivovo kodiranje). Vzajemna entropija in kapaciteta kanala(vzajemna informacija, informacijski kanal, vzajemna entropija diskretnih virov, kapaciteta kanala, diferencialna entropija, kapaciteta Gaussovega kanala). Kodiranje analognih signalov – formatiranje signala (vzorčenje, idealno in regularno vzorčenje, teorem o vzorčenju in rekonstrukciji, vzorčenje ozkopasovnih signalov; kvantizacija, zrnato in prekoračitveno popačenje, dinamično območje). Zvokovni signali (zvok in sluh, značilnosti avdio signala, psihoakustične značilnost sluha, frekvenčno maskiranje, redundanca in irelevanca avdio signala; značilnosti govornega signala, model govornega trakta, redundanca in irelevanca  govora). Kodiranje govora (logaritemsko stiskanje z neenakomerno kvantizacijo, A-zakon, prediktivno kodiranje; skalarna kvantizacija (DPCM, ADPCM), vektorska kvantizacija(CELP)  . Kodiranje avdio signala (standardizirano kodiranje brez stiskanja: CD, DVD-avdio, DSD; stiskanje signala z izločanjem irelevance, MP2, MP3, AAC).

Predmet učimo na programih

Elektrotehnika 1. stopnja

Cilji in kompetence

Spoznavanje osnovnih principov informiranja in pojmov, vezanih na prenos informacije. Osnove stiskanja podatkov in njihove teoretične meje. Spoznavanje lastnosti analognih informacijskih signalov, ki so pomembni za postopke kodiranja. Razlikovanje med redundanco in irelevanco ter z njima povezanimi postopki stiskanja podatkov. Spoznavanje različnih načinov kodiranja govornih signalov. Specifičnosti kodiranja avdio signalov in standardni postopki stiskanja.

Metode poučevanja in učenja

Predavanja, laboratorijske vaje, domače naloge

Predvideni študijski rezultati

Po uspešno opravljenem izpitu naj bi bili študenti zmožni:

– razložiti razliko med irelevanco in redundanco v procesu informiranja,

– pojasniti ozadje za izračun količine informacije simbola informacijskega vira,

– izpeljati matematično utemeljitev za maksimalno entropijo diskretnega vira brez spomina,

– izračunati matriko pogojnih verjetnosti za prenos večnivojskih simbolov v prisotnosti aditivnega Gaussovega šuma,

– primerjati diferencialno entropijo zvezne naključne spremenljivke z entropijo diskretnega vira,

– opisati osnovne postopke, ki so nujno potrebni pri kodiranju analognih signalov,

– določiti potrebno minimalno število bitov  A/D pretvornika v odvisnosti od želenega razmerja S/N in dinamičnega območja avdio signala.

Temeljni viri in literatura

1. S. Tomažič, Osnove telekomunikacij I, Založba FE in FRI, 2002

2. N. Pavešič, Informacija in kodi, Založba FE in FRI, 2010

3. J.R. Deller, J.G. Proakis, J.H. Hansen, Discrete-time processing of speech signals, MacMillan, New York, 1993

4. N. Moreau, Tools for signal compression,  ISTE Ltd. and John Wiley & Sons, Inc., 2009

Bodi na tekočem

Univerza v Ljubljani, Fakulteta za elektrotehniko, Tržaška cesta 25, 1000 Ljubljana

E:  dekanat@fe.uni-lj.si T:  01 4768 411