Теорија на информации

Предмет: Теорија на информации

Код: 3ФЕИТ10035

Број на ЕКТС кредити: 6 ЕКТС

Неделен фонд на часови: 3+0+0+3

Наставник: Проф. д-р Венцеслав Кафеџиски

Цели на предметната програма (компетенции): По завршување на курсот, се очекува студентот да ги познава поимите, концептите и техниките на теоријата на информации, да знае како да ги применува овие техники за решавање на различни проблеми од теоријата на информации, да знае како да определува граници на компресија и брзина на пренос на информација,  да ги познава основите на мрежна теорија на информации и мрежно кодирање, и да биде подготвен да се занимава со научноистражувачка работа во областа теорија на информации.

Содржина на предметната програма: Ентропија, релативна ентропија и взаемна информација. Особина на асимптотска еквипартиција. Ентрописка брзина на случајни процеси. Компресија на податоци без загуби. Универзално кодирање на извор на информации. Капацитет на дискретен канал без меморија. Капацитет на Гаусов канал без меморија. Капацитет на векторски Гаусови канали. Компресија на податоци со загуба. Теорија на рата-дисторзија. Рата-дисторзија на Гаусов извор на информација. Рата-дисторзија на векторски Гаусов извор на информација. Мрежна теорија на информации. Основни проблеми на мрежната теорија на информации и методи на нивно решавање. Капацитет на канал со повеќекратен пристап и капацитет на броадкаст канал. Мрежно кодирање: основи и примена во безжични комуникации, стриминг и мултимедиа, мрежи за дистрибуција на содржина, системи за складирање на податоци. Дистрибуирано складирање на податоци.

Литература: