Теорија на информации

Последна измена: јули 28, 2023
1. Наслов на наставниот предмет Теорија на информации
2. Код 4ФЕИТ10029
3. Студиска програма 11-ИБС, 12-КИТ
4. Организатор на студиската програма

(единица, односно институт, катедра, оддел)

Факултет за електротехника и информациски технологии
5. Степен (прв, втор, трет циклус) Втор циклус студии
6. Академска година/семестар I/1 7.   Број на ЕКТС кредити 6.00
8. Наставник Д-р Венцеслав Кафеџиски
9. Предуслов за запишување на предметот
10. Цели на предметната програма (компетенции):

По завршување на курсот, се очекува студентот да ги познава поимите, концептите и техниките на теоријата на информации, да знае како да ги применува овие техники за решавање на различни проблеми од теоријата на информации, да знае како да определува граници на компресија и брзина на пренос на информација, да ги познава основите на мрежна теорија на информации и мрежно кодирање, и да биде подготвен да се занимава со научноистражувачка работа во областа теорија на информации.

11. Содржина на програмата:

Ентропија, релативна ентропија и взаемна информација. Особина на асимптотска еквипартиција. Ентрописка брзина на случајни процеси. Компресија на податоци без загуби. Универзално кодирање на извор на информации. Капацитет на дискретен канал без меморија. Капацитет на Гаусов канал без меморија. Капацитет на векторски Гаусови канали. Компресија на податоци со загуба. Теорија на рата-дисторзија. Рата-дисторзија на Гаусов извор на информација. Рата-дисторзија на векторски Гаусов извор на информација. Мрежна теорија на информации. Основни проблеми на мрежната теорија на информации и методи на нивно решавање. Капацитет на канал со повеќекратен пристап и капацитет на броадкаст канал. Мрежно кодирање: основи и примена во безжични комуникации, стриминг и мултимедиа, мрежи за дистрибуција на содржина, системи за складирање на податоци. Дистрибуирано складирање на податоци. Кодирано пресметување. Квантна теорија на информации.

12. Методи на учење:

Предавања, самостојно учење, изработка на семинарски работи, презентации, активно учество на предавањата, консултации.

13. Вкупен расположив фонд на време 180
14. Распределба на расположивото време 3 + 3
15. Форми на наставните активности 15.1 Предавања – теоретска настава 45 часови
15.2 Вежби (лабораториски, аудиториски), семинари, тимска работа 45 часови
16. Други форми на активности 16.1 Проектни задачи 30 часови
16.2 Самостојни задачи 30 часови
16.3 Домашно учење 30 часови
17. Начин на оценување
17.1 Тестови 0 бодови
17.2 Семинарска работа/проект (презентација: писмена и усна) 50 бодови
17.3. Активност и учење 0 бодови
17.4. Завршен испит 50 бодови
18. Критериуми за оценување (бодови/оценка) до 50 бода 5 (пет) (F)
од 51 до 60 бода 6 (шест) (E)
од 61 до 70 бода 7 (седум) (D)
од 71 до 80 бода 8 (осум) (C)
од 81 до 90 бода 9 (девет) (B)
од 91 до 100 бода 10 (десет) (A)
19. Услов за потпис и полагање на завршен испит Нема
20. Начин на полагање на испитот

Испитот се состои од полагање на писмен или усмен завршен испит на предвидениот материјал според содржината на програмата и изработка и презентација на семинарска работа/проект на тема договорена помеѓу студентот и наставникот.

21. Јазик на кој се изведува наставата Македонски и Англиски
22. Метод на следење на квалитетот на наставата Самоевалуација
23. Литература
23.1.      Задолжителна литература
Ред.

број

Автор Наслов Издавач Година
1. T. M. Cover, J. A. Thomas Elements of Information Theory Wiley 2006
23.2.      Дополнителна литература
Ред.

број

Автор Наслов Издавач Година
1. M. Medard, A. Sprintson (Editors) Network Coding Fundamentals and Applications  Academic Press  2012