Теорија на информации

Објавено: јуни 28, 2022
1. Наслов на наставниот предмет Теорија на информации
2. Код 4ФЕИТ10З029
3. Студиска програма ТКИИ,КХИЕ
4. Организатор на студиската програма Факултет за електротехника и информациски технологии
5. Степен Прв циклус студии
6. Академска година / семестар III/5 7. Број на ЕКТС 6
8. Наставник Д-р Александар Ристески
9. Предуслов за запишување на предметот Положен: Математика 2
10. Цели на предметната програма (компетенции). Со положување на предметот, студените ќе бидат запознаени со својствата на случајните сигнали, нивните автокорелациски функции и спектри и ќе бидат оспособени за нивно пресметување. Ќе знаат да пресметаат како се менуваат својствата на случајните сигнали при нивниот пренос низ телекомуникациските системи. Студените ќе го научат основниот статистички модел на телекомуникациски систем од аспект на обработка и пренос на информација, со потребните теоретски основи. Ќе знаат да пресметуваат ентропија и флукс на извор на информации, да применат алгоритми за ентрописко кодирање и да ги пресметаат неговите перформанси, да пресметаат капацитет на преносен канал, да применат основни заштитни кодови и да пресметаат параметри за оптимално одлучување во приемникот за минимизирање на веројатноста на грешка.
11. Содржина на програмата: Вовед. Преглед на теми од веројатност, случајни променливи, функционална трансформација, статистички средни вредности и нивно толкување, основни типови на распределби, распределба на сума и производ од случајни променливи и нивна примена кај случајните сигнали за пренос на информација. Статистички ансамбл на случајни сигнали. Корелациски функции и спектри на случајни сигнали. Wiener-Khinchine-ова теорема. Експериментално одредување и примери на корелации и спектри. Бел Гаусов шум. Пренос на случајни сигнали низ линеарен систем за пренос. Генерален статистички модел на комуникациски систем. Поим за информаиција. Извори на информации. Ентропија. Информациски флукс. Ентрописко кодирање. Основна теорема на ентропиското кодирање. Прва Шенонова теорема. Постапки за оптимално кодирање (Fano, Huffman) и ефикасност. Статистички модел на преносен комуникациски канал. Трансинформација. Капацитет на канал. Својства на симетрични канали. Доверливост на преносот на пораките. Веројатност на грешка. Заштитно кодирање. Втора Шенонова теорема. Основни примери за заштитно кодирање. Статистичка теорија на одлучување. Критериуми за одлучување (Bayes, minmax, Neyman-Pearson).
12.Методи на учење Предавања, аудиториски и лабораториски вежби, самостојна работа на домашни задачи и изработка на семинарски работи.
13. Вкупен расположив фонд на часови 3 + 1 + 1 + 0
14. Распределба на расположивото време 180
15. Форми на наставните активности 15.1. Предавања – теоретска настава 45
15.2. Вежби, семинари, тимска работа 30
16. Други форми на активност 16.1. Проектни задачи 10
16.2. Самостојни задачи 10
16.3. Домашно учење 85
17. Начини на оценување 17.1. Тестови 10
17.2. Семинарска работа/проект 0
17.3. Активност и учење 0
17.4. Завршен испит 90
18. Критериуми за оценување до 50 бодови 5 (пет) (F)
од 51до 60 бодови 6 (шест) (E)
од 61до 70 бодови 7 (седум) (D)
од 71до 80 бодови 8 (осум) (C)
од 81до 90 бодови 9 (девет) (B)
од 91до 100 бодови 10 (десет) (A)
19. Услов за потпис и полагање на завршен испит Редовно посетување на наставата и аудиториските вежби и комплетно изработени лабораториски вежби.
20. Начин на полагање на испитот Во текот на семестарот, се полагаат два парцијални писмени испити (на половина и на крај од семестарот, во времетраење од најмногу 90 минути) и тестови кои се спроведуваат во текот на часовите. Во конечната оценка влегуваат поените од парцијалните испити и тестовите.
Во испитните сесии се полага писмен испит (времетраење најмногу 120 минути). Во конечната оценка влегуваат поените од испитот и тестовите.
Со посебно упатство објавено пред секој испит, се уредува начинот на полагање и користењето на учебни помагала и електронски уреди за време на испитот.
21. Јазик на кој се изведува наставата Македонски и Англиски
22. Метод на следење на квалитетот на наставата Интерна евалуација и анкети.
23. Литература
23.1. Задолжителна литература
Бр. Автор Наслов Издавач Година
1 Татјана Улчар-Ставрова Теорија на информации ЕТФ Скопје 1995
2 Александар Ристески Белешки од предавања по Теорија на информации Интерни материјали 2021
3 Збирка решени задачи по Теорија на информации Интерна скрипта NULL