Matchad бағдарламалық ортасында шығарылуы

Әр түрлі жиілікте қолданылатын 5 сапалық белгілерден тұратын хабарламада ықтималдықтары сәйкесінше p1=0.7; p2=0.2; p3=0.08; p4=0.015; p5=0.005. Хабарламада барлығы 20 таңба қабылданды. Егер барлық белгілер теңықтималды болса, хабарламадағы ақпарат мөлшерін анықтаңыз.

Хабарламалар екілік код арқылы беріледі. Бірінші жағдайда, 0 мен 1 пайда болу ықтималдығы сәйкесінше р0=0.8, p1=0.2. Байланыс арнасында ешқандай кедергі жоқ, яғни 0-ден 1-ге және 1-ден 0-ге ауысудың шартты ықтималдығы нөлге тең. Екінші жағдайда символдар берілуі теңықтималды р0=p1=0.5, алайда кедергі нәтижесінде шарты ықтималдықтар әртүрлі р(1/1)=0.8, р(1/0)=0.2, р(0/0)=0.8, р(0/1)=0.2. Бірінші және екінші жағдайда энтропия өлшемі нешеге тең?

Берілген тапсырмалар бойынша хабарламадағы символдарға келетін ақпарат мөлшерлері анықталды. Яғни, тапсырма шарттары бойынша, егер алфавиттің кез келген символының пайда болу немесе кездесу ықтималдығы тең болған жағдайда Хартли формуласы негізінде, ал берілген ықтималдықтар әртүрлі болғанда есеп Шеннон формуласы бойынша шығарылып, жауаптары алынды.

Сонымен қатар, рұқсат етілген қателік пен өлшеу диапазоны бойынша аспап көрсетуі энтропиясы анықталды.

Соңғы тапсырмалар бойынша тапсырмада біркелкі тығыздық бойынша таралған үш жүйе негізінде құрылған біріктірілген жүйе энтропиясы анықталды.