media. | source coding theorem | теорема о кодировании источника (в которой утверждается, что выходной поток информации из любого источника, имеющей энтропию в Я единиц на один символ, может быть закодирован с помощью алфавита из N символов таким образом, что символы потока из источника информации будут представлены кодовыми словами, средневзвешенная длина которых не меньше, чем H/logN, где основание логарифма согласуется с единицами измерения энтропии) |