Para conocer la entropía en una fuente discreta sin memoria primero definiremos que es la entropía. La entropía es la cantidad de información promedio que contienen los símbolos usados.
Paso 1.- Calcular las probabilidades del mensaje de la fuente .
P=Numero de veces que aparece el símbolo/ total de símbolos
Figura 1. Probabilidades de cada simbolo.
Paso 2.- Para calcular la entropía es necesario conocer la ecuación para el calculo de la misma.
Figura 2. Calculo de la entropía del mensaje
En este caso el calculo de la entropía H(s) es igual a 2.59
Paso 3.- Desarrollaremos un programa en matlab para realizar el calculo de la entropia del mensaje anterior. En la figura 3 observamos que los resultados calculados y del programa coinciden en H(s)=2.59
Figura 3. Programa para calculo de entropía en MATLAB.
No hay comentarios:
Publicar un comentario