Ruido blanco gaussiano aditivo

Modelo básico de ruido utilizado en la teoría de la información

El ruido blanco gaussiano aditivo ( AWGN ) es un modelo de ruido básico que se utiliza en la teoría de la información para imitar el efecto de muchos procesos aleatorios que ocurren en la naturaleza. Los modificadores denotan características específicas:

• Aditivo porque se añade a cualquier ruido que pueda ser intrínseco al sistema de información.
• El blanco hace referencia a la idea de que tiene una densidad espectral de potencia uniforme en toda la banda de frecuencias del sistema de información. Es una analogía con el color blanco , que puede lograrse mediante emisiones uniformes en todas las frecuencias del espectro visible .
• Gaussiano porque tiene una distribución normal en el dominio del tiempo con un valor promedio en el dominio del tiempo de cero ( proceso gaussiano ).

El ruido de banda ancha proviene de muchas fuentes de ruido naturales, como las vibraciones térmicas de los átomos en los conductores (denominado ruido térmico o ruido de Johnson-Nyquist ), el ruido de disparo , la radiación del cuerpo negro de la Tierra y otros objetos cálidos, y de fuentes celestiales como el Sol. El teorema del límite central de la teoría de la probabilidad indica que la suma de muchos procesos aleatorios tenderá a tener una distribución llamada gaussiana o normal.

El AWGN se utiliza a menudo como un modelo de canal en el que el único impedimento a la comunicación es una adición lineal de banda ancha o ruido blanco con una densidad espectral constante (expresada como vatios por hercio de ancho de banda ) y una distribución gaussiana de amplitud. El modelo no tiene en cuenta el desvanecimiento , la selectividad de frecuencia , la interferencia , la no linealidad o la dispersión . Sin embargo, produce modelos matemáticos simples y manejables que son útiles para obtener información sobre el comportamiento subyacente de un sistema antes de considerar estos otros fenómenos.

El canal AWGN es un buen modelo para muchos enlaces de comunicación por satélite y en el espacio profundo. No es un buen modelo para la mayoría de los enlaces terrestres debido a los trayectos múltiples, el bloqueo del terreno, la interferencia, etc. Sin embargo, para el modelado de trayectos terrestres, AWGN se utiliza comúnmente para simular el ruido de fondo del canal en estudio, además de los trayectos múltiples, el bloqueo del terreno, la interferencia, el eco del suelo y la autointerferencia que encuentran los sistemas de radio modernos en la operación terrestre.

Capacidad del canal

El canal AWGN está representado por una serie de salidas en un índice de evento de tiempo discreto . es la suma de la entrada y el ruido, , donde es independiente y se distribuye de manera idéntica y se extrae de una distribución normal de media cero con varianza (el ruido). Además, se supone que no están correlacionados con . ${\displaystyle Y_{i}}$ ${\displaystyle i}$ ${\displaystyle Y_{i}}$ ${\displaystyle X_{i}}$ ${\displaystyle Z_{i}}$ ${\displaystyle Z_{i}}$ ${\displaystyle N}$ ${\displaystyle Z_{i}}$ ${\displaystyle X_{i}}$

${\displaystyle Z_{i}\sim {\mathcal {N}}(0,N)\,\!}$

${\displaystyle Y_{i}=X_{i}+Z_{i}.\,\!}$

La capacidad del canal es infinita a menos que el ruido sea distinto de cero y se encuentren suficientemente restringidos. La restricción más común en la entrada es la denominada restricción de "potencia", que exige que para una palabra de código transmitida a través del canal tengamos: ${\displaystyle N}$ ${\displaystyle X_{i}}$ ${\displaystyle (x_{1},x_{2},\dots ,x_{k})}$

${\displaystyle {\frac {1}{k}}\sum _{i=1}^{k}x_{i}^{2}\leq P,}$

donde representa la potencia máxima del canal. Por lo tanto, la capacidad del canal con restricción de potencia viene dada por: ^{[ aclaración necesaria ]} ${\displaystyle P}$

${\displaystyle C=\max \left\{I(X;Y):f{\text{ s.t. }}E\left(X^{2}\right)\leq P\right\}\,\!}$

donde es la distribución de . Desarrolle , escribiéndola en términos de la entropía diferencial : ${\displaystyle f}$ ${\displaystyle X}$ ${\displaystyle I(X;Y)}$

${\displaystyle {\begin{aligned}&I(X;Y)=h(Y)-h(Y\mid X)\\[5pt]={}&h(Y)-h(X+Z\mid X)\\[5pt]={}&h(Y)-h(Z\mid X)\end{aligned}}\,\!}$

Pero y son independientes, por lo tanto: ${\displaystyle X}$ ${\displaystyle Z}$

${\displaystyle I(X;Y)=h(Y)-h(Z)\,\!}$

La evaluación de la entropía diferencial de una gaussiana da:

${\displaystyle h(Z)={\frac {1}{2}}\log(2\pi eN)\,\!}$

Porque y son independientes y su suma da : ${\displaystyle X}$ ${\displaystyle Z}$ ${\displaystyle Y}$

${\displaystyle E(Y^{2})=E((X+Z)^{2})=E(X^{2})+2E(X)E(Z)+E(Z^{2})\leq P+N\,\!}$

A partir de este límite, inferimos de una propiedad de la entropía diferencial que

${\displaystyle h(Y)\leq {\frac {1}{2}}\log(2\pi e(P+N))\,\!}$

Por lo tanto, la capacidad del canal viene dada por el límite más alto alcanzable en la información mutua :

${\displaystyle I(X;Y)\leq {\frac {1}{2}}\log(2\pi e(P+N))-{\frac {1}{2}}\log(2\pi eN)\,\!}$

¿Dónde se maximiza cuando: ${\displaystyle I(X;Y)}$

${\displaystyle X\sim {\mathcal {N}}(0,P)\,\!}$

Por lo tanto, la capacidad del canal AWGN viene dada por: ${\displaystyle C}$

${\displaystyle C={\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)\,\!}$

Capacidad del canal y empaquetamiento de esferas

Supongamos que enviamos mensajes a través del canal con índice que va desde hasta , la cantidad de mensajes distintos posibles. Si codificamos los mensajes en bits, entonces definimos la tasa como: ${\displaystyle 1}$ ${\displaystyle M}$ ${\displaystyle M}$ ${\displaystyle n}$ ${\displaystyle R}$

${\displaystyle R={\frac {\log M}{n}}\,\!}$

Se dice que una tasa es alcanzable si existe una secuencia de códigos de modo que la probabilidad máxima de error tienda a cero a medida que se aproxima al infinito. La capacidad es la tasa más alta alcanzable. ${\displaystyle n}$ ${\displaystyle C}$

Considere una palabra clave de longitud enviada a través del canal AWGN con un nivel de ruido . Cuando se recibe, la varianza del vector de la palabra clave es ahora , y su media es la palabra clave enviada. Es muy probable que el vector esté contenido en una esfera de radio alrededor de la palabra clave enviada. Si decodificamos asignando cada mensaje recibido a la palabra clave en el centro de esta esfera, entonces se produce un error solo cuando el vector recibido está fuera de esta esfera, lo que es muy poco probable. ${\displaystyle n}$ ${\displaystyle N}$ ${\displaystyle N}$ ${\textstyle {\sqrt {n(N+\varepsilon )}}}$

Cada vector de palabra de código tiene una esfera asociada de vectores de palabra de código recibidos que se decodifican en él y cada una de esas esferas debe mapearse de manera única en una palabra de código. Debido a que estas esferas no deben intersecarse, nos enfrentamos al problema del empaquetamiento de esferas . ¿Cuántas palabras de código distintas podemos empaquetar en nuestro vector de palabra de código de bits? Los vectores recibidos tienen una energía máxima de y, por lo tanto, deben ocupar una esfera de radio . Cada esfera de palabra de código tiene un radio . El volumen de una esfera n -dimensional es directamente proporcional a , por lo que el número máximo de esferas decodificables de manera única que se pueden empaquetar en nuestra esfera con una potencia de transmisión P es: ${\displaystyle n}$ ${\displaystyle n(P+N)}$ ${\textstyle {\sqrt {n(P+N)}}}$ ${\displaystyle {\sqrt {nN}}}$ ${\displaystyle r^{n}}$

${\displaystyle {\frac {(n(P+N))^{n/2}}{(nN)^{n/2}}}=2^{(n/2)\log \left(1+P/N\right)}\,\!}$

Según este argumento, la tasa R no puede ser mayor que . ${\displaystyle {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)}$

Alcanzabilidad

En esta sección, mostramos la viabilidad del límite superior de la tasa de la sección anterior.

Se genera un libro de códigos, conocido tanto por el codificador como por el decodificador, seleccionando palabras de código de longitud n , iid gaussianas con varianza y media cero. Para un valor n grande, la varianza empírica del libro de códigos será muy cercana a la varianza de su distribución, evitando así la violación de la restricción de potencia de manera probabilística. ${\displaystyle P-\varepsilon }$

Los mensajes recibidos se decodifican en un mensaje del libro de códigos que es único y típico. Si no existe dicho mensaje o si se viola la restricción de potencia, se declara un error de decodificación.

Sea la palabra clave para el mensaje , mientras que es, como antes del vector recibido. Defina los siguientes tres eventos: ${\displaystyle X^{n}(i)}$ ${\displaystyle i}$ ${\displaystyle Y^{n}}$

1. Evento : la potencia del mensaje recibido es mayor que . ${\displaystyle U}$ ${\displaystyle P}$
2. Evento : las palabras de código transmitidas y recibidas no son conjuntamente típicas. ${\displaystyle V}$
3. Evento : está en , el conjunto típico donde , es decir, la palabra de código incorrecta es conjuntamente típica con el vector recibido. ${\displaystyle E_{j}}$ ${\displaystyle (X^{n}(j),Y^{n})}$ ${\displaystyle A_{\varepsilon }^{(n)}}$ ${\displaystyle i\neq j}$

Por lo tanto, se produce un error si , o cualquiera de los ocurre. Por la ley de los grandes números, tiende a cero cuando n tiende a infinito, y por la propiedad de equipartición asintótica conjunta , lo mismo se aplica a . Por lo tanto, para un suficientemente grande , tanto y son menores que . Como y son independientes para , tenemos que y también son independientes. Por lo tanto, por la AEP conjunta, . Esto nos permite calcular , la probabilidad de error de la siguiente manera: ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle E_{i}}$ ${\displaystyle P(U)}$ ${\displaystyle P(V)}$ ${\displaystyle n}$ ${\displaystyle P(U)}$ ${\displaystyle P(V)}$ ${\displaystyle \varepsilon }$ ${\displaystyle X^{n}(i)}$ ${\displaystyle X^{n}(j)}$ ${\displaystyle i\neq j}$ ${\displaystyle X^{n}(i)}$ ${\displaystyle Y^{n}}$ ${\displaystyle P(E_{j})=2^{-n(I(X;Y)-3\varepsilon )}}$ ${\displaystyle P_{e}^{(n)}}$

${\displaystyle {\begin{aligned}P_{e}^{(n)}&\leq P(U)+P(V)+\sum _{j\neq i}P(E_{j})\\&\leq \varepsilon +\varepsilon +\sum _{j\neq i}2^{-n(I(X;Y)-3\varepsilon )}\\&\leq 2\varepsilon +(2^{nR}-1)2^{-n(I(X;Y)-3\varepsilon )}\\&\leq 2\varepsilon +(2^{3n\varepsilon })2^{-n(I(X;Y)-R)}\\&\leq 3\varepsilon \end{aligned}}}$

Por lo tanto, cuando n se acerca al infinito, tiende a cero y . Por lo tanto, existe un código de velocidad R arbitrariamente cercano a la capacidad derivada anteriormente. ${\displaystyle P_{e}^{(n)}}$ ${\displaystyle R<I(X;Y)-3\varepsilon }$

Teorema de codificación inverso

Aquí demostramos que no se pueden alcanzar tasas superiores a la capacidad. ${\displaystyle C={\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)}$

Supongamos que se cumple la restricción de potencia para un libro de códigos y que los mensajes siguen una distribución uniforme. Sean los mensajes de entrada y los mensajes de salida. Por lo tanto, la información fluye como sigue: ${\displaystyle W}$ ${\displaystyle {\hat {W}}}$

${\displaystyle W\longrightarrow X^{(n)}(W)\longrightarrow Y^{(n)}\longrightarrow {\hat {W}}}$

Haciendo uso de la desigualdad de Fano se obtiene:

${\displaystyle H(W\mid {\hat {W}})\leq 1+nRP_{e}^{(n)}=n\varepsilon _{n}}$mientras​ ${\displaystyle \varepsilon _{n}\rightarrow 0}$ ${\displaystyle P_{e}^{(n)}\rightarrow 0}$

Sea el mensaje codificado con el índice de palabra clave i . Entonces: ${\displaystyle X_{i}}$

${\displaystyle {\begin{aligned}nR&=H(W)\\&=I(W;{\hat {W}})+H(W\mid {\hat {W}})\\&\leq I(W;{\hat {W}})+n\varepsilon _{n}\\&\leq I(X^{(n)};Y^{(n)})+n\varepsilon _{n}\\&=h(Y^{(n)})-h(Y^{(n)}\mid X^{(n)})+n\varepsilon _{n}\\&=h(Y^{(n)})-h(Z^{(n)})+n\varepsilon _{n}\\&\leq \sum _{i=1}^{n}h(Y_{i})-h(Z^{(n)})+n\varepsilon _{n}\\&\leq \sum _{i=1}^{n}I(X_{i};Y_{i})+n\varepsilon _{n}\end{aligned}}}$

Sea la potencia media de la palabra clave de índice i: ${\displaystyle P_{i}}$

${\displaystyle P_{i}={\frac {1}{2^{nR}}}\sum _{w}x_{i}^{2}(w)\,\!}$

donde la suma es sobre todos los mensajes de entrada y son independientes, por lo tanto la expectativa de la potencia de es, para el nivel de ruido : ${\displaystyle w}$ ${\displaystyle X_{i}}$ ${\displaystyle Z_{i}}$ ${\displaystyle Y_{i}}$ ${\displaystyle N}$

${\displaystyle E(Y_{i}^{2})=P_{i}+N\,\!}$

Y, si se distribuye normalmente, tenemos que ${\displaystyle Y_{i}}$

${\displaystyle h(Y_{i})\leq {\frac {1}{2}}\log {2\pi e}(P_{i}+N)\,\!}$

Por lo tanto,

${\displaystyle {\begin{aligned}nR&\leq \sum (h(Y_{i})-h(Z_{i}))+n\varepsilon _{n}\\&\leq \sum \left({\frac {1}{2}}\log(2\pi e(P_{i}+N))-{\frac {1}{2}}\log(2\pi eN)\right)+n\varepsilon _{n}\\&=\sum {\frac {1}{2}}\log \left(1+{\frac {P_{i}}{N}}\right)+n\varepsilon _{n}\end{aligned}}}$

Podemos aplicar la igualdad de Jensen a , una función cóncava (hacia abajo) de x , para obtener: ${\displaystyle \log(1+x)}$

${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}{\frac {1}{2}}\log \left(1+{\frac {P_{i}}{N}}\right)\leq {\frac {1}{2}}\log \left(1+{\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}}\right)\,\!}$

Dado que cada palabra de código satisface individualmente la restricción de potencia, el promedio también satisface la restricción de potencia. Por lo tanto,

${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}},\,\!}$

que podemos aplicar para simplificar la desigualdad anterior y obtener:

${\displaystyle {\frac {1}{2}}\log \left(1+{\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}}\right)\leq {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right).\,\!}$

Por lo tanto, debe ser que . Por lo tanto, R debe ser menor que un valor arbitrariamente cercano a la capacidad derivada anteriormente, ya que . ${\displaystyle R\leq {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)+\varepsilon _{n}}$ ${\displaystyle \varepsilon _{n}\rightarrow 0}$

Efectos en el dominio del tiempo

Cruces por cero de un coseno ruidoso

En las comunicaciones de datos en serie, se utiliza el modelo matemático AWGN para modelar el error de sincronización causado por la fluctuación aleatoria (RJ).

El gráfico de la derecha muestra un ejemplo de errores de sincronización asociados con AWGN. La variable Δ t representa la incertidumbre en el cruce por cero. A medida que aumenta la amplitud de AWGN, disminuye la relación señal-ruido . Esto da como resultado una mayor incertidumbre Δ t . ^[1]

Cuando se ve afectado por AWGN, el número promedio de cruces por cero positivos o negativos por segundo en la salida de un filtro de paso de banda angosto cuando la entrada es una onda sinusoidal es

${\displaystyle {\begin{aligned}&{\frac {\text{positive zero crossings}}{\text{second}}}={\frac {\text{negative zero crossings}}{\text{second}}}\\[8pt]={}&f_{0}{\sqrt {\frac {{\text{SNR}}+1+{\frac {B^{2}}{12f_{0}^{2}}}}{{\text{SNR}}+1}}},\end{aligned}}}$

dónde

ƒ ₀ = la frecuencia central del filtro,

B = el ancho de banda del filtro,

SNR = la relación señal-ruido en términos lineales.

Efectos en el dominio fasorial

Contribuciones de AWGN en el dominio fasorial

En los sistemas de comunicación modernos, no se puede ignorar la AWGN limitada en banda. Al modelar la AWGN limitada en banda en el dominio fasorial , el análisis estadístico revela que las amplitudes de las contribuciones reales e imaginarias son variables independientes que siguen el modelo de distribución gaussiana . Cuando se combinan, la magnitud del fasor resultante es una variable aleatoria distribuida según el método de Rayleigh , mientras que la fase se distribuye uniformemente de 0 a 2 π .

El gráfico de la derecha muestra un ejemplo de cómo la AWGN de ​​banda limitada puede afectar a una señal portadora coherente. La respuesta instantánea del vector de ruido no se puede predecir con precisión, sin embargo, su respuesta promediada en el tiempo se puede predecir estadísticamente. Como se muestra en el gráfico, predecimos con confianza que el fasor de ruido residirá aproximadamente el 38 % del tiempo dentro del círculo 1 σ , aproximadamente el 86 % del tiempo dentro del círculo 2 σ y aproximadamente el 98 % del tiempo dentro del círculo 3 σ . ^[1]

Véase también

• Rebote en el suelo
• Teorema de codificación de canal ruidoso
• Proceso gaussiano

Referencias

1. McClaning, Kevin, Diseño de receptor de radio , Noble Publishing Corporation