Unidad 3 · Decisión sobre el canal binario
Un canal binario simétrico con da vuelta uno de cada diez bits. El receptor que le cree —el que decide , lo que llegó es lo que mandaron— se equivoca esas mismas diez veces de cada cien, y no hay prior que lo salve: su error vale y nada más. Pero si el transmisor manda ceros el del tiempo hay un receptor que se equivoca una vez de cada cien: el que contesta 0 sin mirar. Diez veces mejor tirando a la basura el único dato que tiene.
Y el prior a partir del cual eso empieza a pagar no es una zona gris: es un número exacto, . Por debajo de ese punto el receptor óptimo —el MAP— y el que le cree al canal no se parecen: son el mismo receptor, deciden lo mismo para cada y su probabilidad de error es el mismo número. Por encima, el MAP deja de leer .
Lo que sigue es de dónde sale ese punto, por qué es un punto y no un tramo, y qué le pasa al receptor del otro lado del escalón — porque hay dos escalones y la cuenta de arriba sólo muestra uno.
El canal binario simétrico tiene un solo parámetro, , la probabilidad de que el bit salga cambiado. La fuente tiene el suyo, el a priori . Con esos dos la conjunta sale de la regla del producto y ahí adentro está todo lo demás:
La fila es y la columna es . Con y priors iguales eso da 0,45 en la diagonal y 0,05 fuera, que es la tabla del apunte; contando sobre dos millones de tiradas simuladas, las frecuencias caen encima de esos cuatro números. Las marginales de valen media y media, que era de esperar: un canal simétrico con una fuente simétrica no puede desbalancear nada.
Lo que el receptor necesita no es la conjunta sino la posterior, que es Bayes al revés del canal: el canal describe y el receptor pregunta .
Con y priors iguales, : el canal es todo lo que hay, y creerle es lo mejor que se puede hacer. El receptor óptimo es el que se queda con el símbolo de posterior más grande,
y con priors iguales ese receptor es . No se le parece: es idéntico, símbolo por símbolo. Por eso las dos probabilidades de error coinciden ahí, y por eso compararlas en esa zona no verifica absolutamente nada — es la misma aritmética escrita dos veces.
Ahora movamos el prior. Con y el mismo canal, . Leído en voz alta: recibiste un 1 y seguís creyendo, con probabilidad 0,92, que mandaron 0. La observación entró, hizo su trabajo —bajó la creencia de 0,99 a 0,92— y no alcanzó para dar vuelta nada. Ese es el mecanismo entero de esta nota.
Cuando el prior es tan fuerte que la posterior no cambia de lado, el receptor óptimo se vuelve una constante: decide siempre 0, mire lo que mire. Y a un receptor constante se le puede calcular el error sin pensar: se equivoca cada vez que la fuente manda un 1, o sea con probabilidad . El otro, el que le cree al canal, se equivoca con probabilidad pase lo que pase con el prior. Igualarlos es una línea de álgebra:
Hay un segundo camino que no comparte una sola operación con ése. En vez de mirar los errores, mirá cuándo la posterior de —la única que puede cambiar de lado— cruza un medio. Eso pasa cuando las dos entradas de esa columna de la conjunta se emparejan:
Dos ecuaciones distintas —una compara dos probabilidades de error, la otra compara dos probabilidades conjuntas— con la misma raíz. Eso es un control, no una coincidencia: el punto donde el MAP deja de escuchar y el punto donde a los dos receptores les da lo mismo son necesariamente el mismo punto, porque el MAP sólo cambia de regla cuando la regla vieja deja de ser óptima.
El barrido del prior, con fijo:
| π₀ | Pe de x̂ = y | Pe del MAP | qué decide el MAP |
|---|---|---|---|
| 0,50 | 0,1000 | 0,1000 | x̂ = y |
| 0,85 | 0,1000 | 0,1000 | x̂ = y |
| 0,89 | 0,1000 | 0,1000 | x̂ = y |
| 0,90 | 0,1000 | 0,1000 | empate |
| 0,91 | 0,1000 | 0,0900 | siempre 0 |
| 0,95 | 0,1000 | 0,0500 | siempre 0 |
| 0,99 | 0,1000 | 0,0100 | siempre 0 |
La columna del medio es una constante y esa es la mitad de la historia: el receptor que le cree al canal no aprende nada de que la fuente esté desbalanceada. La otra mitad es que la columna de la derecha, que venía pegada a ella, se despega de golpe y se va a cero linealmente.
Y el punto no es propiedad de . Buscándolo a ciegas —preguntándole al receptor, para cada prior, si todavía mira o ya no— cae siempre sobre la fórmula:
| ε | π* = 1 − ε | ¿escucha en π* − 10⁻⁶? | ¿escucha en π* + 10⁻⁶? |
|---|---|---|---|
| 0,01 | 0,9900 | sí | no |
| 0,05 | 0,9500 | sí | no |
| 0,10 | 0,9000 | sí | no |
| 0,20 | 0,8000 | sí | no |
| 0,30 | 0,7000 | sí | no |
| 0,45 | 0,5500 | sí | no |
Las dos columnas del medio se leen así: a un millonésimo por debajo de el receptor todavía decide distinto para y para ; a un millonésimo por encima ya decide lo mismo para los dos. No hay ningún prior en el medio. El escalón es de ancho cero, y eso es lo que un párrafo no puede mostrar.
El deslizador arranca en , que es la posición donde no hay nada que ver: los dos receptores son el mismo y los dos puntos del panel de arriba están uno encima del otro. Las curvas se van dibujando sobre el tramo de prior que recorras — así que el escalón aparece cuando lo cruces vos, y no antes. El panel de abajo dice, en todo momento, qué decide el receptor para cada símbolo recibido y por qué: la posterior de cada contra la línea de un medio.
Lo que hay que ver arriba es que la curva azul tiene una esquina y no una curvatura. La recta gris no se mueve nunca — ése es el receptor que le cree al canal, que ignora el prior por completo—, y la azul se le despega en un vértice. Y abajo, que el punto de cruza la línea de un medio en el mismo instante en que aparece la esquina: son el mismo hecho mirado desde dos lugares.
Bajá el prior en vez de subirlo y pasa lo simétrico. Con y —la fuente manda unos casi siempre— el MAP vuelve a dejar de mirar , sólo que ahora decide siempre 1. El segundo vuelco está en , y la probabilidad de error del receptor óptimo, sobre todo el rango del prior, es una sola expresión:
Una meseta con dos vértices. La meseta es el tramo donde el canal sirve: los priors entre y , o sea un ancho de . Fuera de ella el prior manda solo. Y ese ancho dice algo que la tesis de esta nota, escrita para un lado solo, se guardaba: lo que decide si vale la pena escuchar al canal no es el canal ni el prior por separado, sino cuál de los dos es más informativo, y la comparación se hace en la misma escala porque las dos cosas son probabilidades de equivocarse.
El extremo lo dice más fuerte que cualquier párrafo. Con la posterior sale igual a la priori para cualquier —mirar la salida no informa nada, que es la definición de un canal inútil— y la meseta tiene ancho . Los dos vértices se juntan en uno solo, la curva azul se vuelve un triángulo sin tapa, y el único prior en el que el canal aporta algo es exactamente : un conjunto de medida nula. El widget lo tiene en la lista; conviene mirarlo.
En exacto la posterior de vale un medio clavado. No hay un símbolo más probable: hay un empate, y qué contesta el receptor ahí es una convención y no un resultado. Los dos desempates dan la misma probabilidad de error, , y por eso la tabla marca esa fila como empate en vez de decir qué decide.
Eso no es un detalle de borde: es la razón de que el cruce sea un punto. A la izquierda la desigualdad entre las dos posteriores apunta para un lado, a la derecha apunta para el otro, y en el medio no hay desigualdad — hay un solo prior, no un intervalo. Una zona de transición existiría si la regla óptima cambiara de a poco, y una regla de decisión no cambia de a poco: elige un símbolo o elige el otro.
El desempate sí deja una asimetría medible. Quedarse con el 0 cuando hay empate hace que el vuelco de arriba ocurra en y el de abajo un paso después de : en el receptor todavía distingue los dos símbolos recibidos, mientras que en ya no. La probabilidad de error es la misma en los dos casos, así que la asimetría no se paga; pero está, y quien mire el receptor bit a bit la va a encontrar.
«El receptor ignora el canal» suena a que algo se desperdicia, y conviene decir qué exactamente. El canal sigue entregando su observación, y la observación sigue moviendo la creencia: con recibir un 1 baja la creencia en el 0 de 0,99 a 0,9167, que es una actualización enorme en términos relativos. Lo que no alcanza es para cruzar el medio. La información entra entera; lo que se descarta es el último paso, el que convierte una creencia en un símbolo, y ese paso sólo puede contestar dos cosas.
De ahí sale por qué un enlace real no trabaja nunca en esa zona. Un prior de 0,99 sobre bits de datos significa que la fuente está mandando casi siempre lo mismo, o sea que está desperdiciando el canal antes de que el ruido entre a jugar; comprimir la fuente hasta que los bits salgan equiprobables es lo que devuelve el problema al centro de la meseta, que es donde el canal vale lo que cuesta. La compresión y la decisión son el mismo negocio mirado desde las dos puntas.
Y queda la pregunta obvia: qué pasa cuando la salida del canal no es un bit sino un número. Ahí el receptor no puede dejar de mirar de golpe, porque no hay dos casos sino un continuo — lo que hace el prior es correr el umbral, y lo hace de a poco y sin escalones. Eso es la nota que sigue: la misma idea de esta, con en vez de un canal binario.