情報理論基礎 試験問題（2017年度）

2017年 5月29日


問 1. 下図のような2元通信路の伝送情報量を求めなさい。


\begin{picture}(61,40) \put( 2, 25){ \makebox(15,10){$x_0$} } \put( 2, 5){ \ma... ...ebox(10,10){$\beta$} } \put( 15, 1){ \makebox(30,10){$1-\beta$} } \end{picture}
ただし、送信記号$ X$ とその生起確率を

$\displaystyle X = \left\{ \begin{array}{ccc} x_0 &, & x_1 \\ \gamma &, & 1-\gamma \end{array} \right\} $

としなさい。


問 2. 問 1. の通信路で $ \beta = \alpha$ としたときの通信路容量を求めなさい。


問 3. $ 4^\nu$ 元記号からなる情報源のエントロピーについて説明しなさい。 また、このエントロピーの最大値とその条件を示しなさい。


問 4. 通信路行列$ P$ が

$\displaystyle P = \left[ \begin{array}{ccc} \displaystyle\frac{8}{9} & \displ... ... \displaystyle\frac{1}{9} & 0 & \displaystyle\frac{8}{9} \end{array} \right] $

と与えられる通信路の通信路容量を求めなさい。 ただし、 $ \log_2 3 = 1.58$ 、 $ \log_2 5 = 2.32$ 、 $ \log_2 7 = 2.81$ 、 $ \log_2 11 = 3.46$ として計算しなさい。


問 5. 送信記号を $ \left\{\mbox{\lq\lq 0''},\mbox{\lq\lq 1''}\right\}$ とするような2元通信路において、 送信記号 ``0''、``1'' に対する受信信号を、 期待値がそれぞれ $ \mu_0=0.00$ 、 $ \mu_1=2.60$ 、 分散が $ \sigma_0^2=\sigma_1^2=1/4$ の正規分布に従うものとする。 この通信路を用いて、判定しきい値を $ 1.40$ （受信信号が1.40以下では``0''、1.40より大きくなると``1''と判定する）としたときに以下の問いに答えなさい。

　(1) 送信記号 ``0''、``1'' を送信する確率をそれぞれ $ P($``0''$ )=\displaystyle\frac{3}{4}$ 、 $ P($``1''$ )=\displaystyle\frac{1}{4}$ として判定を誤る確率（記号誤り率）を求めなさい。

　(2) 正しく判定をしたときに、送信記号が ``1'' である確率を求めなさい。