情報理論基礎 試験問題（2016年度）

2016年 5月26日


問 1. 送信記号を $ \left\{\mbox{\lq\lq 0''},\mbox{\lq\lq 1''}\right\}$ とするような2元通信路において、 送信記号 “0”、“1” に対する受信信号の期待値がそれぞれ $ \mu_0=0$、$ \mu_1=1.0$、 分散がそれぞれ $ \sigma_0^2=1/36$、 $ \sigma_1^2=1/16$ の正規分布に従うことがわかっているとする。 この通信路を用いて、判定しきい値を $ 0.5$（受信信号が0.5以下では “0”、0.5より大きくなると “1” と判定する）としたときに以下の問いに答えなさい。

(1) 送信記号 “0”、“1” を送信する確率をそれぞれ $ P($“0”$ )=0.95$、 $ P($“1”$ )=0.05$ として判定を誤る確率（記号誤り率）を求めなさい。

(2) 正しく判定をしたときに、送信記号が$ \lq\lq 1''$である確率を求めなさい。


問 2. 問 1. の通信路を2元対称通信路にするためには受信側でどのような変更をすればよいか、 また、その2元対称通信路で伝送情報量を最大にするにはどうすればよいかについて、その理由とともに説明しなさい。


問 3. $ M$個からなる記号 $ S = \left\{ s_1, s_2, \cdots, s_M \right\}$ で表現できる情報量について説明しなさい。 また、この情報量の最大値と最小値および、それぞれの条件を示しなさい。

問 4. 下図のような2元通信路の伝送情報量を求めなさい。


\begin{picture}(61,40) \put( 2, 25){ \makebox(15,10){$x_1$} } \put( 2, 5){ \ma... ...ox(10,10){$\delta$} } \put( 15, 1){ \makebox(30,10){$1-\delta$} } \end{picture}
ただし、送信記号$ X$とその生起確率を

$\displaystyle X = \left\{ \begin{array}{ccc} x_1 &, & x_2 \\ p &, & 1-p \end{array} \right\} $

としなさい。


問 5. 問 4. の通信路で $ \varepsilon =\delta = 1/16$としたときの通信路容量を求めなさい。 ただし、 $ \log_2 3 = 1.58$、 $ \log_2 5 = 2.32$、 $ \log_2 7 = 2.81$、 $ \log_2 11 = 3.46$として計算しなさい。