情報理論基礎 試験問題（2015年度）

2015年 5月25日


問 1. $ 2^m$個からなる記号 $ S = \left\{ s_1, s_2, \cdots, s_{2^m} \right\}$ で表現できる情報量を示しなさい。 また、この情報量が最大になる条件と最大値を示しなさい。


問 2. ある工場では4種類の情報通信機器 $ C_1$、$ C_2$、$ C_3$、$ C_4$ が製造されており、 これらの機器が製造される割合は、 それぞれ 2/15、1/5、2/5、4/15 である。 また、これらの機器 $ C_1$、$ C_2$、$ C_3$、$ C_4$ は、 それぞれ 1/100、1/200、1/300、1/200 の割合で製造不良が発生するそうである。 このとき、次の問いに答えなさい。

(1) この工場で正常な情報通信機器が製造される確率を求めなさい。

(2) この工場で製造不良が発生したときに、それが機器 $ C_3$ である確率を求めなさい。


問 3. 送信記号を $ \left\{\mbox{\lq\lq 0''},\mbox{\lq\lq 1''}\right\}$ とするような2元通信 路において、 送信記号 ``0''、``1'' に対する受信信号の期待値がそれぞれ $ \mu_0=0$、$ \mu_1=1.0$、 分散がそれぞれ $ \sigma_0^2=1/16$、 $ \sigma_1^2=1/36$ の正規分布に従うことがわかっているとする。 この通信路を用いて、判定しきい値を $ 0.6$（受信信号が0.6以下では``0''、0.6より大きくなると``1''と判定する） としたときに判定を誤る確率（記号誤り率）を求めなさい。 ただし、送信記号 ``0''、``1'' を送信する確率 $ P($``0''$ )=P($``1''$ )=0.5$ とする。


問 4. 通信路行列$ P$が

$\displaystyle P = \left[ \begin{array}{cc} 1-\varepsilon & \varepsilon \\ \delta & 1-\delta \end{array} \right] $

である2元通信路の伝送情報量を求めなさい。 ただし、送信記号$ X$とその生起確率を

$\displaystyle X = \left\{ \begin{array}{ccc} x_0 &, & x_1 \\ p &, & 1-p \end{array} \right\} $

としなさい。


問 5. 問 4. の通信路で $ \varepsilon =\delta = 1/81$としたときの通信路容量を求めなさい。 ただし、 $ \log_2 3 = 1.58$、 $ \log_2 5 = 2.32$、 $ \log_2 7 = 2.81$、 $ \log_2 11 = 3.46$として計算しなさい。