情報理論基礎 試験問題（2013年度）

2013年 6月 3日

問 1. $8^n$元記号で表現できる情報量を示しなさい。 また、この情報量が最大になる条件と最大値を示しなさい。

問 2. ある通信システムで記号 $x_1$、$x_2$、$x_3$ を送信すると、 それぞれ 1/200、1/1000、3/1000 の確率で誤りが発生するそうである。 また、これらの記号 $x_1$、$x_2$、$x_3$ は、それぞれ 2/7、4/7、1/7 の確率で送信される。 このとき、次の問いに答えなさい。

(1) この通信システムで正しく通信できる確率を求めなさい。

(2) この通信システムで誤りが発生したときに、送信信号が $x_1$ である確率を求めなさい。

問 3. 送信記号を $\left\{\mbox{\lq\lq 0''},\mbox{\lq\lq 1''}\right\}$ とするような2元通信系で、 送信記号 ``1'' に対する受信信号が、期待値 $\mu_1=0.5$、分散 $\sigma_1^2=1/25$ の正規分布に従うとする。 この通信系で ``1'' を送信したときに判定を誤る確率（記号誤り率）を 0.010 以下にするための判定しきい値（受信信号がしきい値を超えれば ``1'' と判定する）を求めなさい。

問 4. 下図のような2元対称通信路の伝送情報量を求めなさい。

ただし、送信信号$X$を

$$X = \left\{ \begin{array}{ccc} x_1 &, & x_2 \\ q &, & 1-q \end{array} \right\}$$

としなさい。

問 5. 問 4. の通信路で $\varepsilon = 1/81$としたときの通信路容量を求めなさい。 ただし、 $\log_2 3 = 1.58$、 $\log_2 5 = 2.32$、 $\log_2 7 = 2.81$、 $\log_2 11 = 3.46$として計算しなさい。