授業内容紹介のページ
「情報理論基礎 (2017)」篇


科 目 名 情報理論基礎 (Foundations of Information Theory)
開講年次 2 (情報学群)
開講期間 1クォータ (月・木 第1時限, 専門科目演習:月・木 第5時限)
教   室 A107(専門科目演習: A107)
単 位 数
教 科 書 「C言語による情報理論入門」, 久保田一, 大石邦夫, 福本昌弘 著(コロナ社, 2007)
参 考 書 「イラストで学ぶ情報理論の考え方」, 植松友彦 著(講談社, 2012)
「情報・符号・暗号の理論入門」, 守屋悦朗 著(サイエンス社, 2007)
「電子情報通信レクチャーシリーズC-1 情報・符号・暗号の理論」, 電子情報通信学会 編, 今井秀樹 著(コロナ社, 2004)
授業予定
回数 日 付 時限 内 容(予定) 備 考
1 4/10 1 ガイダンス,確率論の応用  
2 4/10 5 集合・事象 (専門科目演習) 教科書:1.1.1 試行・事象(例1.1), 課題2.集合・事象 
3 4/13 1 条件付き確率・ベイズの定理 教科書:1.1.2 確率、1.1.3 条件付き確率、1.1.4 ベイズの定理(例題1.1, 1.2, 章末問題【1】,【2】), 課題3.確率 
4 4/17 1 確率変数 教科書:1.1.5 確率変数 
5 4/20 1 ベルヌーイ試行 教科書:1.1.6 ベルヌーイ試行  
6 4/20 5 期待値・分散 (専門科目演習) 教科書:1.1.7 期待値と分散(例1.3), 課題6.期待値・分散 
7 4/24 1 情報理論 教科書:1.2.1 自己エントロピー(例1.4) 
8 4/27 1 相互情報量 教科書:1.2.2 結合エントロピー、1.2.3 条件付きエントロピー、1.2.4 相互エントロピー(例1.5, 1.6, 章末問題【3】), 課題8. 相互情報量 
9 5/ 1 1 シャノンの通信路モデル 教科書:4.1 通信路モデル 
10 5/ 1 5 [演習 1.] (専門科目演習) 確率に関する演習 
11 5/ 8 1 通信路容量 (木曜振替) 教科書:4.2 通信路容量(例4.1, 4.2, 4.3, 章末問題【1】,【2】), 課題10.通信路容量 
12 5/11 1 通信路符号化 教科書:4.3 通信路符号化、4.4 シャノンの第2基本定理(通信路符号化定理) 
13 5/15 1 情報源符号化 教科書:3.1 符号化、3.2 一意復号可能性と瞬時符号 
14 5/15 5 [演習 2.] (専門科目演習) エントロピーと情報量に関する演習 
15 5/18 1 符号理論  
16 5/22 1 [演習 3.] 通信路符号化に関する演習 
17 5/25 1 (総合的な演習)  
-- 5/25 5 (予備) (専門科目演習) 
18 5/29 1 試験 C101教室 持込可:自筆ノート,指定教科書,(関数)電卓  
19 6/ 1 1 まとめ  
-- 6/ 5 1 (予備)  

過去の試験問題


高知工科大学 情報学群
高知工科大学