授業内容紹介のページ
「情報理論基礎 (2018)」篇


科 目 名 情報理論基礎 (Foundations of Information Theory)
開講年次 2 (情報学群)
開講期間 1クォータ (月・木 第1時限, 専門科目演習:月・木 第4時限)
教   室 A107(専門科目演習: A107)
単 位 数
教 科 書 「C言語による情報理論入門」, 久保田一, 大石邦夫, 福本昌弘 著(コロナ社, 2007)
参 考 書 「イラストで学ぶ情報理論の考え方」, 植松友彦 著(講談社, 2012)
「情報・符号・暗号の理論入門」, 守屋悦朗 著(サイエンス社, 2007)
「電子情報通信レクチャーシリーズC-1 情報・符号・暗号の理論」, 電子情報通信学会 編, 今井秀樹 著(コロナ社, 2004)
授業予定
回数 日 付 時限 内 容(予定) 備 考
1 4/ 9 1 ガイダンス,確率論の応用  
2 4/ 9 4 集合・事象 (専門科目演習) 教科書:1.1.1 試行・事象(例1.1)  課題2.集合・事象 
3 4/12 1 条件付き確率・ベイズの定理 教科書:1.1.2 確率、1.1.3 条件付き確率、1.1.4 ベイズの定理(例題1.1, 1.2, 章末問題【1】,【2】)  課題3.確率 
4 4/16 1 確率変数 教科書:1.1.5 確率変数 
-- 4/19 1 防災に関するアンケート調査  
5 4/23 1 ベルヌーイ試行 教科書:1.1.6 ベルヌーイ試行  
6 4/23 4 期待値・分散 (専門科目演習) 教科書:1.1.7 期待値と分散(例1.3)  課題6.期待値・分散 
7 4/26 1 情報理論 教科書:1.2.1 自己エントロピー(例1.4) 
8 5/ 7 1 相互情報量 教科書:1.2.2 結合エントロピー、1.2.3 条件付きエントロピー、1.2.4 相互エントロピー(例1.5, 1.6, 章末問題【3】)  課題8. 相互情報量 
9 5/ 7 4 [演習 1.] (専門科目演習) 確率に関する演習 
10 5/10 1 シャノンの通信路モデル 教科書:4.1 通信路モデル 
11 5/14 1 通信路容量 教科書:4.2 通信路容量(例4.1, 4.2, 4.3, 章末問題【1】,【2】)  課題10.通信路容量 
12 5/17 1 通信路符号化 教科書:4.3 通信路符号化、4.4 シャノンの第2基本定理(通信路符号化定理) 
13 5/17 4 [演習 2.] (専門科目演習) エントロピーと情報量に関する演習 
-- 5/21 1 ----  
14 5/24 1 情報源符号化 教科書:3.1 符号化、3.2 一意復号可能性と瞬時符号 
15 5/24 4 符号理論 (専門科目演習) 
16 5/28 1 [演習 3.] 通信路符号化に関する演習 
17 5/31 1 試験 持込可:自筆ノート,指定教科書,(関数)電卓 C101教室 
18 6/ 4 1 まとめ  
-- 6/ 7 1 (予備)  

過去の試験問題


高知工科大学 情報学群
高知工科大学