Information theory
情報理論

科目紹介

科目内容

情報理論は，信号・画像等のメディアが持つ情報の量的 測度やエントロピーの概念を明確に定義・解析する理論であ る．講義では情報量の定義，無記憶情報源の定義とそのエン トロピー，マルコフ情報源とそのエントロピー，その計算法 を学ぶ．次に情報源信号の符号化理論，特にHuffman符号を学 ぶ．最後に通信路の定義とその解析法，さらに通信路符号化 の理論を学ぶ．本科目で扱うテーマには確率・統計理論の理 解を必要とするものがある．必要に応じて確率的現象の表現 として，試行，事象，標本空間，事象の確率の定義，条件付 確率，およびベイズの定理，さらに確率変数の概念，確率変 数の種々の統計量，確率ベクトルの概念とその解析法を学 ぶ．

時限，教室，対象クラス

火曜 3-4 限，6A-219 教室， DD, DM

教科書

アブラムソン著 宮川 洋訳，「情報理論入門」，好学社，(ISBN 47690-1310-8)

成績判定

成績判定は中間試験，期末試験の平均点により行ないます．

授業計画

• 第 1 回(2012 年 4 月 10 日) p.14,l.4 log 関連公式の参考資料(pdf)
• 第 2 回(2012 年 4 月 17 日) p.18, l.16
• 第 3 回(2012 年 4 月 24 日) p.25,l.6 2-4,2-5 節の参考資料(pdf)
• 第 4 回(2012 年 5 月 1 日) p.29,l.18 2-6,2-7 節の参考資料(pdf)
• 第 5 回(2012 年 5 月 8 日) p.33,l.16
• 第 6 回(2012 年 5 月 15 日)
  4 限通常授業 p.35,l.11
• 第 7 回(2012 年 5 月 22 日) p.56 l.15
• 第 8 回(2012 年 5 月 29 日) p.67, l.4
• 第 9 回(2012 年 6 月 5 日) p.84, l.9
• 第 10 回(2012 年 6 月 12 日) p.96, l.10
• 第 11 回(2012 年 6 月 19 日) p.104, l.10
• 第 12 回(2012 年 6 月 26 日) p.116, l.16
• 第 13 回(2012 年 7 月 3 日) p.120, l.6
• 第 14 回(2012 年 7 月 10 日)
• 第 15 回(2012 年 7 月 17 日) 5-5 節の参考資料(pdf)

過去の試験問題

• 2008 年度中間試験, 中間試験結果
• 2008 年度定期試験, 定期試験結果

参考資料

情報量の関数が対数関数に限られる理由