Information Theory
情報理論

重要なお知らせ

1/10 の第13回授業は対面授業を中止してオンデマンド授業に変更します.去年の授業動画がstreamにありますのでそれの第13回を見ることで授業完了とします(URLはOpenLMSの「アナウンスメント」に書きました).第13回は登校する必要はなく,出席,課題の提出はありません.(2023/1/8)

11/15 の授業は対面授業を中止してオンデマンド授業に変更します.去年の授業動画がstreamにありますのでそれの第7回を見ることで授業完了とします(URLはOpenLMSの「アナウンスメント」に書きました).第7回は登校する必要はなく,出席,課題の提出はありません.次回 11/22は授業と同じ教室で中間試験となりますので準備して下さい.試験範囲は動画に合わせて教科書 p.38, 3行目までとします.(2022/11/15)

科目紹介

科目内容

情報理論は,情報の発信を確率過程としてとらえることで情報を定義し,情報の持つ 性質を明らかにする学問である.情報理論の存在なくしては現在のディジタル機器の出 現,普及は不可能だったと言われており,通信ネットワーク工学分野における最も 重要な基礎学問の一つである.講義では 情報源と符号化の定義,平均符号長, 一意に復号可能な符号と瞬時に復号可能な符号,Kraft の不等式, 平均符号長の最小値とエントロピー,コンパクト符号について学び, 通信路と相互情報量について学ぶ. 理解には確率過程に関する数学の知識が必要なため, 適宜事象と確率条件付き確率と独立, などの確率に関する知識を学習する.

履修のポイント:将来,ディジタル信号・画像の処理・伝送・記憶システム, さらにデータ圧縮理論を学びたいと希望する学生は情報理論を是非履修して欲しい. 確率・統計,および情報理論を単なる理論的操作と見るのではなく, それらが現代の科学技術,特に情報通信技術の中でどのように重要な位置を 占めているかを理解することが大切である.

時限,教室,対象クラス

2022年度,火曜 2 限(11:00-12:40),4304教室,(履修者 65 名)

教科書

山本宙,「情報量 ー情報理論への招待ー」,コロナ社, ISBN978-4-339-02890-4

教科書のリンク先に正誤表があるので確認しておくこと.

成績判定

成績判定は中間試験と定期試験を受験した学生を対象にその平均点により行う.

授業計画

授業スケジュール

授業時間中にスマートフォンなどでOpen LMS による出席登録を行え. ただし,第8回と定期試験の回は出席登録は無い.

過去の試験

中間試験

2022 年度中間試験問題 , 中間試験解答例 , 中間試験結果

定期試験

2020 年度定期試験問題 , 定期試験解答例 , 定期試験結果

参考資料


Updated in January 8, 2023, Yamamoto Hiroshi Web