筑波大学教育課程編成支援システム

GB12501 情報理論

2.0 単位, 2 年次, 秋C 火・金3,4
伊藤誠

授業概要

情報通信を含む様々な分野で必要となるシャノンの情報理論について講義と演習を行う。内容は,情報とその表現,情報量,情報圧縮のための符号化,信頼性向上のための符号化,情報伝送と信号。

備考

確率論の知識を必要とする。
オンライン(オンデマンド型)
対面

授業形態

講義

学位プログラム・コンピテンスとの関係

・専門コンピテンス
1. 情報科学を支える基礎知識

授業の到達目標(学修成果)

1. 情報を測る様々な量(各種情報量)を理解する。
2. 情報の効率的な表現方法について、その理論的限界と代表的手法を理解する。
3. 情報の効率的な伝送方法について、その理論的限界と代表的手法を理解する。

キーワード

通信, 符号化, 情報量

授業計画

本講義は、2020年度は基本的にオンライン(オンデマンド)での開講を想定している。しかし、昼休み後の授業であること、続く5,6限には情報科学類開講の科目は予定されていないこと、秋Cということから教室に余裕がある可能性があることなどを踏まえ、12月ごろの感染状況ならびに教室の空き状況次第では、対面とオンライン(オンデマンド)の併用を検討する。対面実施の最終判断は12月下旬を想定する。対面実施の場合でも、事情のあるものについてはオンライン(オンデマンド)での受講を可とする。

第1回	第1回情報とその表現情報理論とは、情報とは何か、情報源の統計モデル、情報伝送系のモデル、標本化と量子化 CDのしくみ等の身近な例を使って、本講義で学ぶ内容を解説する。
第2回	第2回情報圧縮のための符号化(情報源符号化) 符号の種類、クラフトの不等式
第3回	第3〜5回情報源符号化の理論情報量、エントロピー、マルコフ情報源、符号化の基本定理、ハフマン符号
第4回	第6〜7回信頼性向上のための符号化(通信路符号化) 誤り検出・訂正符号、パリティ検査符号、組織符号、ハミング距離
第5回	第8〜9回通信路符号化の理論通信路と通信路行列、相互情報量、伝送情報量、通信路容量、通信路符号化の基本定理
第6回	第10回やや高度な話題線形符号(巡回符号,特にCRC)

履修条件

確率論の知識を前提とする。

成績評価方法

授業中に実施するクイズ(40%),レポートもしくは試験(60%)により評価を行う.本科目では、通常の対面実施の場合でも、レポートで試験の代替とすることが多い。

学修時間の割り当て及び授業外における学修方法

授業の中でクイズ(小テスト)を行う。最初に前回クイズの解答を解説するので、復習をしておくこと。
次回の授業範囲を予習し、専門用語の意味等を理解しておくこと。

教材・参考文献・配付資料等

教材は、manabaにて資料を適宜配布する。

参考となる文献は以下の通り。

1. 植松友彦,イラストで学ぶ情報理論の考え方,講談社
2. 甘利俊一,情報理論,ダイヤモンド社
3. 小林欣吾,森田啓義,情報理論講義,培風館
4. 横尾英俊,情報理論の基礎,共立出版

オフィスアワー等(連絡先含む)

メールで連絡をしてください
総合研究棟B SB0808 5502 1002214 http://www.risk.tsukuba.ac.jp/~itoh/

その他(受講生にのぞむことや受講上の注意点等)

確率論の予備知識を必要とする。

他の授業科目との関連

GB11601 確率論

ティーチングフェロー(TF)・ティーチングアシスタント(TA)

TA リスク・レジリエンス工学学位プログラム博士前期課程1年次毛夕牧

シラバス参照