分量満点の節に取り組んでいたため間が開いてしまいました...。今回は終盤の山場， 4 章 4 節 "Considerations of Information Theory" です。非常に長い節であるため，今回は前半部分の解読報告となっています。
そしてさらに Wiki にまだ記載されていない，本書の新たなリソースを見つけたので報告します。
前回まで Wiki に掲載されていたこちらの pdf ファイルを用いていました。ネットで入手できるので大変ありがたいのですが，画像形式のため文字選択ができず若干不便だなと思っておりました。そんなときにこんなページを発見しました。
Hector Zenil | Personal Homepage
こちらの Zenil さんは，アルゴリズム・計算機生物学の研究者なのですが，その名も "A computable universe" という本も出しているほど，ツーゼに詳しい方の様です。
そして大変ありがたいことに，MIT とツーゼの家族の協力のもと(すごい！)，latex で作成した pdf ファイルを公開しております。
リンクはこちら。
底本が同じであるため，本文の内容は今まで使用していた pdf ファイルと同じです。図の解像度はあまり変わっていませんが本文がとても読みやすくなっていますので，こちらをオススメします。最後の方に Zenil さんの手短な解説もついててお得です。
さて，今回の内容に入って行きましょう。"Considerations of Information Theory" というタイトルが示すとおり，本説のキーワードは情報理論です。
2 章 6 節の解読の際に，「3進数システムが2進数システムよりも優れている」という本文の記述に関連して情報理論の話を持ち出しました。今回は正式に本文内で情報理論が取り上げられます。
まず情報理論の意義について，
「「情報理論は情報量」という術語を，新情報伝達(news-transmitting)システムに関して明確に定式化した。」
と述べています。単なる情報伝達でなく，新情報伝達と訳しました。ひらたく言うと情報理論では，それを知った時のびっくり度合いによって，その情報の量を定量します。
さて，この「情報量」が以降何度も本文中に出てくるわけですが，どうやら扱いに注意が要る言葉のようです。
「情報理論を情報処理の理論であると我々は考えがちであるが，これは正しくない。」
「近傍領域における情報伝達に対する，情報理論の術語の安易な応用は，しばしば混乱をもたらす。
現在おこなっている考察においても，情報量をはっきりさせる必要がある。」
と述べています。
どのように情報量をはっきりさせていくか。すなわち本書においてツーゼが情報理論をどのようなものとして扱っているかを読み解くことが，本節の解読の鍵のようです。まずこのように述べています。
「情報理論の観点から物理現象を論じるのは難しい。これは我々が人々を考察に加えることができるかぎりにおいて興味深い。」
ここに出てくる「人々」に若干唐突な印象を受けますが，情報量はびっくり度であるため，びっくりする側である情報の受け手が重要になるので考察が必要ということかなと思います。
「隠喩的に，宇宙空間で他の星から我々に近づいてくる光を情報と見なすことができる。そしてこのこのケースにおいて，情報量に関する問題が意味を持つ。」
「自然界から我々が得る原子核構造についての情報は，大部分が放出された光子の周波数によって構成されている。
このケースでは，「情報量」という術語の使い方には意味がある。」
という感じに本書において妥当とされる情報量の例はもっぱら，人間が自然界を観察して得る情報となっています。そもそも本書がいかに自然界を描写するかという話であるから，自然だと言えます。
次に出てくるのが，
「もし物体が取り得る形状やパターンなどの変動を考慮すると，「新情報の伝達」という情報の定義に注意を払わないならば，居住しているシステムの情報量について扱うことはできない。」
という記述。 "inhabited" という言葉がまた唐突ですが，「我々がその内部に居住しているシステム」ということを強調するために用いられているのではと考えています。そして「新たな情報」がやはり重要であることが重ねて示されています。
そして，
「パンチカードはその変動性のために，ビットで測定できる，明確な情報量を含むことができる。」
という記述が続きます。形状が変わるから新情報が発生し，逆に形状を変えることで新情報をその内に取り込むことができるってかんじでしょうか。
記憶媒体がここで登場したことで，馴染みのある情報系基礎の話が少し出てきてほっとします。
「パンチシステムや読み出し機を含むパンチカード自体の技術的な特徴は，入力できる情報量の上限を定める。そしてそれは情報容量として定義される。新情報の伝達において，この情報容量は完全に使われる必要はない。送り手から受け手へ伝達されるパンチカードの情報は総容量を下回るだろう。」
「ある有限オートマトンについて，取り得る状態を指標とするならば，取り得る最大情報容量を議論することができる。」
「もし取り得る状態が n であるならば，情報量はlog2(n)である。取り得る状態数が 2 の記憶素子を m 個もつ機器は，取り得る状態が 2^m であるため情報量は m となる。」
これに続いてこんな記述も。
「また，状態がそうなっている時及び非常に複雑な微分方程式の解法の結果が記憶素子に保持されている場合，各レジスタ及び記憶ユニットはゼロにセットされる。」
原文が込み入っててあまり自信がない部分です...。とりあえずこの訳が大体あっているとすると，レジスタやストレージがゼロになっているときは，初期状態としてのゼロの場合と，非常に複雑な演算(例えば微分方程式の)の結果としてゼロが得られた場合の 2 つのケースがある，ということを述べていると思います。
これら 2 つのケースは見分けがつきませんが，前者は何も情報を含んでいないのに対して，後者はゼロはゼロでも重要な情報を含んでいます。
ここが要注意ということで
「この例は情報理論の術語の定義に，非常に注意力が必要であることを示している。」の記述につながるのだと思います。
今回は前半部分のここまでです。一口に「情報」といっても，見かけ上の情報と真の情報が異なるなど，いろんなケースがあるため，情報量の評価は慎重に行わないといけないねという内容でした。
後半部分は具体的な数字を用いた考察が登場して，またまた盛りだくさんの内容となっています。それでは引き続き解読していきます！
0 件のコメント:
コメントを投稿