終盤の長丁場，4 章 4 節 "Considerations of Information Theory" の後半です。
内容がもりだくさんで非常に長くなってしまいましたが，なんとか解読が(謎を残しつつも)終わりましたのでここに報告します。
情報伝達において重要な情報理論。本節前半部分では本書のテーマである物理現象のディジタル的記述の中で，情報理論がどのような役割を果たすか，および情報理論を用いる場合の注意点が述べられていました。
前半の最後にて，コンピュータのレジスタがゼロになっているとき，
1) 計算がまだ行われていない初期状態である。
2) なんらかの計算が行なわれた結果，ゼロという答えが得られた状態である。
の2タイプがあることが注意点として特に取り上げられていました。
このことについて，こんな記述が続きます。
「もしこれらの受け手に対する情報の個別の価値を考慮しないと，有限オートマトンの情報量が計算の過程で増加しないことになってしまう。なぜならば，プログラムの導入と入力が与えられた後，計算は完全に自動的に行われ，結果は最初から確定しているからである。」
ちょっと分かりにくい...。しかし，「結果は確定している」のは誰にとってかを考えてみたらなんとなく筋道が見えてきました。
「結果が確定している」のはコンピュータにとってです。計算過程と入力を与えられればコンピュータにはわかったようなものです。
ですがそれは観測者，すなわちコンピュータのユーザーにとっては確定していません。確定しているんだったら最初から自分で暗算しちゃえばいいわけです。
なので情報量はコンピュータに対しては計算の前後で不変ですが，ユーザーにとっては情報量が増大し得ます。特に非常に複雑な微分方程式だったらお宝のような情報が手に入るかもしれません。
だからこそ，本節前半部において，「近傍に伝わっていく情報の扱いに気をつけろ！」と言っていたのかもしれませんね。確かに信号はオートマトンの中を伝わっていきますが，その信号がオートマトン自身にとって新情報でなく，
そのオートマトンを使用するユーザー，あるいは計算する宇宙を観測する私達にとってのみ情報量が発生する...ってことかなぁと思いました。
続いて，いよいよ「計算する宇宙」の話に立ち入ります。
「宇宙をオートマトンで見た時に得られる最初の結果は，一つのセルが有限オートマトンを表しているということである。」
一個一個のセルが有限オートマトンのように状態遷移していき，それらが空間的に並ぶことで，すなわちセルオートマトンで宇宙を表現できるってことだと思います。加えて，セルオートマトンは有限個の状態と，それゆえ有限の情報量を持つことが述べられていて，適切な上限値を仮定することで，このことが宇宙に対しても当てはまることも述べられていています。
オートマトンによる宇宙の記述が妥当であるようなので，有限オートマトンについての説明が次に述べられています。
有限オートマトンのある状態 A は，別の状態 B を導くこと(本書では"dissolve"という言葉で表現されている)，このAとBを関係F(A,B)と記述できること。そしてFig.68 のように，有限オートマトンは矢線図またの名を有向グラフで表すことができることが述べられています。
そして，
「重要な点として，どの状態も複数の前状態を持ちうるが，次状態は1つしか持たないことが挙げられる。」
ということが強調されています。
補足しますと，情報理論には次状態を複数持つ有限オートマトン「非決定性有限オートマトン:NFA」も登場します。
一方ここで述べられていているような次状態が1つだけのオートマトンは「決定性有限オートマトン:DFA」と呼ばれます。
NFA を DFA に変換できることが証明されているので，結局すべての有限オートマトンは，この記述のような次状態を1つだけもつオートマトンで表すことができます。
このように次状態1つに限られますが，以前の状態数に特に限りはありません。
例えば Fig.68 a において，状態 10 の次状態は状態 11 ですが，10 から遡ってみると，1, 2, 3, 4 の 4 つの状態にたどり着けます。
また，これに加えて，
「これらの図は，どのケースにおいても自律的オートマトンが周期的サイクルの中で終了する必要があることを示している。そして，どのケースにおいても，ある条件下において1つの最終状態を生成しうる。」
と述べられています。この文から，本節において追ってきた有限オートマトンは自律的オートマトンと呼べるようです。
自律的オートマトンとして運用されるといったほうがいいのかも。とにかくあるサイクルで状態遷移し，ただ1つの最終状態にたどり着きます。
それでは格子状になったセルオートマトンはどうなのか。
「これらはセルオートマトンの個々のセルに適用できない。なぜならば，個々のセルは近傍のセルと情報のやりとりを通じて連結しているため，自律的有限オートマトンとはならない。」
上述の自律的オートマトンは，ただひとつの次状態を持ち，前状態についても複数の状態から同時に信号が流れ込むということはありません。そのためセルオートマトンは自律的有限オートマトンとは呼べないようです。
さて，興味深いのはこれに続く下記の記述。
「宇宙の限界という仮定のもとで，より大きな世界の影響を排除するや否や，我々は自律的有限オートマトンに携わる事になる。」
すなわちここでは，1 つの宇宙を Fig.68 のような 1 つの有限オートマトンと考え，仮に隣接する宇宙やその外側の宇宙というものが存在するのならば，それは 1 つの宇宙を 1 つのセルと見立てたセルオートマトンの隣のセルに相当する，ということだと推測されます。
しかしながら，3 章で見てきたとおり，本書は宇宙の「内部」をセルオートマトンを用いて記述するという方針をとってきているため，この考え方はこの部分の考察においてのみ取り上げられたものと考えた方がいいのかもしれません。
さて，次からいよいよ具体的な数値を用いた考察が始まります。
「何人かの物理学者の説によると，宇宙の大きさは，10^-13の基本の長さの10^41倍のオーダーであると仮定できる。これは約1000万光年に相当する。」
「そのため，10^123 個の，1辺が10^-13cm の立方体の大きさを扱うこととなる。」
現在のところ宇宙の大きさは約 137 億光年とされているようなので，それよりもかなり小さい仮定となっています。
10^-13 cm のキューブが，縦，横，高さそれぞれ 10^41 個なので，全体で(10^41)^3 = 10^123 個となります。
「そしてこの立方体それぞれに 1 bit の情報量を振り分けると，2^10^123 個の異なる状態を得られる。
これはあくまでも下限値にすぎない。より細かいグリッドの取り方もできるに違いなく，ここにおいてどれだけ多くのグリッドを配置できるかはまだ分かっていない。」
ということで，この立方体をレジスタと見なすようです。空間的に 1 ビットを配置しているので，これは3次元版のセルオートマトンであると考えられます。
3次元版セルオートマトンについては，4 章 1 節でそれにまつわる議論が取り上げられていますが，信号の伝わり方などの解説は，3 章 4 節に述べられているように，まだ著者の検討が終わっていないため今後の課題として留め置かれていました。
3次元版セルオートマトンの考察が続きます。
「時間のパルス数を空間の広がりの大きさ(10^41)に近づけると，この非常に長い時間は，宇宙の存在しうる状態数に比べると極めて小さいことが分かる。宇宙の取り得る反応の数は 2^10^82 タイプあり，そのそれぞれが互いに独立である。
このことは，振れや枝分かれが不可解なことだが多いことを意味している。」
なにやら難解です。「時間のパルス数を 10^41」に近づけるというのは，長い時間という記述もあるため，1 単位時間に信号が 10^41 だけ進むということなのではと考えました。そして単位時間をそのように大きくとってさえも，宇宙の取り得る反応の数には到底及ばないことを示していると思います。ここで取り得るの数が 2^10^124 でなくて 2^10^82 になっているのがよく分かりません。
縦，横，高さのどれかが 1 になっている状況と等しい数なのですが，あくまでも時間の話であって空間の話じゃないので，おそらくこれ以外の考え方があるのだと思います。
とにもかくにも，この部分の「振れや枝分かれが多い」という結論は，このモデルが自律的有限オートマトンでなく，セルオートマトンあるということに再び触れているだけだと思います。
また，このモデルにおける情報量の扱いについて，以下の様な記述が続きます。
「ディジタル粒子は特定の時間において，空間において決まった配置を占める。
ディジタル粒子の情報量は，空間配置の持つ情報量以上になることはない。この空間配置の持つ情報量は，その領域において取り得る状態の総和で定義される。
このような限定された領域に於ける，取り得る状態のバリエーションの全てがディジタル粒子に相当することはないだろう。」
ということで取り得る状態数 = 情報量となるようです。
また，取り得る状態の全てがディジタル粒子に対応しないというのは，3 章に登場したように初期状態によっては独立した粒子状にならず波のように信号が広がっていくことも起こりうるからです。
なお，3 章では，粒子状態 = 安定している，それ以外 = 不安定 と呼んでいました。
さらにディジタル粒子について掘り下げています。
「ディジタル粒子と結びついた空間と完全に独立に，ディジタル粒子のフェーズを表現するパターンが実際のところどれだけあるのか，という疑問を提起することができる。この際に下記のように分類すると都合が良い。
(1)種類
(2)方向と速度(パルス)
(3)フェーズの状態
(4)粒子の位置」
空間と完全に独立にというのがピンときませんが，空間の位置によって粒子の存在しやすさが変化することはないということかもしれません。
また，(1)〜(4) についての分類をするということは当然ながら，ディジタル粒子が異なる種類，方向，速度，フェーズ，位置を持てることを前提としています。
この分類を踏まえて前章の例を見ていくと...
「3 章のFig.42 ~ 66 の例は，限られた範囲においてのみ，この条件を満たす。
第一に，モデルは1種類のタイプの粒子しか表現できない。」
「さらに，方向のみが可変であり，速度は変化しない。」
方向が可変であるので，ディジタル粒子の移動についてのある 1 つのルールにより生成されるものを 1 種類のタイプの粒子と呼んでいるようです。あるルールのもとでは，伝播速度は一定ですが，初期配置を変えることで異なる方向に粒子を移動させることができます。
「このタイプの粒子の情報量は，矢印の長さの表現の正確さ，
構成要素の絶対的な長さを 4 と仮定するならば，長さ 0 を含む9つの異なる長さの矢印が得られる。また，2次元空間において81種類のバリエーションのパルスが存在する。」 という記述が続きますが，これが結構分かりにくいです。なので以下推理。
9 種類の矢印を元に 2 次元空間において 81 種類のパターンが構成されるので，9 種類というのは 1 次元における，すなわち x 軸もしくは y 軸上の長さだと考えられます。
ここで絶対的な長さを 長さの絶対値と考えてしまうと 4 と -4 の 2 種類しか作れません。
そこで，これを長さの最大値と読み替えると，-4, -3, -2, -1, 0, 1, 2, 3, 4 の 9 種類となってちょうど当てはまります。
3 章の例においても，粒子は縦方向の矢印と横方向の矢印で示される 2 種類の値を持っていましたので，これに対応するのではないでしょうか。
[2013/10/3 追記]
先の章まで読み進めて，単語の訳出ミスに気付きました！しかも本節におけるキーワードでしたので追記します。
"number of places" = 桁数 です。
そのため，「粒子が表現される場所の数」は正確でなく，「粒子をディジタル量で表現した際の桁数」が正しいです。
#「絶対的な長さが 4 」を，桁数が 4 ということなのではと，追記のついでに考えてみましたが，2 進数 4 桁で表現できるのは 0 (0000) 〜 15 (1111) の 16 種類なので当てはまらないですね...。
さてこのように得られたバリエーションにより，
「粒子の取り得るこれらのバリエーションに基づいて，所与の制限の下でさえも粒子の情報量を定量することは可能である。」
とのことです。さらには，
「どの粒子も一連のフェーズを持つので，ディジタル粒子の取り得るパターンはさらに大きい。
例えば Fig.59 の粒子は 7 つの異なるフェーズを持っている」
ということなので，パターンを情報量の担い手とすることにより，かなり多くの表現が可能なようです。
さて，これまでの記述により，単体のディジタル粒子における情報量が規定されました。それでは 2 つの粒子間の反応において，情報量はどのように変化するのでしょうか。
「3章の例において，パルスの矢印は反応において加算されていた。
このことは，反応前の粒子よりも反応後の粒子のほうが，パルスの矢印が占める場所の数が多いことを意味している。」
「長さ0の矢印を簡単化のために除去し，反応する粒子の矢印がバイナリの場所で示せることを仮定する。
そうすると，反応後の粒子の矢印は4バイナリの場所で表せる。」
「反応の前，2つの粒子が有り，それぞれ 2*3 = 6 bit (2つ合わせて 12 bit) の情報量を持っている。
反応後，1つの粒子になり，その粒子は 2*4 = 8 bit の情報量しか持っていない。
反応中に 4 bit の情報量を失っている。」
ここも謎多き場所です。
3 章で示されているルールにおいて，粒子の縦方向と横方向の矢印の大きさは，そのまま縦にどれだけ粒子が進むか，横にどれだけ粒子が進むかに一致します。
そのため，この例に該当する図を見つけるためには，
縦に 2, 横に 3 進む粒子同士の衝突の図を 3 章から探せばよいです。
しかし，見つかりません...。
図としては示されていないけど，このようなケースがあるということだと思います。
[2013/10/3 追記]
"number of places" が「桁数」を表していることを掴んだら解読できました！
例えば反応前の 2 つの粒子の値が，それぞれ 63 (2 進数 6 桁で表される最大値)とすると，反応後の値は 126 で，2 進数 7 桁で表すことができます。本文に記載されている 8 桁よりも少ないですが，どちらにしても，反応前のビット数から単純に予測される反応後のビット数よりも，実際に得られる反応後のビット数は少なくなるということが分かります。
ともかく，衝突前の個々の粒子の値 < 衝突後の粒子の値 という状況が生じるため，
「このことはすでに，新たなタイプの粒子を認めていることを意味する。
このことを許さないのならば，許された場所の数が加算のプロセスにおいて越えられた場合いつでも，これに影響をおよぼすルールを見つけ出さなければならない。」
衝突による，新たなタイプの粒子の登場が望ましいのかそうでないのかは述べられていません。何らかのルールを設けない限り，このようなことが起こりうることを把握しておきなさいということでしょう。
さて，粒子の具体的な話が済んだところで，ディジタル粒子を情報理論の観点からもう少し深く観察してゆきます。
「ここにおいて，我々は情報理論の困難さの一つに真正面から取り組まねばならなくなった。
配置の類のものは，そのルールを通じて，可能な表現の制約を表現せねばならず，それゆえ情報量を減少させる。
情報の保持と配置の保持はそれゆえある範囲においては矛盾する。」
情報量はびっくり量であるため，直前の配置から次の配置が推測できる場合は次の配置の持つ情報量は減少します。
本節では配置が情報量を表すとしていますが，配置を保存すると情報量が減少するため，本来等価なはずの配置の保存と情報の保存が矛盾してしまう状況になっています。
この矛盾を解消すべく考察が続きます。
「情報量という言葉よりも重要なのは，情報交換である。
情報交換は静的なものでなく動的なもので，回路の原則に起因する。」
「これはイベントの保持もしくはイベントの複雑さの保持と呼べるかもしれない。」
「Dr. Reche は，他の文脈のもとではあるが，「複雑さの保持」を提案した。」
このように，粒子単独がもつ情報量でなく，粒子同士がぶつかった際の情報量の相互作用に着目することで，新たな評価基準を考案しています。
さらに，
「ある量に移動プロセスという次元が割与えられたならば，単位時間あたりの移動プロセスというエネルギーに相当する次元が得られる。」
「「イベント」という形のエネルギーの表現は，エネルギーと周波数の間の関係をより分かりやすくしている。」
とも述べていて，情報量だけでなくエネルギーまでにも話が及んでいます。
さて，本節の最後には，情報理論の観点から見た，ハイゼンベルクの不確定性原理の話に触れています。
「容量ｍビットのストレージを，2つの量AとBのディジタル表現に用いれるならば，我々は自由に2つの量に異なる場所の数と，異なる精度を割り振ることができる。
n 箇所を A に割り当てたら，B は m-n 箇所に割り振ることができる。
Aのエラーの大きさのオーダーは 2^-n, B のエラーの大きさのオーダーは 2^-(m-n)である。
これら2つのエラーの積は定数 2^-m となる。」
例えば n = 2 とすると，Aのエラーのオーダーは 1/2，n = 4 とすると 1/16。
直感的な捉え方をすると，解像度が高いほど，エラーから受ける影響が小さいということを示しているのでしょう。
2 箇所しかない内の 1 箇所でエラーが生じるよりも，4 箇所の内の 1 箇所でエラーが生じたほうが，全体に及ぼすインパクトが少ないはずです。
そのため，割り振るビット数を増やせば精度が増加するものの，全体のビット数は限られているので，A と B に適切に割り振らなければならないという状況です。
ディジタル量の性質である精度とエラーにより，不確定性原理と同じ状況が導かれるというのは，なかなか興味深いです。
なお，
「共役の量であるAとBはディジタル粒子のパターンによって直接に表現されず，特定のプロセスにおいて現れる量から表現が導かれると仮定することができる。
ディジタル粒子の情報量の制限により，両方の量が最大の精度で表現されることはできない。
ディジタル粒子のケースでは，1つの粒子が完全に不確定であれば，もう一つの粒子は理想的な精度で表せる ということはない。占める場所の数により制限された精度の最大値で表現される。」
というように，あくまでも量子化したディジタル値なので，Aに最大のビット数を割り当てても，Aのエラーのオーダーが 0 になることはありません。
ものすごい長文になってしまいました...。しかしこれで本書も残り僅かです。次にやりたい勉強企画も色々とあるので，ラストスパートをかけていければと思っています。
0 件のコメント:
コメントを投稿