ytb @ytb_at_twt@mathtod.online

進化的な要請から、多くの場合、生物は答えの正確さよりは判断の素早さが必要である。そのため、人間は精度は低いが素早く判定できる無意識的な技法によって学習が行われる。たとえばアカデミアでは不完全であっても論文を出し続けることが奨励される。まずその場を生き延びる事が大切である。

そういえば、AI倫理の人達って、「自動車の自動運転にAIを使った場合、トロッコ問題のような人命に関わる選択にAIが直面する可能性がある」と言いがちという印象がありますが、既存の機能安全性に関する国際規格の考え方では「そういう可能性があるところに機械を使ってはならない」という結論しか出てこないし、EUはそう言って安全制御にAIの使用を禁止する答申を近いうちに出す予定なんですよね。

これのことです。
https://twitter.com/Sukuitohananika/status/1638044324582817792?s=20

紹介します。犬のぬいぐるみの ウィンストン・スミス（愛称：ウィンちゃん）です。

Q. 応用哲学会で森岡先生とゲストの人工知能研究者をお迎えして「人工知能と分析哲学の未来」っていうシンポジウムを開いたとするじゃないですか。誰が一番長く話すと思いますか？

A. ぼく。シンポを聞いた後、単身赴任先の寮の部屋で、人工知能の文の生成原理を哲学者が全く理解していないことを犬のぬいぐるみに愚痴り続けるから。

だから、多分、人工知能を調教して間違った推論結果を出力させないようにするのは、無理である。人工知能を、単独で、間違いが許されない人命に関わる制御に使用するのも多分無理である。可能なのは、人間及び従来型のコンピュータを併用し、人工知能の確率的推論プロセスを精査させ、それが正しい推論の条件を満たしているかを確認させることだけであろう。

人工知能は、システム1滴知能をシミュレートしたものである。それが間違いを多く含むことは、進化的に、我々が既に知っている事である。
システム1的知能の間違いは、システム1の枠内で是正は難しい。外部から、システム2的に、間違いを見つける必要がある。これは、進化的に、我々が実行したことである。人工知能のシステム1的間違いを是正する方法として、我々が思いつくのは、この人類進化史をなぞり、システム1的人工知能の出力をシステム2的形式システムで検証することである。それ以外に方法があるかもしれないが、それ以外の方法は今のところ知られていない。

システム1 は無意識的な反応である。通常、人間の無意識的な反応が間違っている時、人間は、意識的にその無意識的反応を抑えようとするものである。つまり、無意識的な判断を間違えた時、なぜ間違えたのか、何が問題なのか、次からどうすればよいのかを、無意識的に（システム1 によって）認知するのは難しい（自分自身の行動を無意識的に認知するのは、もちろん体の傾きなどの認知として行われてはいるものの、行動自身の分析などは無意識的認知の手に余る）。従って、システム1 だけで行動の改善を目指す場合、それこそ進化論的な自然選択のメカニズムに従って、間違った無意識的反応をする人間が淘汰されるのを待つ、みたいな極端な話になりかねない。
かくして、言語を利用することでメタな言明を可能にし、第三者的な立場から自分の行動を分析し間違いを発見し是正する仕組みが発達した、といわれる。それがシステム2である。

なぜシステム2が必要だったのかというと、それはシステム1的認知機構は素早いが間違いが多いからである。このシステム1 による認知、適応的無意識は、人間のヒラメキ、勘、大まかなパターン認識のようなものであり、恐らく進化史的には、人間の言語の習得よりも前から獲得された能力の積み重ねであろう。「オオカミのいそうな茂み」とか「地面の不自然な窪み」とか、そういう普通と違うパターンを素早く発見することができれば、当然進化的に有利だったのだろうと推察される。この場合、「オオカミのいそうな茂み」であれば、「安全側に倒す」方が、生き残る可能性が高くなる。つまり、根拠が薄弱で10 回に1 回程度の正答率しかなくても、多めに認知しておけば、肝心の一回に早めに逃げ出すことができる。その代わり、瞬時に判断できることが必要である。

そもそもの問題として、進化史的に見る限り、人工知能のような自然言語の確率的生成手法では、正しい推論を特徴付けることが恐らく不可能であるだろう事である。
認知科学においては、人間の認知機構は「システム1」（適応的無意識、素早く直感的で並列的な認知）と「システム2」（言語を使った逐次的規範的思考）の二つに分類される。システム1的認知機構をシミュレートするために、現代の確率的推論を行う人工知能が開発された。そしてシステム2的認知機構をシミュレートするのが、形式的な論理体系であり、通常の計算機である。
人間の場合、進化的には、動物はシステム1的認知機能を持ち、人間はそのベースの上にシステム2的認知機能を発展させていったと言われる。

証明論的意味論は推論の過程の正しさをチェックすることで推論の正しさを判定する。だから、人工知能のように結論だけ出してくるような推論機械の推論の正しさをチェックすることは大変難しい。そして証明論的意味論の観点で自然言語の推論を見直してわかることは、「差別語を含むような前提や結論を使うような推論は正しくない蓋然性が非常に高い」とか、自然言語を使う（理性的な）人間ならみなわきまえていることばかりである。世の中そういうものだ。

だから「ボッシェ」という語を使った推論は論理的でないことが、言葉の内容ではなく、言葉の振る舞い（導入規則と除去規則という記号列の変換規則）を見ただけで特徴付けることができる。

この点、字面（証明論的規則）を見ただけで推論の正しさを判定できると言うことは、人工知能が（何も考えずに）排出してくる記号列（自然言語の文らしく見えるもの）について、それが表現する推論が論理的に正しいかを判定する上で、多少助けになりそうに見えなくもない。

それでは、ハーモニーを満たさない推論とは、そもそもどういう者ものろうか。有名なのがダメットの差別語の特徴付けである。
第一次／第二次大戦中、イギリス人はドイツ人のことを「ボッシュ」と呼び、言外に「野蛮人」的なニュアンスを込めていた。もちろん「ドイツ人」は「野蛮人」であるとは一般に言えないはずだが、「ボッシュ」という語を挟むと、定義（ドイツ人＝ボッシュ）から導出できないはずの意味を持ってしまう。例えば以下の推論を考えてみよう。
  （前提） ドイツ人はジャガイモを食べる
  （語「ボッシュ」の導入）ボッシュはジャガイモを食べる
  （語「ボッシュ」の除去）野蛮人はジャガイモを食べる

この結論「野蛮人はジャガイモを食べる」は、「ボッシェ」という語を使わない限り、導出できないものである（出せる者ならやってみてください）。この点で、「ボッシェ」はハーモニーを満たしていない。

さて、論理的な語彙（and, or,to, etc.）とはハーモニーを持つものであり、論理的な推論とはハーモニーを持つような論理的語彙しか使っていない推論であると考えるのが証明論的意味論である。

ハーモニーとは、この導入規則と除去規則のあるべき関係のことである。
前述の新語「人生」を含む文の書き換えについて考えてみよう。文φ0 =「私と
いう人間の一生はロクなことがなかった」を書き換えて文φ =「私の人生はロクな事がなかった」が得られ、さらにφ を書き換えて文 φ1 =「私という人間の一生はロクな事がなかった」が得られたとする。このとき、文φ0 から直接「人生」という語を使う事なく、文 φ1 を導出することができる。
つまり言い換えると、前提にも結論にφ という新しい語が出てこないとき、わざわざφ という新語を使わずとも、前提から結論を導出する方法が存在するということである。世間には新しいファンシーな言葉をさんざん振り回したあげくに常識的な結論しか述べないような啓発本が溢れているが、ハーモニアスな言語であれば、そんな新語使わなくても、全く同じような議論は展開できるはずということになる。

その結果、以下のように書き換えることができる。
 ○導入規則： 文「私という人間の一生はロクなことがなかった」は、文「私の人生はロクなことがなかったに書き換えることができる。
 ○除去規則： 文「私の人生はロクなことがなかった」は、「私という人間の一生はロクなことがなかった」に書き換えることができる。

では「ハーモニー」って何よ、という話になるのだが、論理的語彙に関する「ハーモニー」はチョットわかりにくいので、もう少し一般化して、わかりやすさのため、
自然言語において普通の語彙を定義するときのハーモニーを例として話として進めていく。

たとえば、 すでに定義された語「人間の一生」を使用し、新語「人生」を定義する場合、以下のように二つの書き換え規則によって定義を書き表すことができる。

●導入規則： 語「人間の一生」を含んでいない文S は、語「人生」を含んだ文S′（ただしS の中の「人間の一生」という語の登場する場所を新語「人生」に書き換えたもの）に書き換えることができる

●除去規則： 語「人間の一生」を含んでいる文S′ は、語「人生」を含んでいない文S"（ただしS′ の中の「人生」という語の登場する場所を「人間の一生」に書き換えたもの）に書き換えることができる

でも、それだったら、一々内容に言及する必要はないのではないか。命題の正しさを保証するのは、②のように、証明の形をチェックするだけで十分ではないか。その考え方から生まれたのがプラヴィッツとダメットらの「証明論的意味論」である。
証明論的意味論では、「正しい」推論規則とは導入規則と除去規則の間に「ハーモニー」が存在するものであると特徴付け、「正しい」推論規則を有限回しか使用していない証明プロセスの結果証明された命題は、「論理的に」正しいと認められると考える。

①は「正しい推論とは真な前提から真な結論を導出するものである」という、古来からの論理的推論の特徴付けをベースにしている。ここでの問題は、一般的な推論の話をしているために、個々の命題の内容に踏み込まずに、推論の内容的な正しさを特徴付けるためにはどうしたらいいかという問題である。フレーゲとラッセルと（前期）ウィトゲンシュタインの解決法は、命題にはその命題の意味を表現する二つの状態「真」「偽」があるとして、その順列組合せで真偽を特徴付ければよい、というものだった。そこで搭乗するのが「恒真式」（真理値がいつでもどんな状況でも真な命題）という考え方である。ゲーデルの完全性定理は、古典命題論理で証明できる命題は恒真式だし、恒真式は証明できる事が示されている。