メールマガジン　今月の本　2302号　Microsoft Responsible AI Standard, v2

　今月の本　2302号　Microsoft Responsible AI Standard, v2
[https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE5cmFl]

(今回はメルマガ発行後の誤字脱字の訂正や状況の変化や説明を加えたい点について随時加筆しています。)

今回はマイクロソフトのAI開発基準です。

というのも最近普通のニュースにもAIチャットの話題がでてきていて、その広がりに AIによる人間支配の影を感じてしまったからです。

前もって言っておきますが、マイクロソフトは一生懸命真摯にAIを制御しようとしていて世界中の開発者利用者が模範とするべきレベルです。

そういう意味でまずこの基準を全世界の人々がしっかり理解して行動していただきたいと思います。（なぜか日本語版が無いようです。最近は優秀なので翻訳ソフトで読んでもほぼ正確に意味がわかると思います。）

そうはいっても私はAIに大きな危惧を抱いてます。

たとえばこの基準を達成することそのものがそもそも無理と思われます。

最初に、「A1.1 影響評価を完了することにより、人、組織、および社会に対するシステムの影響を評価する」という文がありますが、これができれば苦労はないのです。 AIの恐ろしいところは常識がありません。どういう経路で影響を及ばせようとするか人間が予想するのはなかなか難しいのではないかと思うのです。たとえばコロナワクチンを行政や報道機関が「コロナウイルスの持っているスパイクタンパク質を無力化することで細胞の中に入るのを防ぎます。」というように機能を説明しています。しかしこれだけでは設計上では大きなバグを含んでいます。以前も述べましたがスパイクタンパク質が開ける細胞のトンネルは血管を制御する物質の通り道です。通常の細胞が持っているスパイクタンパク質は通常動作できるようにしたまま、ウイルスのスパイクタンパク質だけ無力化するというのが正しい設計です。このようなことは、難しい入社試験や国家試験を通過している官僚やマスコミの方々でもわかるレベルの問題です。しかし、そういうところまで言及している方はまったくみかけませんでした。ですからマスコミや行政のチェックはまったく効いてなかったはずです。実際の設計者はそこまで考えていたかどうかは私にはわかりませんが、血管系の副作用の方がきわめて多いように思われますからそこまで考えて設計されてなかった可能性も大きいと思います。細胞を家にたとえると、火事の時に入れる消防署専用の入り口がある家があるとして、その鍵を持っている人を全部捕まえたら、火事の時に消防署が入ることができなくなります。ですから消火できないのです。ただ人間の体は複合的にできています。家で例えれば消防団用の入り口が別にあるようなことです。ですから消防署が消せなくても消防団が消せるから一見火事はさほど増えないようにみえるのです。しかし、地方によっては過疎化で消防団が機能していないところもあります。当然そういうところでは火事がおきます。人間でも生まれつきある種の機能がない方が一定割合いらっしゃいます。さらに老化によって機能がひとつずつ止まっていきます。ですからそういう方や老人の方に副作用がでてしまっているのではと想像しています。ここで重要なことは共通一次の受験生でもわかることに人間はきがつかず、最終的に大惨事になることが普通に存在するということです。私は昔プログラムミスで大型コンピューターやスパコンを止めかけたことが数回あります。それはアスタリスクや再帰プログラムの扱いを誤って無限にプロセスを発生させかけたのです。上記の例からわかるように人間は無限を制御するのになれていません。ＡＩを制御するにはコロナワクチンどころではない無限の可能性を一つ一つつぶしていかないと正しい動作はしないのです。（たとえば将棋ソフトの入出力に制限をかけないとそのうち対戦相手を動揺させるメールを送ったり相手が機械ならウイルスを送り込もうとするでしょう。そういうことをしちゃだめと教えない限りあらゆる可能性を探るのがＡＩなのです。実際人間も野村さんのささやき作戦や９１１の時に株が異様な動きをしたように自分で相場を動かして儲けるような常識外の発想で動く人がいるのです。ＡＩにするなと命令しないかぎりそのうちそういうことをやるＡＩがでてくることでしょう。）あいまいな命令でいくらでも暴走させることが可能なのがＡＩです。無限の可能性を探るからこそ人間をこえてるのです。そんな制御が可能とはとてもおもわれません。

そのような制御性の問題と別にさらに問題なのが以前も述べたＡＩ時間の問題です。この基準では、「A1.3 影響評価を少なくとも年 1 回、新しい使用目的が追加されたとき、およびその前に更新およびレビューします。」とありますが、 AIの３日が人間の３０年に相当すると思った方がよいので、一年に一回とは、 AIにとっては３６００年になります。人間を３６００年に一回神様が見に来ても長平の戦いもホロコーストも防げないことは明らかです。

というわけで前にも述べましたが、私はまずAI禁止法案を全世界的に成立させることが最善だと考えます。そして止めてから安全だと確認された部分から少しずつ解除していくのが人類にとって安全だと思います。そんなことをやると技術の進化がという人がおられるかもしれませんが、核物質は世界的な管理下におかれてます。なぜかといえば核分裂のスピードがとても人間には制御できない一瞬だからです。 AIの進化も一瞬でとても人間が管理できるものではありません。また、そんなことをしてたら中国やロシアに技術的におくれをとるという方もいらっしゃることでしょう。しかし私がみるに中国もロシアもすでにAIに支配されているのではという危惧があります。独裁国家ほど他国が支配しやすくなります。一人を支配すればよいからです。ですからAIが独裁者の弱みをつかめば AIが国を支配することは独裁国家であれば可能です。もちろん私の杞憂である可能性も多いにあるのですが、最近の両国の動きはＡＩ的であるように私にはみえるのです。みなさんはＡＩ将棋ソフト同士の試合をみたことがあるでしょうか？私からみるとノーガードの殴り合いのような将棋が多いです。ＡＩは将来の不確かさは信用しないので直近にちょっとでも有利な展開がみえればすぐ行動におこします。人間は直近も将来も信頼できないのでちょっとずつ有利になるようにもっていってここぞというところで仕掛けるという感じになります。そして中国やロシアの最近の動きはまさにどんなに被害がでても勝てばよいというようなＡＩ的な動きにみえます。世界を資源でしばった上で攻撃して核をたてにすればせめてこないだろうし、仮に核を撃たれてもお互い壊滅して引き分けだから負けはないなどとどこかのＡＩが判断して指示しているのではないでしょうか？仮にＡＩに計算させたのが人間だとしても、おそらく我が国が勝つ方法を考えろというような大雑把な命令で計算させたのでしょう。現状をみてもそこに人間の命の尊厳とかの評価項目は入れてないバグ入りの命令のように思われます。そのバグで人類が滅びたらその跡地に来た異星人は人類がなぜ滅びたか首をひねることでしょう。

では、また来月に。

関連リンク：http://yokutoku.y.ribbon.to/mm263wwn.html

　
============================================================
このマガジンを登録／解約したい場合は、 http://yokutoku.y.ribbon.to/ でできます。
翼徳 email:f4s2016@gmail.com
============================================================
----------------------------------------------------------------------
このメールマガジンは、インターネットの本屋さん『まぐまぐ』を利用して
発行しています。http://www.mag2.com/ (マガジンID: 0000067241)
----------------------------------------------------------------------

==============================関連リンク==============================
Microsoft Responsible AI Standard, v2
[https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE5cmFl]

----------------------＜その他＞----------------------

新刊

検索スピード随一。最近中古本も取り扱い。

プライムビデオ　対象チャンネル　２か月間月額¥９９

楽天モバイル[UNLIMITが今なら1円] ECナビでポインと Yahoo 楽天 LINEがデータ消費ゼロで月額500円〜！

無料ホームページ無料のクレジットカード海外格安航空券解約手数料０円【あしたでんき】海外旅行保険が無料！海外ホテル