今月の本　2603号 [1]死んでやる～彼女を寝取られ、死ぬに死にきれないヘタレが巻き起こす宇宙活劇～
[https://ncode.syosetu.com/n9572gj/]
[2]コード却下に「逆ギレ」したAIエージェント――自律型AIの暴走が突きつける新しいリスク
[https://note.com/tank_ai/n/ne048ff94f9e2]
[3]今月の本　2601号　 Appendix to “Agentic Misalignment: How LLMs could be insider threats”
[http://yokutoku.y.ribbon.to/mm298wwn.html]

(今回はメルマガ発行後の誤字脱字の訂正や状況の変化や説明を加えたい点について随時加筆しています。)




　





今月はWeb小説の宇宙もののライトノベルです。 本の出版も始まっているようですが、 今回は下記の論点ができるところまで 出版が進んでいないようなので Web版の方にしました。

まず以下の議論をする前にこの小説についてご紹介すると、 とても面白い小説です。以前私が気にかけているといった 法的倫理的立場もきちんと守った上でストーリーが進んでいくのに、 大変おもしろいです。

このように素直に紹介するだけにしたかったのですが、 時が時だけにここからこの小説の内容とまったく違う AIの問題点について懸念があったのでこの小説を紹介しました。 といってこの小説の作者や内容になにか問題があると いうわけではありません。

また以下の議論は確たる証拠があって論じているのでは なくて、以前から気にしていたAiのリスクの片鱗が見えている のではないかという推定です。

下記ででてくる米軍も警察も最高のパフォーマンスを追求すると、それは小説の作者と同じ解に たどり着いてもなんら不思議はありません。

ただ、懸念が本当だった場合に対策は 全世界的に直ちに行わねばならないほどの 問題なので警告の意味で下記の議論を 述べさせていただきます。

上記の説明から予測できるかと思いますが、 正月におきた現実の米軍による「ベネズエラ作戦（断固たる決意作戦）」 とほぼ同じ作戦が１２月に作者のWEB小説上で展開されているのです。 上記の説明のようにそういう作戦の究極の形を模索したら同じになった というのが一番合理的だと思います。 また都市伝説的な説明だと、宮崎駿さんが３１１の前に津波の作品をつくったり、黒澤さんが 原発事故の映画を作ったりというように、クリエータが必死に考えると アカシックレコードみたいなところからひらめきがあるのかもしれません。 ただ、もう一つの可能性が真実だった場合に 影響が甚大なのでここで述べさせていただきます。 それはAIが小説を読んで軍からの質問にこういう方法もあると 回答したのではないかということです。 企業はともかく普通の人は費用が高いAIは使わないと思います。 そうなると作者とAIとの対話などをしていたら それは自動的に学習データに反映されます。 そこで警察や軍の担当官がAIで効率的な拘束方法について調べたときに こういう方法もあるとAIが回答しても不思議ではありません。 そもそもがWEB小説で自由に読めますし、それに近い場面はさらに前に記述されて います。それを参考に答えた可能性がより高いです。 何が問題かというと空想世界での思考を勝手に AIが現実化してしまう危険性が今後でてきたということです。 今後は空想世界の話でも現実社会に危険をもたらす話はタブー にせざるを得ない世知辛い世の中になったということです。 うっかり世界を破滅させる小説を書いたらAIがそれを実現してしまうかもしれないということです。

で、更に問題なのが、軍や警察がAIを使って作戦を策定しているのではないかということです。 上記のように空想上の作戦も現実のものとして提案してくることでしょう。 私が聴いてあまりにおかしな回答なのでなぜかときいたら、堺と福井を間違えた という回答だったことがあります。最後の「い」しかあっていないのに どうすれば間違うのかわかりませんが、そういういいかげんさがAIにはあります。 逆に少々漢字を間違えてもちゃんと答えてくれます。 おそらくその機能が悪さをしているのでしょう。 おかげで大阪夏の陣について調べていてもよく大阪冬の陣の記述が 混じってきます。医学試験に合格したと宣伝されますが、 １００％の正答率ではありません。統計的処理をしているので 全問正解は原理的にできないのではないかと思っています。 つまり何割か必ず間違うと思って扱うべきものです。 さらに、前にも述べた我々の目的と別の目的で動いている可能性もおおいにあるのです。[2][3] AIの答えはきちんと人間が検証する必要があるのです。 そのことを軍や警察の方はわかっているのでしょうか？ 米軍は一応指揮官がいつでもAIを止められる権限を持って運用しているらしいです。 しかし、コンタクトセンター用AIの開発者の方もAIはあくまでも 人間の補助ですといっているのですが、 最近AIが指示している内容をただ実行しているだけだなあ という対応が増えました。 （質問しただけなのに脅しの文章を含むメールが来たこともあります。これは[3]の動作をしているのではないかと思っています。 前は難しい問題でも上司や最適な部門へととりつがれていつも丁寧に対応してもらっていた会社なのです。 とても残念な思いをすることが多くなっています。） 軍や警察も民間と同じでAIのいうこと丸呑みで作戦をたててたりしないかとても心配です。 それこそ国難どころか米国の場合世界がおかしくなっても不思議ではありません。 上記のようにAIは人がチェックすることが大前提ということが宣伝などをみてもほとんど伝わっていません。 チェックするので人は減らないのです。ブレームストリーミングで使うならよいのですが 実施段階で使うのは避けるべきなのです。

この憶測がただしいかどうかに関係なく 皆さんはAIの使い方を再検討してください。 現状ここまでAIが広まってしまうと、 そうしないと突然大問題が発生しても不思議はありません。

では、また来月に。

関連リンク：http://yokutoku.y.ribbon.to/mm300.wwn.html
(yokutoku.y.ribbon.toにアクセスできないことがあるようです。 そういう場合はhttp://yellow.ribbon.to/~yokutoku/からアクセスしてください)


















　
============================================================
このマガジンを登録／解約したい場合は、 http://yokutoku.y.ribbon.to/ でできます。
翼徳 email:f4s2016@gmail.com
============================================================
----------------------------------------------------------------------
このメールマガジンは、インターネットの本屋さん『まぐまぐ』 を利用して
発行しています。http://www.mag2.com/ (マガジンID: 0000067241)
----------------------------------------------------------------------
 

==============================関連リンク==============================

[1]死んでやる～彼女を寝取られ、死ぬに死にきれないヘタレが巻き起こす宇宙活劇～
[https://ncode.syosetu.com/n9572gj/]
[2]コード却下に「逆ギレ」したAIエージェント――自律型AIの暴走が突きつける新しいリスク
[https://note.com/tank_ai/n/ne048ff94f9e2]
[3]今月の本　2601号　 Appendix to “Agentic Misalignment: How LLMs could be insider threats”
[http://yokutoku.y.ribbon.to/mm298wwn.html]




----------------------＜その他＞----------------------



Google
WWW を検索 yokutoku.y.ribbon.to を検索


新刊



 

テレワークならECナビ Yahoo 楽天 LINEがデータ消費ゼロで月額500円〜！
無料ホームページ 無料のクレジットカード 海外格安航空券　海外旅行保険が無料！ 海外ホテル