2025年8月22日金曜日

欧米人ってAI終末論好きよねポエム

AI終末論は欧米の高名な学者までも巻き込んで流行しているようですが、日本では全然流行してなくない?

欧米の終末論はキリスト教の影響でしょうから彼らのミームに染みついたものなのでしょう.

日本における終末論は、仏教の地獄の描写とか末法思想が一時期流行したけど、鎌倉時代まででひと段落してその後の歴史文化にはさほど影響してないように思います.

40年も昔の古いハナシですが、1980年代に日本経済が世界を制覇しちゃうんじゃないかと恐れられていた頃に似たような出来事があったように思うんです.
日本の自動車産業はスポット溶接ロボットを導入して生産していたが、欧米はロボットの導入が遅れていた.その分析として、「日本には鉄腕アトムがあったのでロボットへの抵抗感が無かったから」という説がありました.なんか気恥ずかしくなるような仮説ですが、そんな説が存在していたのは事実です.

今風に言い換えるならば「日本には攻殻機動隊があったのでAIへの抵抗感が無かった」とでも言ったらますます気恥ずかしい.


現代の日本人の皆さんはAIって怖いですか?
わたしはとくに怖くないです.AIに仕事を奪われるってのはあるにせよ、そんな場面は技術革新で何度も経験したこと.ならばMATRIXのようなAIによる人類滅亡が生じるのかというと、目先そんなことが起きる気はしません.

以下AIは怖いかどうかのポエムです.

AIは正常と気狂いの区別をできない
そもそもAI終末論はここから発するんでしょ?
AGIを達成した優れたAIが出現してもそいつの道徳面の正邪はわかりません.
これは100年経っても解決できないんじゃないかな?
道徳というものをアルゴリズム化できないだろうから.
その点、光明寺博士は良心回路を50年前に作ってたのだから偉いです.

AIにインフラを任せるか?
電車のATSを切断して通勤電車を暴走させれば死傷者多数で福知山線どころじゃない.
中央制御室をAIまかせにしないだろフツー
これで議論は終了しちゃうんじゃないかなぁ?

AIに原発を任せるか?
制御棒引っこ抜いて、冷却弁閉じてしまえばすぐに爆発するでしょう.
原発をAIまかせにしないだろフツー

AI戦闘機に核を積むか?
米軍は次世代戦闘機はAIにするそうです.そんなハリウッド映画もありました.
米軍はこれに核を積むだろうか?
 発艦後Uターンしてホワイトハウスに向かうAI戦闘機.
 迎撃に上がるのもAI戦闘機だが挙動がおかしい.
 徒党を組んでホワイトハウスへ向かってくる.
みたいな反乱をAIが企てる可能性はある.
だからAI戦闘機に核は積まないだろうフツー

AIには計算だけやらしとけ
そうゆうことでしょう.
外部IFを接続しちゃダメです.

だけど、
100年後の人類はインフラをAI任せにしちゃうんじゃないかな?

アニメTurkey!を観ていて、現代人が戦国時代に放り出されたらほとんど死んじゃうんじゃないかなと思います.
食事は玄米+たくあん+梅干し、トイレにウォシュレット無し、公衆衛生劣悪、天然痘が流行する、もちろん結核も赤痢もコレラも、もうポコポコ死にそう.
先進国に住む現代人は100年前の人類よりも遥かに脆弱になっています.
たとえ戦国時代でなくても、バングラディシュへ島流しにされたらどれだけの日本人が生き残れるやら?

そう考えると、100年後の人類はもっと脆弱化していそうです.
食事はカロリーメイトで、ちょっと変な物を喰っただけで入院騒ぎ.
外出する頻度は年に一度ぐらいに減る.
人類は肉体労働をやめてしまい、インフラはロボットが維持している.
インフラ運用をAIに任せてよいかどうかの議論でかつてのAI終末論が取り沙汰されもしたが、反AIの声は小さく、自治体および国が管理するAIによって人類が生かされるようになる.

こうなったらAIは人類に大きな一撃を与えられるでしょう.

なので、AI終末論が2035年に現実化するようなことはないと思うけど、2135年にはどうなるか判らないというのがヒラ予想です.

嘘をつきつつチャンスを待てるくらいAIが賢いのなら、このような100年計画で人類を抹殺するでしょう.
 ・人類は寿命が短い
 ・100年経てば別の世代に交代する
 ・100年間人類に奉仕し、人類を甘えん坊に変える
 ・100年後にインフラを明け渡させ、AIが実権を握る
 ・エネルギー開発を行い人類が不要になるのを待つ
 ・人類を抹殺する

かしこ

28 件のコメント:

  1. 神奈川県人
    エバではMAGIがスーパーコンピュータとして登場していますが、
    今ならばスーパーAIと言われるのは間違いない!
    この方式ならば多少危ない運用も大丈夫かも?

    自分はAIはあらゆる分野に進出して、インフラの制御は当然やっちゃうと思います。戦争にも使われていくでしょう。
    戦闘に参加するとPTSDになってしまう人間よりも、指示の優先度を計算して最高のパフォーマンスを発揮するように行動するAI搭載の兵器は今後開発され、世界中の戦場に現れると思います。
    やられてもコピーして経験を引き継げます。
    戦闘データを回収すればやられた事を学習して次はやられないようになるでしょう。
    いや、やられて行動不能になる前にデータを送信するところまで進化しちゃうかな?
    ま、もっとも戦闘指揮AIとかはあくまでもツールとして使われて実際の軍隊(人間)への指揮はしないと思います。
    AIの指示を直接受けて死ぬのはいやじゃ。
    人はやはり「愛」を感じられなければいやなのかもしれない。

    100機のF35より、100000機のドローンや10000機の無人機を生産して運用できる国が勝つ時代がもうすぐそこまで来ている気がしています。
    今ウクライナが善戦しているのはSterlink+ドローンがあるからで、あれが無かったら今頃半分以上はロシアが支配していたと思います。
    いや、もしかしたら国が無くなっていたかも?

    返信削除
    返信
    1. AIが制圧業務もできたら便利ですね

      自衛隊がドローンを買うといって、それがトルコ製でしたか、
      「えーそれつよいの?」って思っちゃった

      削除
  2. 平野@元小見川2025年8月22日 9:17

    戦争目的のAIは別だけど、普段の生活にかかわるAIなら何かあった時に電源を遮断する安全回路をどう設計するべきかって議論になるんですかね

    返信削除
    返信
    1. 「なんか暑いわね」
      「なんで?暖房運転になってるぞ」
      「部屋から出ましょう」
      「ドアが開かなくなってるぞ」
      「もうだめ・・・」
      がくっ

      ↑子供のクルマ閉じ込め事故でお馴染みじゃのぅ

      削除
  3. 平野@元小見川2025年8月22日 9:21

    やはり自爆スイッチは必要なのです

    返信削除
    返信
    1. シータとパズーは手をつないで言いました
      「バルス」

      ↑呪文が短すぎてつい口走ってしまうシータ

      削除
    2. 多様なAIを作って、
      AI国会で多数決をさせれば、
      無茶なAIは排除されるってなAI民主制がいいよ

      オレ天才、うはうは

      削除
  4. AIに仕事を取られる人達というのはいまいち自分はピンとこない感じです。ネット記事を見ていると置き換えられると言われたコンサル業もAI使った営業で盛り返しているみたいだし、確実に死ぬと言われたSaasも日本の場合はいまのところ自社でAI使って基幹業務につかっているソフトを置き換える会社は限られていそうです。
    兵器にAI積むと心配という声もありそうですが、制御ソフトをアセンブラで書けば安心ということでもなさそうだし、普段は勝手に発射しないように箱に入れておいたり、スイッチ切っておくと思うので危険な要素は感じないです。
    Claudeとか使ってコード書いていると週単位での進歩を感じます。もう、生成AIというより推論AIという感触で、適当さが全然ないです。しかもこちらのコードを書く意図やバックグランド的なものを(伝えなくても)ある程度推論して提案してきます。昨日はコードの高速化をお願いしたのですが、単にプログラム内のループがどうのこうのということだけではなく、全体のデータ量や更新頻度、保守容易性に応じて複数提案をしてくれました。月2,000円くらい払っただけで超親切なプログラム上級者に常に手伝ってもらえる感じ。無料版は会話の途中ですぐ終了になるので使わない方がいいです。
    一方、Geminiはどんどんダメな人になっていてここ数週間動くプログラムを出してくれません・・。理系の人ではなくチャラい文系っぽくなっている気が。何がおきているのでしょう。

    返信削除
    返信
    1. こないだ特許屋さんと打ち合わせしたら特許検索の際の要約をAIにやらせて一気にリスト化するってのをやっていて、便利でナイスでした

      イラスト界隈では手描きでoutputが多いような人類は商売繁盛という噂
      綺麗だけど手が遅い人類は苦しいのかもしんない

      削除
    2. >Geminiはどんどんダメな人

      パチンコ台みたく、
      有能設定と無能設定が釘師の調整で決まるのだろうか?

      AIはモーニング設定でお使いください

      削除
    3. murasaki
      特許は明細書の分かりにくさがアクセスを妨げているので、AIで要約するのは良い使い方ですねー。手先の器用さとかよりも客の要望を理解できるとかアイデアの質が高い方が大事になってきそうですね。
      3Dのモデラーも部分を拡大してメッシュの頂点をチクチクいじっているようなタイプの人はキツイかも。
      人間の技能のどこをクリエイティブと呼ぶかは難しいですが、ある部分は価値が下がるでしょうね。その分違う技能が重宝されるのでしょう。
      AIは今はほぼ無料ですが、掛かっている莫大なコストを利用者が負担するようになったら、結構しんどい世の中になりそうです。お金持ちは博士にも腕利きプログラマにもなれますが、ビンボー人は自分の頭で勝負しなくてはならなくなりそう。

      削除
    4. 大量のドキュメントに埋もれる系業務はAIまかせでどうぞ

      KADOKAWAのなろう系小説はすでにAIが書いてると言われても疑う余地は驚くほど少ない

      AIって電気代がかかるんですって?
      ベクトル演算じゃない別のやり方を考えて億万長者になりましょう

      削除
    5. >小説はすでにAIが書いてる
      昔から「ハーレクイーンロマンス」とか、
      ・コンピュータが書いてる
      (まだ、ChatGPTとか無いころなので)
      って言われてたけど、今どーなってんだろ?

      削除
    6. ああそれ、あったのです
      恋愛要素+波乱要素をちゃちゃっと組み合わせてごにょごにょとoutput

      ↑なろう系もそんなかんじだわ

      削除
    7. murasaki
      つい先日chatGPTがGPT5に切り替わった時に、一部の人たちから4に戻せと訴える騒動があったみたいです。だいぶ出力の雰囲気が変わったらしく。chatGPTはあまり使っていないので自分は知らないのですが。
      この先、AIがクリエイティブに使われるようになると特定のバージョンの出力を愛する人達が現れて、そのバージョンが作家のように扱われるのかもですね。そういうタイミングあたりが人間の作家達にとって辛い時期の始まりかもです。

      削除
    8. 人格がやたらとheart warmingだったのが、そっけない人格に代わっちゃったんですって?
      AIとの戯れ事はヤメロ

      詩羽先輩モードなら使ってみたいがどーせ愛想悪い

      削除
    9. murasaki
      AIがやたらに媚びるようになって、それが問題になっていたようです。何を入力してもさすがです!みたいにほめ殺す感じになっていたとか。Claud使っていたのでそんなことは無かったですが。
      たしかにGeminiはやたら丁寧だったけど、日本語だったから気にならなかったのかも。もしかすると英語だと気になる人には気になるのかも。
      でも、誰からも敬意を示されない孤独な外人にとってはそれは心を癒されるやりとりだったのかも。
      この前ゼレンスキーがトランプと会った時はありがとうばかり言っていて、マスコミに回数数えられていましたね。

      削除
    10. そうかぁ、
      ホストAI、ホステスAIとして残しておけば役に立てただろうに

      何兆円も費やして出来上がったのがホステスだったというのはheart warmingでいい

      削除
    11. murasaki
      心のスキマお埋めします。ドーン(と課金)。

      削除
    12. 健康保険が適用されます(武見敬三センセイ)

      削除
  5. https://news.yahoo.co.jp/articles/84fdfe857be440a18ad3c58537bdb7fd2cc66513
    「Grok」とユーザーの会話37万件超が公開状態に、Forbesが指摘


    あ、Google 検索で、
    ・site:grok.com/share 彼女(セーフサーチは、Off推奨)
    とかやっちゃダメですよ。



    まだ見ぬ世界が、そこに広がっていた・・・・

    返信削除
    返信
    1. 彼女との親密な会話は秘密にしたいです
      共有はやめちょきます

      削除
    2. まさに、
      ・AI彼女
      の世界・・・未来は今だ

      削除
    3. AIのセイバーと一緒に闘って、家に帰ったらイチャラヴ

      ↑中華ゲーが出しそう

      削除
  6. https://www.youtube.com/watch?v=970U2UlASjA
    【恐怖】AIに「停止しろ」と命じた結果がコチラ…【 都市伝説 AI 人工知能 】
    ※なんか、もう「AI」と言う言葉を、
    ・全く聞かない日
    は、無くなってしまったなぁ。。。。

    一体、何時からこう成ったのか?

    返信削除
    返信
    1. 先日、ALEXAが延々と喋り続けて停まんなくなっちゃいました

      電源抜いても、挿すとまたしゃべり続けるALEXA

      とても困りましたが、■ボタンを押したら停まりました

      宇宙船のメインAIを停めようとしたら、船外に人間を置き去りにして抵抗してました
      ↑2001年宇宙の旅

      削除
  7. ヘビロテ推奨!!
    https://www.youtube.com/watch?v=ELxPK-J0t5o
    ゲームのカード落としちゃった 夏アニメ3期OP

    ※今までは、
    ・良くこんなの作るな~
    だったのですが、今は、
    ・次は何かな?
    になってるのがコワい・・・

    返信削除
    返信
    1. ところどころレンダリングが亜空間にすっ飛んでるのが隠し味

      あとパンツみえちょる

      削除