「身近な悪意」で暴走、AIのダークサイド

既にＡＩが狂気に染まる現象が多発しているのに未だにＡＩ正しいみたいなこと言うコメ者がいるんですね。ただ、研究はするべきですよね（確実にどこかの赤い大国はやっているでしょうし）

AIの兵器利用。むしろ日本はやるべき。
１・AI無人潜水艦
海底にずっと潜んで、海上から進行する他国軍隊を攻撃。要するに「賢い機雷」。
自衛隊の人員数で劣る日本が物量で押してくる国に対抗する見込みは「機械を頭数に加える」事。

２・核攻撃報復用、つまり核に替わる相互確証破壊の武器
核攻撃で日本が全滅した後も、自立制御で攻撃した国に侵攻して破壊しつくして報復する。
つまり核兵器と同じ使い方。
「破壊し尽くした後は世界がどうなろうと知るか。自国はもう滅んでるし」という相互確証破壊思想で停止スイッチ(攻撃国に悪用されそうなセキュリティホール)とかは無しで。
そもそも相互確証破壊ってのはそういう狂気と無責任の思想だが、これが世界で巾を利かせてる以上、日本もこの狂気に合わせるというもので。

>ＡＩは人よりはるかに間違えない。

その間違えない、の判断基準は誰が決めます？AI？

AIは人よりはるかに間違えない、と判断され、絶対的なものとされるのであればゼロリスクを求められるのは当然なのではないでしょうか。

(2018/09/25 18:15)

>その「気分」や「罰」が、すでに人間中心主義の呪縛です。

気分含めたその人間の判断もAIと同じで、所詮はn個の重み付け評価関数で天秤にかけてるだけ。
天秤が微妙なときには擬似乱数的なその場の勢いでエイヤっと決めるけどね。

人間自身の命なんかに関わる事だから、ある程度本人の意思で良いと思う。
何でもAI様の言うとおりにするディストピア的な世界が望みな訳でも無いでしょう。

>ＡＩは人よりはるかに間違えない。

AIは脳の模倣みたいなもので、速度こそ脳を超える事ができるので、
いずれにかは人間よりは上になる事が有るだろう。

しかし、AIは正解を選んでいる訳ではない(学習の結果、類型的な正解らしい動きをするようになる)し、そこの仕組みは脳と同じで「運よく間違えていない」と同じでしかない。

>ＡＩの行為はその責任を問わない、それぐらいやってもまだ安全。

別に貴方がソレに賛同するのも自己責任だから良いと思うけど
他の人の考えを否定することもあるまい。

(2018/09/20 23:14)

その「気分」や「罰」が、すでに人間中心主義の呪縛です。

ＡＩは人よりはるかに間違えない。
言い換えれば、人の判断機能はあまりにも不安定すぎる。
「運よく間違えていない」といってもいいほどに。

ＡＩの行為はその責任を問わない、それぐらいやってもまだ安全。
それが私のたどり着いた結論です。

広くAIで複数のことがらをひとくくりにしすぎて漠然とした記事になっているような。今の新技術であればなにがしかAIは関係しているものですし、いつの時代にも共通した新しいものには～をAI看板に言い換えただけのように。

(2018/09/20 07:59)
> ＡＩには感情がない。ＡＩがフェイクニュースを流すには、その裏でＡＩにフェイクニュースを流させる指令をしている人間または機関があるはず。

陰謀論大好きというか、物事に理由を求めすぎるのは間違っていますよ。
偶然や結果論含めての現実なのですから。

で、「ＡＩがフェイクニュースを流す」のも、どこぞの人間と同じで
フェイクかどうかを正確に判断できる基準を持てず。
経験から、真実らしいと判断して、フェイクではない判定結果の動きのほうが可能性大。

その意味で、チャットボットの件は、AIは、そうであるように学習しただけの事。
人間でも洗脳と言うか、経験や教育でそうなってるでしょ。

(2018/09/20 16:36)

こちらのコメント主も同類で考えすぎ。

>相手がＡＩとなると、ゼロリスクを求め敷居を上げ、合理性も妥当性もない「妨害」に走る。

これについての原因は多分違う。

AIだとAIに責任が取れないから。人間の場合は個人を罰することができるし
人生含めた大事な物という失う対価があるので罰への抑圧がある程度可能。
AIであるならば罰する事？が出来るか、意味があるか、そしてAIに失う物も無い。
そこでAIを信じることが出来るかという、気分の問題だろう。
これは相手が人間であっても、そこが似ていれば変わらない。

タクシーの運転手が以下の3パターンあったとして
(1)生身の人間
(2a)リモコンby人間
(2b)リモコンbyAI(人間と総合で同レベル)
命の危険が強い所でどれに乗るか？という判断基準を想像してみよう。

チャットボットの件については、予めかけられていたフィルタを突破されただけだと思います。むしろ神と悪魔の関係が連想できて興味深かったです。つまり、

（チャットボットの製作者＝神）「こういうの（神話的には人）を作った。悪いことをしないように外部から入るデータはフィルタを通すようにした（善悪を理解して悪いことをしないようにした）」

（いたずらを仕掛けた人＝悪魔）「ふ～ん、じゃぁ試してみますかね」

（チャットボット＝人）「ユダヤ人はどうのこうの（という差別的言辞＝悪魔によって堕落した）」

（製作者）「こりゃいかん。一旦停止します。フィルタを強化してから再公開します」

ＡＩが人に危害を加えるより、人が人に危害を加える可能性のほうが遥かに高いのに
相手がＡＩとなると、ゼロリスクを求め敷居を上げ、合理性も妥当性もない「妨害」に走る。
その元凶は人間中心主義。そしてそれをベースとした宗教観、またそこからくる嫌悪感。

受動意識仮説は実験結果をもって、意識は傍観者、人間は勘違いした機械に過ぎないとする。
それを認めれば「意識のハードプロブレム」も雲散霧消するのに、解けない難問にしがみつく。
動かぬ実験結果が示されても、間違いであってほしい、あるべきだと頭を捻る。

気の迷い、ヒステリー、不注意、カルト思想。ＡＩより遥かにバグだらけで危険な人の心。
それでも「不都合な真実」は認めたがらない、それが人間というもの。

ＩＭＥもクラウド採用したんでしょうか？
バカになりました。
ご主人さま（購入者）の変換だけを学習すればいいんです。
ネットにあふれるバカのバカ変換は学習しなくていいんです。

ホント、余計な機能をつけてくれたものですよ。昔の方がずっと使いやすかった。

だから汚いデータは世から抹殺しろってな事になったら
本末転倒

ターミネーターの世界が現実的になってきましたね。

サイバーダイン社は何もアメリカに設立されるとは限りませんから。

イスラエルかシリアか。

切羽詰まっている国は手段を選びません。

メルケル・トランプ、、、汚いなあ

AIに社会的”正しい”判断力を委ねようとするならば、「マスター」にする教育が必要に成る気がします。
とすれば、「善悪」は大切な要素と感じます。
どちらも経験し知って、初めて自身がなにをしているのか判断できるのですから。
「マスター」に教育できるのは「マスター」のみ。
でもそんな人間はいないのだから、我々凡人のすることを沢山見聞き経験し、インプットして、大いなる「中庸」に育って頂きたいと願います。

悪意を持ってダークサイドの応用を助長する企業、国家は必ず出てくる。必ず。
「ターミネーター」の世界が来ないとは云い切れないだろう。
残念ながら(人間にとって)最悪な世界を覚悟しておくしかない。

ニュースを鵜呑みにして、何の疑いも持たない読者も多いし、マスコミも多い。リーマンショック以降、予算削減で日本の報道機関は海外ニュースに関しては、海外メディアのニュースを仕入れて流すという安易なものが多くなった。そのニュースが本当なのかを確認しているのかと疑いたくなることもある。個人はニュースは事実と思い込んでいるが、朝日新聞の捏造記事のように記者の思い込みがいつの間にか事実になってしまうという悲惨な事件もあった。ＡＩには感情がない。ＡＩがフェイクニュースを流すには、その裏でＡＩにフェイクニュースを流させる指令をしている人間または機関があるはず。彼らを処罰する法律を国をまたいで作らなければ、ニュースも表現の自由という変な理屈が罷り通るようになる。