20代からの"而立(じりつ)"のすゝめ

様々な人に出会い、様々な本を読み、実践してきたことを元に、色々な角度で表現いていこうと思います。

AIの弱点を見たときに、AIが人間の脅威であることが明確になったー「囲碁AI」に関しての記事を読んでー

 

とても多くの記事を読む中で以下の記事が目に止まった。

 

www.nikkei.com

 

僕が気になるところだけを引用すると以下になる。

 

 今回の五番勝負は、ディープラーニングの強みに加えて、ディープラーニングを実社会に応用する上での二つの弱点を露呈させた。

 一つは、AIが明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難であることだ。イ・セドル氏が勝利した第四局では、AlphaGoは明らかな悪手を繰り返した後に敗北したが、その原因は当のDeepMindのメンバーにも分からなかった。通常のプログラムであればコードを追跡してデバッグできるが、ディープラーニングには人間が読める論理コードはなく、あるのは各ニューラルネットの接続の強さを表すパラメーターだけ。アルゴリズムは人間にとってブラックボックスになっている。

 

もう一つは、高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合があることだ。特にAlphaGoが勝利した第二局では、プロ棋士の解説者は「なぜAlphaGoの奇妙な打ち手が勝利につながったのか、理解できない」といった言葉を繰り返した。

 

上記のことがみなさんには理解できるだろうか?

 

上記のことが意味することは、"すでにAIは人間の理解の範囲を超えている"ということだ。これはどういうことは?

 

シンプルに言えば"AIはすでに人間が制御できない範囲に突入してしまった"ということだ。

 

正直言うと、これには驚いた。僕の見解では、この段階はもう少し先だと思っていた。しかしもうすでに来てしまったようだ。甘く見てた。

 

人間最後の発明と言われているAIは人間の手を離れた。

 

専門家からしたら違う見解を示す場合もあるかもしれないが、僕の見解は上記だ。僕はAIを見るとどうしても同時に思い浮かんでしまうものは"マンハッタン計画"だ。

 

人間は同じことを繰り返してしまう、どうしても。

 

どうか気づいて欲しい、人間自体の変化が必要であることを。人間自体が変化しなければ、本当の"共進社会"は作れないということを。

 

ものすごい危機感を覚えた記事。もうゆっくりなどしてられない。僕も加速しなければ。