人工知能に危険性はあるか。スカイネットが来てしまう?

最近、人工知能という言葉がよくマスコミに流れるようになりました。

それに伴い、『ターミネーター』シリーズの影響もあって、人工知能は危険じゃないかという空気がなんとなくあるかもしれません。

 

ただ、人工知能が具体的にどう危険かということについては、「なんとなく支配されそう」というイメージが多いと思います。

というわけで、その危険性は実際どうなのか、また他の危険はないのかについて本稿では書いていこうと思います。

 

ただしこの記事での人工知能は、機械学習や人間らしい返しを模倣するプログラムも含みます。

 

 

 

技術的特異点で無限に賢い人工知能が?

支配されるという話が起きる原因のひとつに、技術的特異点があります。

この言葉は、「2045年に人間より賢い人工知能ができる」という予言に端を発しています。

 

人間より賢い人工知能ができた瞬間、その人工知能がより賢い人工知能をつくりだし、その人工知能がさらに賢い人工知能を作り出し……という流れになるということです。

つまりその瞬間、人間より賢いものがどんどん作られることになります。

 

その人工知能が我々人間を不要なものと認識した瞬間、我々は支配され、そして滅ぼされることになる。

 

確かに遠い未来には起こってもおかしくはないと私は思います。

ただ現状の人工知能は、実は何かに特化したものに過ぎません。

 

現在の人工知能の主流は、簡単にはデータを与えてそれを学習させ効率よく選ばせるというもの(機械学習)が主流です。

例えば囲碁でイ・セドル9段に勝ったAlphaGoなんかがそうです。最初はデータを入れて学習、その後は自分自身と対決して勝率の高いパターンを選んでいったようです。

 

この場合、特定の分野に特化してその点では人間を超えていますが、新しい人工知能を創造的に作り出すことはしていません。

人工知能を作り出せる人工知能というのを考えるとなかなか面白そうではありますが、そんな研究はないようです。危ないからですかね。

 

というわけで現在の人工知能の水準では、自我をもって支配されるというようなことは起こりません。

人間の考え・感情を多少模倣したPepperくんやSiriといったロボット・人工知能もありますが、これも応答が洗練されているだけ、というみたいです。

 

ただ、現在の人工知能でも、支配されるのとは別の方面で危険をはらんでいます。

 

 

 

人工知能に職を追われる!?

このように、ある分野に特化されるとなると、人間にはかないません。

最初は電卓に計算能力を抜かれ、そのうち微分・積分もソフトウェアができ、最近では文字認識や囲碁・将棋もコンピュータが勝利しつつある。

 

そのうち事務仕事、例えば電話対応は多くの場合なくなると見られています。

また、ニュース記事作成に関してはすでに、例えば米国AP通信や日経電子版が決算報告の記事を自動作成するための人工知能を導入していたりします。

 

この記事のような紹介記事の自動作成もそのうち来てしまうかもなあ、と思ったり。

またそれ以外にも作業系はどんどん人工知能を導入する企業が増えると思います。

すると、人々は職を奪われてしまいます。

なにせ、特化したコンピュータはたいてい人がやるより効率が良くなりますから。

 

創造的な仕事はなかなかなくなりませんし、そういう意味では現場に指示する管理者も創造的な部分はあるので「監督する人」は仕事を追われないでしょうが、でも全員が現在の監督の地位につけるとは限りません。

船頭多くして船山に登るという言葉もありますし。

 

では、私たちはどうすれば良いのでしょうか。

 

 

 

将来の私たちはどういう職になるか?

kike2

少なくとも現在の学習するタイプの人工知能は、何かに特化することだけに威力を発揮します。

様々な現場を見て総合的に、臨機応変に判断することはできません。

そのような万能さが人間の強みです。

 

要は監督じゃないか、さっき全員が監督はできないだろうということを言われそうですが、ちょっと違います。

私の想像ですが、作業系の仕事の人は作業をするところから、作業をする人工知能を管理する職に変わっていくのではないかと思います。

そういう管理は臨機応変さが多少なりとも必要です。

 

フィードバックして制御する、という分野も古くからありますしすでに家電をはじめとするあらゆる分野に応用されてはいますが、想定されていないことに対し臨機応変さを発揮するのが人の強みです。

 

作業が人工知能に置き換わるのは基本的に良い変化だと私は思います。

作業自体をして心と身体をすり減らすことがなくなるというわけですから。

理想的にはそれによって帰宅が早くなり、多くの人が趣味に打ち込んだり遊んだりできるといいよなあ、と素人ながら思います。

 

というわけで、面倒な作業を学習した人工知能に任せて人は豊かな生活になり、職を追われるというよりはただ負担が減るという方面に向かってほしいですね。

ただ上司が「給料減らす」ってほぼ確実に言うことが心配ですが……。

つまり敵は悪い経営者でしょうか。