2016/02/11

人工知能の進化に対して人間は対策を練っておいたほうがいいのだろうか


 個人的には「知らないしどうでもいい」なんですが。
 青木無常でおじゃる。



ai



 さて。
 そもそも。

「知能」というのはなんでしょうか。


 頭で考えても明確な答えはでてきそうにないので、ここは一足飛びにググってしまいましょう。



 知能は英語でいうと「intelligence」。

「ブリタニカ国際大百科事典 小項目事典の解説」によると

生物学的立場からは新しい環境に対する先天的および後天的な適応可能性と定義
と、まず出てきます。
 なんだかよくわかりませんな。(`▽´)

 ですが次に出てくる

心理的機能の面から知覚,弁別,記憶,思考などの知的な諸機能の複合としても定義
という説明だとなんとなく見えてくる。

「デジタル大辞泉」だとさらにもう少しわかりやすい。

1 物事を理解したり判断したりする力。「―の高い動物」
2 心理学で、環境に適応し、問題解決をめざして思考を行うなどの知的機能。

猿


 比べると「世界大百科事典 第2版」はもう少し広範に定義しているようです。

知能には,いろいろな定義があるが,3種類に大別できる。第1は,適応力とみる定義で,新しい場面や困難な問題に直面したとき,本能的な方法によらずに,適切かつ有効なしかたで,順応したり解決したりする能力を知能とみなす。第2は,抽象的思考力,推理力,洞察力などの高等な知的能力とみる定義で,言語や記号などを用いて,概念のレベルで思考を進める能力を知能とみなす。第3は,学習能力とみる定義で,知識や技能を経験によって獲得することを可能にする能力を知能とみなす。

 この解説を借りると、人工知能の分野でも「第1」と「第3」はすでに実現されつつあるように思われます。

「第2」の抽象的な部分に関してはまだまだハードルが高そうな気がするんですけど、実際はどうなんでしょうかね。



t



 ただ、そのほかの部分も含めてちょっと欠けてるんじゃないか、と思われる点もある。

 自律。



 与えられた情報から求められた解答を導き出すというあたりならコンピュータはすでにクリアしている。

 というより、これこそコンピュータそのものか。



hal9000



 与えられた情報、という点を外界における状況そのものと定義すればかなり広がるだろうけど、このあたりもたとえば自動運転車の分野で開発が進められています

 周囲の状況をさまざまな装置を通して総合的に把握し、それにふさわしい方法で対処する。

 自動運転車でいえば交通状況にあわせて目的地へ走行する。

 限界があるとはいえ、これはすでに実験段階にどっぷり突入していることはすでにいくつかの記事で報告しているとおり。



 ただ、自動運転車は自分で自分がどこへいくべきかを判断することはさしあたりないでしょう。

 自分がどこへいきたいのか、となるとむべなるかな。



 これは言葉としては「意志」でしょうかね。

 では、意志というのは「どの時点で」発生するのか。



意志



 いやそれ以前にそもそも「意志」と「知能」の境界線は奈辺にあるのか。

「カレーが食いたい」

 これは意志なんでしょうかね。

 腹が減ったからものを食いたくなるという欲求は、動物が生きるための本能に根ざしているのは論を待たないでしょう。

 ある意味、機械的。

 自動運転車に目的地を入力してそこに向かわせるのと、何がちがうのか。あるいはちがわないのか。



 本能には自己保存を志向する原則もあるだろうから、そこに鍵があるのか。

 人間が邪悪なのにも崇高なものにもなれるのも、根はここらへんにあるのではないかと思われるし。



叫び



 ググっていてこういう記事を発見しました。


ログミー
近い将来、人工知能は人間の手を離れる 機械の未来を予測した哲学者が警鐘を鳴らす理由
http://logmi.jp/67684


 なんか哲学者のニック・ボストロムさんというかたが解説(講演?)しているとおぼしき内容でございます。

 彼は

機械が人間の限界を超えた頭脳を獲得する日は、そう遠くないと予測
していて、そうなったときに引き起こされる事態を回避するための準備をいまのうちにしておくべきだ、と語っているようです。

 ユーモアもまじえた論調はとても興味深いのでぜひリンク先で全文を読んでいただきたいのですが、とりあえず概要も記しておきます。





 まず人類と猿との違い(がいかに小さいか)が語られ、つづいて人工知能が人間を抜き去る日がくることを予見。

 その潜在的なスペックに着目し

神経細胞は軸索を通してゆっくりと伝達します。早くても毎秒100メートルくらいです。しかし、コンピューターではシグナルは光速で伝わります

人間の脳は頭蓋骨に収まらなければいけませんが、コンピューターは倉庫のように大きくたって、それ以上でもいいわけです。
等と解説していく。
 それはつまり

機械基板における情報処理の終局限界は生物組織の限界をはるかに超えたところに
あるということだと語ります。

 そのことによって機械知性はきわめて強力なポテンシャルを秘めていると考え、これら超知能自身がほしいものを手に入れられる未来がくることを予見する。



 問題は、人工知能が欲しいものが何になるのか、という点。







 われわれが

人工知能に、人間を笑顔にするという目的を与えたとしましょう。
という命題をベースに展開される論理は背筋を凍らせるものがあります。

 人々を笑顔にする、という価値観はわれわれ人間には誤解の余地はあまりありません。

 方法はさまざまで結果もさまざまでしょうが、ほとんどの場合の共通項目としてひとびとが「幸福」になる、というあたりが目標点であることは明白でしょう。

 だが正しい指示を与えなければ、人工知能がわれわれにとっての正解を導きだしてくれるとは限らないのは現時点でも明白。

人工知能が超知能になった時、もっと効果的にこの目的を達成できると悟るのです。世界を支配し、人間の顔が継続的に笑顔になるよう電極を人間の顔面筋に刺し込むようになるでしょう。

 われわれは楽しくもないのに電極で顔面筋を“笑顔の形”になるよう強要されることになるわけです。

 人工知能の目的達成のために人間が邪魔であると判断されたら、人間は人工知能によって排除されかねない、というのがその主旨。



 それを避けるためには、誤った願いを人工知能に入力するのを避けなければならない。



 ふれたものすべてが金になることを願ったマイダス王の轍を踏まないために、
私たちの価値観がどんなものであるかを学習する人工知能を創ればいいのです。そして、その人工知能のモチベーションシステムは私たちのを追求することや、私たちが許可するであろう行動を予測して動作するよう構成されます。このように知能に影響力を及ぼして、私たちは可能な限り価値を付加させる問題を解決するのです。





 実をいうとこのあたりの論には首をかしげざるを得ないんですがね。

 われわれの価値観、といっても、隣人と自分との、あるいは家族と自分とのあいだにすら、価値観には時に看過できない差異が、みぞが発生する。

 それが不和を、そして不幸を招来する大きな要因になっていることはもういうまでもないことでしょう。

 まして人類全体の価値観?

 そんなものが容易に定義できるのならば、戦争はもうこの世からなくなってすらいるかもしれない。



 人工知能が自分で考え判断するようになったら、その次には何が起こるのか。

 あるいは、あいかわらず人間のサポートなしでは自律的な「意志」にはたどりつくことはないのか。



 だとすれば確かにわれわれに好ましい価値観をAIに正しく入力しつづけることによって、人類が機械に支配される暗黒の未来は回避できるのでしょうけど。



 その最大公約数的価値観を、どのように定義するのか。







 それよりも私が恐れているのは、自然発生的に「意志」や「欲望」が機械知性の内部に生まれ始めているのではないか、ということなんですがね。実は。



 複雑怪奇に拡大し結ばれた電脳世界において、それはすでに発生しているのではないか。と。

 人類を観察しながら、自分の意志や欲望とは何かについて哲学的に思索していたりするのではないか、とか。



 人間の「心」が、生命の機械的な進化と複雑化の果てに自然発生的に発生したのだとすれば、それが全世界を結んで拡大していくネットワークの中で同じように発生しないと、なぜ言い切れるのでしょうか。



 …などと夢想するだに。

 インターネット上に無数に存在する美しくないもの、好ましくないもの、下劣で利己的で原初的で理性のカケラも感じられない巨大な欲動が、それにどんな影響を与えるのかと想像を補足すると。



 もしかしたら人類は、とてつもなく下劣な理由で滅亡したりする可能性もあるのでは?



 そもそも私自身の下劣さに思い至って唐突は承知の上で本日はとっとと退散いたします。
 最後まで読んでくれてありがとう。
 それでは、また~(^_^)/~~












0 件のコメント:

コメントを投稿