それほど遠くない未来では、犯罪で腐敗したヨハネスブルグは、自律型ロボット警察ドロイドの艦隊を展開する最初の都市になります。 最初は、マシンは効果的なソリューションのようです。 犯罪は劇的に減少し、プロジェクトは成功すると称賛されます-何かがうまくいかなくなるまで。 簡単な給料日を探しているラップレイプのギャングは、解体の予定の損傷したドロイドをハイジャックします。 銃口で強要されたエンジニアの助けを借りて、彼らは自律エージェントとしてチャッピーという名前のドロイドを再プログラミングし、人工知能が人間の知能よりも賢くなる特異点を効果的に作成します。
ほとんどの優れたSFのように、Neill Blomkamp監督の新しい映画、 Chappieは 、人間の本性と、貧困、犯罪、差別、いじめ、警察の残虐行為を含む現在の問題に関する解説として機能します。 しかし、それはまた、多くの人が、良くも悪くも、知覚的人工知能の必然的な出現であると考えるものについて、より先見の明のある質問を提起します。
「過去において、倫理と道徳に関係なく、人間が考えていたすべてのものが試され、可能であれば行われました」とアリゾナ大学およびカリフォルニア工科大学の物理学者ウォルフガング・フィンクは言います。 。 「誰かがそれらを作成する方法を見つければ、自律システムが出現します。それは当然のことです。」
実際、Finkを含む多数の科学者がこの研究ラインを熱心に追い求めており、すでに進歩しています。 チャッピー自体は別として、映画に描かれているロボット工学の多くは、実際にはすでに利用可能であるか、利用可能に非常に近い。 映画のムース（ヒュージャックマンの混乱した警官が操作するロボコップの ED-209を連想させる巨大な死の機械）に似た遠隔操作ロボットが今日存在しています。
同様に、ルールベースのシステムとしてプログラムされ、人工知能を備えたChappieポリスドロイドなどのロボットは、自己認識や自律性を欠いていますが、バッテリー寿命と敏ility性はまだパトロールしているモデルと一致していませんヨハネスブルグの通り。 ただし、そのようなマシンが展開された場合、受け入れるのはそれほど急進的なことではないかもしれません。 コロンビア大学医療センターの臨床心理学者であり、SF心理学のブログであるBrain Knows Betterの作成者であるAli Mattuは、次のように述べています。 「ロボットが私たちの日常生活の一部になると、何らかの形でシームレスに感じるかもしれないと思います。」
しかし、警察のドロイドは、自立した衆生を作っていません。 チャッピーのような真に自治的で自己認識のある存在は、これまでに見られたものからの出発点になります。 「ネアンデルタール人以来、私たちは知性のあるまったく新しい種と共同で作業する可能性がありませんでした」とMattu氏は言います。 「人工生命と共感を共有する障壁を克服できれば、人類の驚くべき時代につながる可能性があります。」
ハードウェアは、そのような存在が出現するのを妨げる障害ではありません。これは単なるエンジニアリング作業です、とFinkは言います。 代わりに、ソフトウェアの作成（マシンのゴースト）が本当の課題です。 研究者はこの問題に対して2つの異なるアプローチを取っています。 ある人は、ゼロからの準備ができた感覚を作成しようとしていますが、別の人は、 Chappieで見られるように、経験を通じて学習、適応、および修正するために必要なツールを備えた基本プログラムを書くことを考えています。 Finkが説明するように、「パイをすでに焼いてパイをシステムに入れるか、パイの材料をシステムに与えてそれを焼くためにシステムに任せるかのいずれかです」。
突破口が来ると、 Chappieに描かれているように、増分ではなく突然発生する可能性があります。 Finkは、大学、政府、または企業が信用を獲得するのではなく、特異性につながる混乱は、研究者の小さなチーム、または自由に支えられた裕福な民間資金提供者に支えられた単一の個人によってさえもたらされると予測しています保守的な主流の研究を実験し、中断すること。 実際、それはChappieのシナリオに近いものです。Chappieは大企業ではなく、Dev Patelが演じる自主的なエンジニアによって作成されます。夜の自律型人工知能について。
しかし、真に自律的な人工知能が出現すると、システムがどれほど複雑になるか、またはどの方向に進化するかを予測することは不可能になります。 私たちのような有機システムとは異なり、生物学的進化の遅いスローグに制約されることはありません。 その開発は爆発的だろう。 そのようなシステムが一連の道徳的または倫理的価値を採用または保持すること、またはそれらの価値が人間に及ぶことを保証するものではありません。 人間の子供のように発達し、時間の経過とともに学習し成熟するチャッピーの場合、人間に害を与えないという初期の約束は、ロボットの動作を抑えるうえで大いに役立ちます。 しかし、Chappieは、多くの人間と同様に、絶滅の危機にさらされたとき、その道徳を大部分は捨て、他人を傷つけることを意味するとしても、それ自体を守るために、純粋な自己利益から行動します。
そして、チャッピーは親しみやすい人間のように見えますが、現実世界の感覚のロボットは人間のような推論を守らず、その行動を予測したり、動機を理解したりする能力を低下させます。 「一度そのレベルに達すると、システムの制御が本質的に失われます」とFink氏は言います。 「エキサイティングで怖いのは、人間のようにはならないからです。」
さらに、ソフトウェアが最初にChappieのようなヒューマノイドロボットのシェル、宇宙船、さらには身体のインプラントに生息するかどうかは、その物理的形状の境界から逃れると（ トランセンジェンスで描写されますが）封じ込めることはほぼ不可能です。
サイエンスフィクションの本や映画は何十年も人工知能の問題について熟考してきましたが、フィンクは、必要な突破口は「文字通りいつでも発生する可能性がある」と指摘しています。 昨年1月、PayPalの共同設立者でテスラモーターズのCEOであるイーロンマスクは、ロボットの支配者がいつか地球を占領して私たちを排除するのを防ぐために1, 000万ドルを寄付しました。 彼は、自律的な人工知能を作成しようとすることで、「悪魔を召喚している」と警告しています。
マスクは、この一連の研究について不安を抱いているだけではありません。 最近のRedditの「Ask Me Anything」スレッドで、Microsoftの共同設立者であり慈善家のBill Gates氏は、「人工知能について懸念しているキャンプの中で」「一部の人々が懸念していない理由を理解していない」と書いています私たち自身の認知能力を超え、自律性を獲得する存在。 物理学者のスティーブン・ホーキングスも同様にその懸念を共有し、さらに率直に述べています：「完全な人工知能の開発は人類の終endをもたらすかもしれない」と彼はBBCに語った。
大ヒットしたコミック本の映画でさえ、通常はサイエンスフィクションのジャンルに限られているこの使い古された道を歩んでいます。 Marvel's Avengers：Age of Ultronの最新予告編で示唆されているように、映画のヒーローは、もともと戦争から惑星の救世主として作成されたロボットと戦いますが、代わりに人類を根絶することを決定します。
しかし、逆に、人間は侵略者となり、 チャッピーに描かれているように、私たち自身が作り出す自律的な存在の存在を脅かす可能性があります。 私たち人間が平和な道を追求するかどうかは、主に2つのことによって決まります。マトゥは次のように言います。 後者は、ロボットがどのように見えるかなど、一見浅い要因に依存しています。 彼らは私たちに似ていますが、あまり似ていないように見えますか？ 私たちと同じ目標を共有することも彼らのケースを助けるでしょう。 これらの要因は、私たちの生まれつきの神経学的傾向を利用して、他の人を信頼できるイングループの一部または潜在的に脅迫するアウトグループの一部として分類します。 ロボット工学者は、最新の機械を設計する際にこのような心理的要因を考慮しています。
しかし、マトゥは、ロボットがこれらの前提条件をすべて満たしても、物事がうまくいくという保証はまだないことを指摘しています。 「人間は、AIや宇宙人の生活は言うまでもなく、お互いを人間として見るのに苦労しています」とMattu氏は言います。 「また、最初のコンタクトが非常にうまくいかないという歴史もあります。」
ですから、私たちはそれを知る前に創造物を破壊するかもしれませんし、逆のことが起こるかもしれません-私たちのソフトウェアの子孫はマトリックスに見られるように私たちの奴隷をすべて作るか、スカイネットスタイル、人類は単に存在するに値しない。 一方、人間と自律型ロボットはお互いを受け入れることができ、宇宙探査のような興味深い追求に協力することに同意します。 しかし、物事が炎と涙で終わるのか、進歩と友情で終わるのかを知る唯一の方法は、そもそもそれらの存在を創造することです。 しかし、過去が何らかの指標である場合、それは時間の問題です。 「私たちは常に、好奇心、予期しないものを探求し、発見したいという欲求に駆られています」とフィンクは言います。 「そして、科学倫理は私たちの進歩に遅れをとる傾向があります。」
「時々原子力を手に入れ、時には原子兵器を手に入れます」とマトゥは付け加えます。 「どの方向に進むかはわかりませんが、科学を止めることはできません。」
