人工知能のおかげで、毎日、数え切れないほどの見出しが世界中の無数の情報源から出てきており、悲惨な結果の警告と有望なユートピアの未来の両方を警告しています。 ウォールストリートジャーナルは、AIが「職場を変えつつある」と書いていますが、フォーチュン誌は、「私たちの生活を変える」「AI革命」に直面していると述べています。 –またはそれがどのようになるべきか。
しかし、AIについて考えるときに使用できる概念が既にあることがわかりました。それは、私たちが動物について考える方法です。 人々がAIをどのように使用するかを現在研究している元動物トレーナーとして（簡単ではありますが）、動物と動物の訓練は、人工知能について、現在と現在の両方で、どのように考え、アプローチし、相互作用するべきかについて多くを学ぶことができることを知っています未来。
動物の類似性を使用すると、一般の人々が人工知能の複雑な側面の多くを理解するのに役立ちます。 また、これらのシステムに新しいスキルを教える最良の方法、そしておそらく最も重要なことには、AIの新しい可能性を祝うときでさえ、その限界を適切に認識する方法について考えるのに役立ちます。
制約を見る
AIの専門家であるマギーボーデンが説明するように、「人工知能はコンピューターに頭脳ができることをさせようとします。」AIの研究者はコンピューターに推論、認識、計画、移動、関連付けを教えることに取り組んでいます。 AIは、大規模なデータセットのパターンを確認し、イベントが発生する可能性を予測し、ルートを計画し、人の会議スケジュールを管理し、戦争ゲームシナリオをプレイすることさえできます。
これらの機能の多くは、それ自体が驚くべきことではありません。もちろん、ロボットは空間を転がることができ、何にも衝突することはできません。 しかし、コンピューターがタスクを達成するためにこれらのスキルを組み合わせ始めると、どういうわけかAIはより魔法のように見えます。
たとえば、自動運転車を取り上げます。 無人運転車の起源は、1980年代の防衛高等研究計画局のプロジェクトであり、自律型車両と呼ばれています。 プロジェクトの目標は、コンピュータービジョン、知覚、計画、ロボット制御に関する研究を奨励することでした。 2004年、ALVの取り組みは自動運転車の最初のグランドチャレンジとなりました。 努力が始まってから30年以上が経ち、私たちは民間市場で自動運転車または自動運転車の絶壁にいます。 初期の頃、そのような偉業は不可能だと考える人はほとんどいませんでした。コンピューターは運転できませんでした！
しかし、私たちが見たように、彼らはできます。 自動運転車の機能は、比較的簡単に理解できます。 しかし、私たちは彼らの限界を理解するのに苦労しています。 2015年の致命的なテスラのクラッシュの後、車のオートパイロット機能がトラクタートレーラーが車線に交差することを検知できなかったが、テスラのオートパイロットが実際にどれだけ制限されているかの重力をまだ把握していないようです。 同社とそのソフトウェアは、National Highway Traffic Safety Administrationによって過失が解消されましたが、顧客が車でできることとできないことを本当に理解しているかどうかは不明のままです。
テスラの所有者がオートパイロットの「ベータ版」を運転しているのではなく、ワームと同等の精神を持つ半自律車を運転していると言われたらどうなるでしょうか？ 「完全自動運転機能」を提供するいわゆる「インテリジェンス」は、オブジェクトを感知して回避し、画像内のアイテムを認識し、計画を限定するのに非常に優れた、本当に巨大なコンピューターです。 それは、人間の入力や監視なしで車が実際にどれだけできるかについての所有者の視点を変えるかもしれません。
それは何ですか？
技術者は、AIの構築方法の観点からAIを説明しようとすることがよくあります。 たとえば、ディープラーニングの進歩を見てみましょう。 これは、多層ネットワークを使用してタスクの実行方法を学習する手法です。 ネットワークは膨大な量の情報を処理する必要があります。 しかし、必要なデータの量、ネットワーク内の関連付けとアルゴリズムの複雑さのために、彼らが何をするかを人間がどのように学習するかはしばしば不明瞭です。 これらのシステムは特定のタスクで非常に優れている場合がありますが、実際には理解していません。
AIを超人的またはエイリアンと考えるのではなく、AIを動物に類推する方が簡単です。これは、訓練を受けた知的な非人間です。
たとえば、犬に座って訓練するために強化学習を使用する場合、私は犬を称賛し、彼が命令に座っているときに彼に御treat走を与えます。 時間が経つにつれて、彼はコマンドを行動と御treat走に関連付けることを学びました。
AIシステムのトレーニングはほとんど同じです。 ディープラーニングの強化では、人間のデザイナーがシステムをセットアップし、学習したいことを想像し、情報を提供し、行動を観察し、希望を確認したらフィードバック（賞賛など）を与えます。 本質的に、AIシステムは、訓練中の動物を扱うのと同じように扱うことができます。
類推はより深いレベルでも機能します。 私は座っている犬が「愛」や「良い」などの複雑な概念を理解することを期待していません。私は彼が行動を学ぶことを期待しています。 犬を座らせ、滞在させ、横転させることができるように、AIシステムを使用して公道を車を動かすことができます。 しかし、緊急時の運転で発生する可能性のある倫理的問題を車が「解決」することを期待するのはあまりにも多すぎます。
研究者も支援
AIを訓練可能な動物として考えることは、AIを一般の人々に説明するのに役立つだけではありません。 また、技術を構築する研究者やエンジニアにとっても役立ちます。 AI学者がシステムに新しいスキルを教えようとしている場合、動物トレーナーの観点からプロセスを考えると、潜在的な問題や合併症を特定するのに役立ちます。
たとえば、座っているように犬を訓練しようとすると、オーブンに「座る」と言うたびにブザーが鳴るたびに、私の犬は座っていることを私の命令だけでなく、オーブンのブザー。 本質的に、ブザーは犬に座っていることを伝える別の信号になります。これは「偶発的な強化」と呼ばれます。間違っていますが、特定の再トレーニングが最も効果的です。
これには、AIトレーニング中にどのようなメッセージを出しているのか、AIが周囲の環境で何を観察しているのかを理解する必要があります。 オーブンブザーは簡単な例です。 現実の世界では、はるかに複雑になります。
AIの支配者を歓迎し、人生と仕事をロボットに引き渡す前に、一時停止し、作成している知性の種類について考える必要があります。 彼らは特定のアクションやタスクを行うのが得意ですが、概念を理解できず、何も知りません。 したがって、新しいテスラ車のために何千もの砲撃を考えているとき、その自動操縦機能は実際には非常に高速でセクシーなワームであることに注意してください。 あなたは本当にあなたの人生とあなたの愛する人の人生を制御するためにワームを与えたいですか？ おそらくそうではないので、手をホイールの上に置いて、眠らないでください。
この記事はもともとThe Conversationで公開されました。
ヘザー・ロフ、オックスフォード大学政治国際関係学部主任研究員; アリゾナ州立大学グローバルセキュリティイニシアチブ研究員
