昨年、Facebookは2つのチャットボットを作成し、ネゴシエーションスキルを練習しながら、お互いに会話を始めるように依頼しました。 結局のところ、ボットは交渉がかなり上手でしたが、人間には理解できない独自の作成言語を使用してそれを行いました。
関連性のあるコンテンツ
- このアーティストは秘密の秘密と監視の秘密の世界に住む
これが世界の行く先です。 コンピューターは私たちではなく、お互いにコンテンツを作成しています。 他のコンピューターが表示および解釈できるように、コンピューターが写真を撮影しています。 多くの場合、私たちの知識や同意なしに、すべて静かに行われています。
そのため、コンピューターのように見える方法を学び、これらのマシン間通信を可視化することは、21世紀の最も重要なスキルかもしれません。
2018年10月25日、クロノスカルテット（デビッドハリントン、ジョンシェルバ、ハンクダット、サニーヤン）がスミソニアンアメリカンアートミュージアムでコンサートを行いました。 彼らは400人の人間と1ダースの人工知能アルゴリズムによって見られました。後者は、現在美術館で展示されている「Sites Unseen」展のアーティストであるTrevor Paglenの好意によるものです。
ミュージシャンが演奏するとき、彼らの上の画面は、コンピューターが見ているものを人間に見せました。
クロノスはオスマン帝国の哀に満ちた作品の制作にあたり、画面上で頭上のアルゴリズムがミュージシャンの顔を検出し、各人の唇、目、鼻の輪郭を描きました。クロノスの創設者、ハリントンの髪の毛。 アルゴリズムがより高度になると、ビデオフィードは次第に消えていき、黒の背景にネオン線だけが残りました。 最後に、顔の輪郭は次第に消えていき、線の抽象的な配置（おそらく「顔」を理解するために必要なすべてのコンピューターが人間には完全に理解できない）がすべて残されるまで残りました。
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet（ブルース・ガスリー） 
「Sight Machine」、Trevor Paglen、Kronos Quartet パグレンの他の作品と同様に、東海岸の「Sight Machine」というタイトルのパフォーマンスは、視聴者とリスナーに、コンピューターのように見える方法を学び、テクノロジーとの人間関係を再確認するように求めました。空、そしてその間のすべて。
それは2018年であり、携帯電話が私たちを見ているという考えは、スズ箔の帽子を身に着けている地下ブロガーによって提起された陰謀理論のように感じられなくなりました。 ユーザーが機能を無効にしている場合でも、Googleは今年初めにAndroid携帯電話のユーザーの位置を追跡しました。 多くの人々は、技術的にも法的にも彼らがそうすることは可能ですが、私たちの携帯電話が広告をより良く提供するために私たちに耳を傾けていると確信しています。 テクノロジージャーナリストのアレックスゴールドマンとPJフォークトは同じことを調査し、発見しました：私たちの携帯電話が聞かない理由はありませんが、一方で、広告主は彼らがただ必要としない他の方法を通して私たちに十分な情報を収集することができます。
このコンテキストで「Sight Machine」が実行されました。 Kronos Quartetを監視している12台程度のカメラは、ライブビデオをパフォーマンスからコンピューターのラックに送信し、市販の人工知能アルゴリズムを使用して不気味なビジュアルを作成しました。 アルゴリズムは、私たちの携帯電話で使用されるものと同じものであり、より良いセルフを撮影するのに役立ちます。自動運転車で障害物を回避するために使用されるものと、法執行機関および武器ガイダンスで使用されるものです。 そのため、画面上の結果はときどき美しく、あるいは面白いものでしたが、恐怖の底流がありました。
「この特定の作品で私が驚いているのは、彼が私たちに何かを見せていることであり、これは彼のすべての仕事に当てはまります。彼は私たちに邪魔なものを見せており、トリックを使ってやっています」 「Sites Unseen」を企画した写真家向け
「これは意図的なトリックです」と彼は言います。
後に、洗練された顔認識アルゴリズムがクロノスのメンバーについて判断し、その結果を画面に表示しました。 「これはジョン[シェルバ]です。ジョンは24〜40歳です」とコンピューターは言いました。 「Sunny [Yang]は94.4％女性です。Sunnyは80％怒っており、10％がニュートラルです。」
「パフォーマンスが発揮することを望んでいることの1つは、コンピューターを知覚する種類が中立ではない方法の一部であるということです。非常に偏っています。中立ではありません。」 性別分類システムでSunny Yangが94.4％の女性であると言われている場合、それは誰かが100％の女性であることを意味します。 「そして、誰が100パーセントの女性が何であるかを決定しましたか？バービーは100パーセントの女性ですか？そして、なぜジェンダーはバイナリですか？」 パグレンが尋ねる。 「連邦政府が奇妙な性別の人々を文字通り消去しようとしている瞬間にそれが起こるのを見て、それは面白い一方で、私にとっても恐ろしいことです。」
後のアルゴリズムは、パーセンテージを省き、シーン内のオブジェクトを簡単に識別するために移動しました。 「マイク。バイオリン。人。クラゲ。ウィッグ。」 （後者の2つは明らかに間違いです。アルゴリズムは、ハンクダットとクラゲの混同、ハリントンの本当の髪をカツラと混同したようです。）その後、分類はより複雑になりました。 「サニーがハサミを持っている」と、チェロの弦から光がきらめくと、マシンは言った。 「ジョンはナイフを持っています。」 分類担当者がこの情報を不正な情報として法執行機関に提供した場合、どうなるかはわかりません。
アーティストではないAIプラットフォームのほとんどのエンドユーザーは、これらのシステムには独自の偏りがあるかもしれないが、常に最終的な承認を受け取ると主張するかもしれません。 同社が法執行機関およびおそらくICEに販売するAmazon製のアルゴリズムであるRekognitionは、公開されているデータベースの顔写真と顔写真を比較することで、28人の議員を犯罪容疑者として誤認したことで有名です。 当時、Amazonは、システムを使用してマッチを行ったACLUがRekognitionを誤って使用したと主張しました。 同社によると、「信頼しきい値」と呼ばれるシステムのデフォルトの一致設定はわずか80パーセントです。 （言い換えれば、アルゴリズムはジョン・ルイス議員が犯罪者であると確信したのは80％だけでした。）Amazonの広報担当者は、警察は95％の信頼閾値を使用することを推奨し、「Amazon Rekognitionはコンピュータは互いに通信しているかもしれませんが、今のところ、彼らはまだ人間に最後の電話をかけるよう求めています。
PaglenがKronosからの意見を取り入れて選んだ音楽には、テクノロジーについても何か言いたいことがあります。 レイモンド・スコットの作品「Powerhouse」は、「おそらく工場シーンの漫画で使用されることで最も有名です」とパグレンは言います。 「もしあなたが工場を過剰生産して狂ったように見たら、これはしばしばそれを語る音楽です。私にとっては、それはほとんど漫画のような産業化についての一種の考え方であり、一種の技術的文脈の中でそれらを位置づけます。」 スティーブライヒによる別の作品「Different Trains」がセットを閉じました。 クロノスは、1930年代および40年代のライヒの幼少期に関する最初の動きのみを実行します。 パグレンは、この作品を「列車が促進している活気と進歩の感覚」を祝うと考えていると言います。*
これは、ImageNetと呼ばれる一般に公開されているデータベースの画像と組み合わされ、コンピューターが物事を教えるために使用されます。 （「トレーニングデータ」とも呼ばれるので、はい、ちょっとしゃれです。）フルーツ、花、鳥、帽子、立っている人、歩いている人、ジャンプしている人の例を示す画面は、信じられないほど速く点滅しました アーノルド・シュワルツェネッガーのような個人。 シュワルツェネッガー、家、または「夕食」の概念のような人を認識する方法をコンピューターに教えたい場合は、これらの何千枚もの写真をコンピューターに見せることから始めます。
また、キス、ハグ、笑い、笑顔の人々の短いビデオクリップもありました。 これらの写真で訓練されたAIは、慈悲深く友好的なものかもしれません。
しかし、「Different Trains」は楽観主義に関するものではありません。 クロノスが木曜日に演奏しなかったが最初のものによって「暗示されている」後の動きは、ホロコーストの道具になるために列車旅行の約束がどのように当てられたかについてです。 技術の進歩のように思えた列車は、何万人ものユダヤ人が死の収容所に移された車両になりました。 慈悲深い技術のように見えたものが、悪のために破壊されました。
「それは、「何が間違っている可能性があるのですか？」 パグレンは言う。 「私たちは世界中のすべての人々に関するすべての情報を収集しています。」
実際、「異なる列車」が終了すると、焦点が変わりました。 画面には、Kronosの画像やImageNetのトレーニングデータが表示されなくなりました。 代わりに、顔認識アルゴリズムが各人物の特徴を抽出したため、視聴者のライブビデオフィードが表示されました。 本当に、私たちが見られていないと思っていても、私たちは見ています。
視聴者のライブビデオフィードでは、顔認識アルゴリズムが各人物の特徴を抽出しました。 （ブルース・ガスリー） この話を報告するために、私は家を出て地下鉄の駅まで歩いて行き、そこで名前にリンクされた電子カードをスキャンして改札口を通過し、再び地下鉄のダウンタウンを出ました。 ダウンタウンで、私は博物館に入る前に半ダースのセキュリティカメラを通過し、少なくとも2つを発見しました（スミソニアンの広報担当者は、スミソニアンは顔認識技術を使用していないと言います; DC警視庁はそのカメラについて同じことを言います）。
電話を使用してインタビューを録音し、AIを使用して音声で音声をトランスクリプションサービスにアップロードしました。 Gmailを使用してメールを送信しましたが、Gmailは送信したものをすべて「読み取り」ます（ただし、広告は配信しません）。
報告プロセス中に、街を歩いていると、Googleストリートビューの車に出会いました。 二回。 彼らが本当にあなたを見ているのなら、それは妄想ではありませんよね？
それでは、コンピューターが見ている、そしておそらく私たちについて判断を下しているこの世界に、何が残っているのでしょうか？ 「Sight Machine」は、コンピューターのように考える方法を学ぶように促しますが、今のところ、まだ完全に人間である部分もあることを思い出させます。
Paglen氏は、音楽は「実際には定量化できないものです。..基本的にパフォーマーを尋問するコンピュータービジョンシステムを見るとき、文化と感情と意味を知覚する方法の間の認識の広大なギャップを本当に指摘しています。そして、それらが自律システムに見えないすべての方法。」
または、ハリントンが言うように、あなたは木で作られたバイオリンまたは3Dプリンターで作られたバイオリンで音楽を作ることができます。 カーボンファイバー製の弓またはペルナンブコ製の弓を使用できます。 しかし、彼は、弓がまだ弦を引っ張る必要があると言います。 音楽は「手作りのため、より貴重になります。」
そして今のところ、それは私たちだけにできることです。 マシンはもう必要ありません。 しかし、バイオリン弦の弓の荘厳な音や、引っ張られている感情的な弦については、機械は必要ありません。
ジョン・ジェイコブがキュレーションした「Trevor Paglen：Sites Unseen」は、2019年1月6日までワシントンDCのスミソニアンアメリカンアートミュージアムで開催されます。サンディエゴ現代美術館2月21日から6月2日まで開催予定です。 2019年
*編集者のメモ、2018年11月2日：このストーリーは、Steve Reichの「Different Trains」構成の意図された意味と起源のストーリーを明確にするために編集されました。
