恐怖のキャビネット
機械の台頭と人工知能による権力の掌握。 完全な監視と社会的管理の世界。 核戦争と文明の退化。 何年も前に描かれた多くの暗い未来のビジョンが、今日まさに起ころうとしていました。 一方、振り返ってみると、それらは決して存在しなかったようです。 本気ですか？
人気のある曲にはかなり典型的なレパートリーがある ディストピアの予言 （黒い未来のビジョンについて）。 自然環境や資源の破壊に関連する最も一般的なものに加えて、新興テクノロジーは対人コミュニケーション、人間関係、社会に有害であると広く信じられています。
仮想空間は、世界への現実の参加を欺瞞的に置き換えるでしょう。 他のディストピア的見解では、テクノロジーの発展を社会的不平等を拡大し、権力と富を狭い集団の手に集中させる手段とみなしている。 現代のテクノロジーに対する高い要求により、知識とスキルが特権的な個人の狭い範囲に集中し、人々の監視が強化され、プライバシーが破壊されます。
多くの未来学者によると、生産性の向上と目に見える選択肢の増加は、人の生活の質を損ない、ストレスを引き起こし、雇用を脅かし、私たちを世界に対してますます物質主義にする可能性があります。
有名なテクノロジーの「ディストピア」の一人、 ジェームズ・グリックでは、重要な問題を XNUMX つも解決せず、多くの新しい問題を引き起こす古典的な発明として、テレビのリモコンという一見些細な例を挙げています。 グリック氏、技術史家の言葉を引用 エドワード・テナーは、リモコンを使用してチャンネルを変更できる機能とその容易さが、主に視聴者の注意をますますそらすことに役立つと書いています。
人々は、視聴するチャンネルに満足する代わりに、ますます不満を抱いています。 ニーズが満たされる代わりに、終わりのない失望感が残ります。
機械は予約を維持してくれるのでしょうか？
避けられず、やがて現れるであろうこのものを私たちはコントロールできるのだろうか？ 人工知能を超えて？ 多くのディストピアのビジョンが宣言しているように、これが事実でなければならないとしたら、そうではありません。 とします。
自分たちより何倍も強いものをコントロールするのは難しい。 タスクの数が増えるにつれて。 XNUMX年前には、私たち自身よりもはるかに正確に人の声や顔から感情を読み取ることができるとは誰も信じていませんでした。 一方、現在訓練されたアルゴリズムはすでにこれを実行可能であり、顔の表情、音色、話し方を分析します。
コンピュータは絵を描き、音楽を作曲し、日本の詩コンクールで優勝した人もいます。 彼らは長い間チェスで人々に勝ち続け、チェスを一から学びました。 同じことが、より複雑な囲碁ゲームにも当てはまります。
加速の法則に従います。 過去数十年間に人間の助けを借りて AI が達成したことは、今後数年間、おそらく数か月で XNUMX 倍になり、その後はわずか数週間、数日、数秒で達成されるでしょう...
最近判明したように、スマートフォンや空港でユビキタスカメラの写真を分析するために使用されているアルゴリズムは、異なるフレーム内の誰かを認識するだけでなく、非常に親密な心理的特徴も識別することができます。 これはプライバシーに関する大きなリスクであると言っても過言ではありません。 これは単純な監視やあらゆる段階を監視することではなく、人の外見そのものの結果として生じる情報、彼の隠された欲望や個人的な好みについての情報です。
アルゴリズムは、何十万ものケースを分析することでこれを比較的早く学習できますが、これは最も洞察力のある人でも生涯で確認できる数をはるかに超えています。 このような豊富な経験を備えた彼らは、最も経験豊富な心理学者やボディランゲージおよびジェスチャー分析者よりも正確に人をスキャンすることができます。
つまり、本当のぞっとするようなディストピアとは、コンピュータがチェスをしたり、囲碁で人間と対戦したりすることではなく、コンピュータが人間の魂を私たちよりも深く見ることができ、それらの傾向やその他の傾向を認識する上での禁止事項や障害に満ちているということです。
エロンマスク AI システムが学習し、ますます規模が拡大し始めるにつれて、「知性」がどこかで進化している可能性があると信じています。 Web層の奥深く、私たちには気づかれずに。
2016年に発表されたアメリカの研究によると、人工知能は今後45年以内にあらゆるタスクにおいて人間を超える可能性が50パーセントあるという。 予測者たちは、確かに AI は癌の問題を解決し、経済を改善し加速させ、娯楽を提供し、人生の質と長さを改善し、AI なしでは生きていけないように私たちを教育するだろうと述べています。憎しみは、論理的な計算にのみ基づいており、単に私たちを排除します。 どのシステムでも「いつか役立つかもしれない」リソースを蓄積、アーカイブ、保存する価値があるため、それは物理的に不可能かもしれません。 そう、これがAIにとって私たちがなれるリソースなのです。 保護された人間の埋蔵量?
楽観主義者は、コンセントからプラグを抜く機会が常にあるという事実で自分を慰めます。 ただし、すべてがそれほど単純ではありません。 すでに人間の生活はコンピューターに大きく依存しているため、コンピューターに対する根本的な対策は私たちにとって壊滅的なものとなるでしょう。
結局のところ、私たちは AI に基づいた意思決定システムをますます構築しており、飛行機を操縦し、金利を設定し、発電所を管理する権利を AI に与えています。私たちは、アルゴリズムがこれを私たちよりもはるかにうまく実行できることを知っています。 同時に、これらのデジタル上の決定がどのように行われるのかについては完全には理解していません。
「渋滞を減らす」のような超インテリジェントな指揮システムが、仕事を成し遂げるための唯一の効果的な方法は…人口をXNUMX分のXNUMX、あるいは半分に減らすことだという結論に導くのではないかという懸念がある。
そう、「まずは人命を救え！」という最も重要な命令を機械に与える価値はある。 しかし、デジタルロジックが人類を投獄することになるのか、それとも納屋に閉じ込められることになるのかは誰にもわかりません。そこでは私たちは安全かもしれませんが、確かに自由ではありません。
サービスとしてのサイバー犯罪
過去には、文学や映画における終末論的な世界のディストピアやイメージは、通常、核戦争後の時代に設定されていました。 今日、私たちが想像するような方法ではありませんが、私たちが知っているように、世界の大惨事と破壊には核による絶滅は必要ないようです. 、それが核消滅と組み合わされた「ターミネーター」のように世界を破壊する可能性は低い. もしそうなら、彼女は超知性ではなく、原始的な力になるでしょう. 結局のところ、人類でさえ壊滅的な核戦争の世界的なシナリオをまだ認識していません。
実際のマシンの黙示録は、それほど印象深いものではないかもしれません。
サイバー戦争、ウイルス攻撃、システム ハッキング、ランサムウェア、ランサムウェア (2) は、爆弾と同じくらい効果的に私たちの世界を麻痺させ、破壊します。 もしその規模が拡大すれば、私たちは全面戦争の段階に突入する可能性があり、その際、機械は自律的に行動する義務はないものの、私たちは機械の犠牲者や人質になることになり、依然として人間がすべての背後にいる可能性があります。
昨年の夏、米国サイバースペース・インフラセキュリティ庁（CISA）はランサムウェア攻撃を「最も顕著なサイバーセキュリティの脅威」と呼んだ。
CISAは、サイバー犯罪者が個人や組織のデータを傍受・暗号化して身代金を強要する活動の多くは、被害者がサイバー犯罪者に金を払っており、安全でないシステムの問題を公表したくないため、決して報告されないと主張している。 ミクロレベルでは、サイバー犯罪者はオンラインの正直なコンテンツと不誠実なコンテンツを区別するのが難しい高齢者をターゲットにすることがよくあります。 攻撃者は、電子メールの添付ファイルまたは感染した Web サイトのポップアップ ウィンドウに埋め込まれたマルウェアを使用してこれを実行します。 同時に、大企業、病院、政府機関、政府に対する攻撃も増加しています。
後者は、機密データを保持しており、高額の身代金が支払われる可能性があるため、特に標的にされました。
健康情報などの一部の情報は、所有者にとって他の情報よりもはるかに価値があり、犯罪者により多くの金銭をもたらす可能性があります。 窃盗犯は、検査結果や投薬情報など、患者ケアにとって重要な臨床データの大規模なブロックを傍受または隔離する可能性があります。 命が危険にさらされているとき、病院では交渉の余地はありません。 XNUMX月のテロ攻撃を受けて、米国のある病院は昨年XNUMX月に永久閉鎖された。
おそらく時間の経過とともに悪化するだけでしょう。 2017年、米国土安全保障省は、サイバー攻撃が水道施設などの重要インフラを標的にする可能性があると発表した。 そして、そのような行動を実行するために必要なツールは、小規模な事業者が利用できるようになり、Cerber や Petya ソフトウェアなどのランサムウェア キットを販売し、攻撃が成功した後に身代金を請求します。 サービスとしてのサイバー犯罪に基づいています。
ゲノムの危険な障害
ディストピアの人気のあるテーマの XNUMX つは、遺伝学、DNA 操作、人々の繁殖であり、さらに、(当局、企業、軍によって) 正しい方法で「プログラム」されています。
こうした不安を現代的に具現化したのが、大衆化の手法である。 CRISPR遺伝子編集 (3)。 主に懸念されるのは、それに含まれるメカニズムです。 必要な機能を強制する 次の世代ではその可能性が全人口に広がります。 この技術の発明者の一人は、 ジェニファー・ダウドナ、最近では、壊滅的な結果をもたらす可能性があるため、そのような生殖細胞系列編集技術の一時停止を要求しました。
数か月前に中国の科学者が言ったことを思い出してください。 何建奎 エイズウイルスに対する免疫を与えるために人間の胎児の遺伝子を編集したとして広く批判された。 その理由は、彼が行った変更が世代から世代へと受け継がれ、予測不可能な結果をもたらす可能性があるためでした。
特に懸念されるのは、いわゆる d (遺伝子書き換え、遺伝子駆動) です。 遺伝子工学のメカニズム。特定の個人の DNA 内に編集システムをコード化することで構成されます。 CRISPR/CAS9 ゲノム この不要な遺伝子のバリアントを編集するように設定します。 このおかげで、子孫は自動的に（遺伝学者の関与なしで）望ましくない遺伝子変異体を望ましい遺伝子変異体に書き換えます。
しかし、望ましくない遺伝子変異は、改変されていないもう一方の親からの「贈り物」として子孫に受け取られる可能性があります。 つまり、遺伝子ドライブがあなたを破壊することを可能にします メンデルの相続法則これは、優性遺伝子の半分が一方の親から子孫に受け継がれることを示しています。 つまり、これにより、最終的には問題の遺伝子変異が人口全体に広がることになります。
スタンフォード大学の生物学者 クリスティーナ・スモークは2016年の遺伝子工学に関する委員会で、このメカニズムが有害で、極端な場合には恐ろしい結果をもたらす可能性があると警告した。 遺伝子ドライブは、世代を経るにつれて突然変異し、血友病や血友病などの遺伝性疾患を引き起こす能力があります。
カリフォルニア大学リバーサイド校の研究者らが『Nature Reviews』に発表した論文で読んだとおり、たとえある生物集団でドライブが設計通りに機能したとしても、同じ遺伝形質が何らかの形で別の集団に持ち込まれた場合、有害となる可能性がある。 同じ見解です。
科学者が密室で査読なしに遺伝子ドライブを作成する危険もあります。 もし誰かが意図的か非意図的かに、インフルエンザに対する私たちの抵抗力を破壊するような有害な遺伝子ドライブをヒトゲノムに導入した場合、それはホモサピエンスという種の終焉を意味する可能性すらあります...
監視資本主義
かつての SF 作家たちにはほとんど想像できなかったディストピアのバージョンがインターネット、特にソーシャル メディアの現実であり、その影響は人々のプライバシー、人間関係、心理的完全性を破壊するという広く説明されています。
この世界は、TV シリーズ『ブラック ミラー』の 2016 年のエピソード「ザ ダイブ」(4) で見られたような、より新しい芸術的パフォーマンスによってのみ彩られています。 ショシャナ・ズボフハーバード大学の経済学者は、この現実を社会的自己肯定に完全に依存し、完全に「剥奪された」と呼んでいます。 監視資本主義 ()、そして同時に Google と Facebook の最高の成果でもあります。
4. 「ブラック・ミラー」のシーン - エピソード「ダイビング」
ズボフ氏によると、最初の発明者はグーグルだという。 さらに、一見無害に見える「スマートシティ」プロジェクトなどを通じて、監視活動を絶えず拡大しています。 その一例は、Google の子会社である Sidewalk Labs による「世界で最も革新的な地区」プロジェクトです。 橋脚 トロントで。
Googleは、ユビキタス監視センサーを使用して、ウォーターフロントの住民の生活、動き、さらには呼吸に関するあらゆる分単位のデータを収集することを計画しています。
Facebook では問題外のインターネットのディストピアを選ぶのも難しい。 監視資本主義は Google によって発明されたかもしれませんが、それをまったく新しいレベルに引き上げたのは Facebook でした。 これは、社会的および感情的なバイラルメカニズムと、ザッカーバーグのプラットフォームの非ユーザーさえも容赦なく標的にすることによって行われました。
保護された AI、仮想現実に没頭し、UBI とともに生きる
多くの未来学者によれば、世界とテクノロジーの未来は、AI、AR、VR、BC、UBI という XNUMX つの頭字語で示されます。
MT の読者はおそらく、それらが何であるか、最初の XNUMX つが何で構成されているかをよく知っています。 よく知られているものは、私たちが何を言っているのかを理解すると、XNUMX 番目の「太陽」であることがわかります。 そしてXNUMX番目は？ UBDとは「」を意味する概念の略称です。ユニバーサルベーシックインカム」 (5)。 これは、他のテクノロジー、特に AI の発展に伴い、仕事から解放されるすべての人に提供される政府の給付金です。
5. ユニバーサルベーシックインカム - UBI
スイスは昨年、この案を国民投票にかけたが、国民は所得保証を導入すれば国に移民が殺到するのではないかとの懸念から反対した。 UBI は、既存の社会的不平等を永続させるリスクなど、他の多くの危険ももたらします。
頭字語の背後にある技術革命のそれぞれ (参照:) - それが予想される方向に広がり、発展する場合 - もちろん、大量のディストピアを含む、人類と私たちの世界に大きな影響を与えます. たとえば、XNUMX 年間の選挙サイクルに取って代わり、無数の問題に関する国民投票につながる可能性があると考えられています。
仮想現実は、人類の一部を現実世界から「排除」することができます。 これは、たとえば韓国人女性チャン・ジソンさんの場合に起こったことだ。チャン・ジソンさんは、2016年に娘を不治の病で亡くして以来、VRで自分のアバターと会っている。 仮想空間はまた、新しい種類の問題を引き起こしたり、実際にすべての古い既知の問題を「新しい」世界、さらには他の多くの世界に移したりします。 これはソーシャルネットワークでもある程度見られますが、投稿への「いいね！」が少なすぎるとうつ病や自殺につながることがよくあります。
多かれ少なかれ予言的な物語
結局のところ、ディストピアのビジョンの歴史は、予測を立てる際の注意も教えています。
6.「Islands in the Net」のカバー
リドリー・スコットの絶賛されたSF傑作「アンドロイドハンター» 1982年以来。 多くの特定の要素が成就するかどうかについて議論することはできますが、多くの点で人間よりも優れた知的な人型アンドロイドが現代に存在するという最も重要な予言がまだ現実になっていないことには議論の余地がありません。
私たちはさらに多くの予言的なヒットを喜んで許可します。」ニューロマンサーズ」つまり小説 ウィリアムギブソン 1984 年以来、「サイバースペース」の概念が普及しました。
しかし、そのXNUMX年の間に、今日の時代をはるかに正確に予測した、あまり知られていない本が登場しました（ポーランド語に翻訳されていないため、我が国ではほぼ完全に）。 小説の話をしているんです」ウェブ上の島「(6) ブルース・スターリング 1988年から、2023年に設定されています。 「ウェブ」と呼ばれるインターネットに似たものに浸かっている世界が特徴です。 それは大規模な国際企業によって管理されています。 「ネットの島」は、無料であるはずのインターネットを制御、監視、独占していることで有名です。
オンラインの海賊/テロリストに対して無人航空機 (ドローン) を使用して実行される軍事作戦を予測することも興味深いです。 何千マイルも離れたオペレータが安全なデスクトップを使用している - どうやってこれを知ることができるでしょうか? この本はイスラムテロとの終わりのない紛争についてではなく、グローバリゼーションに反対する勢力との戦いについてのものです。 Islands in the Net の世界には、スマート ウォッチやスマート スポーツ シューズによく似た消費者向けデバイスもたくさんあります。
80 年代の別の本では、いくつかの出来事はより幻想的に見えますが、現代のディストピアの恐怖をうまく説明しています。 これ "Georadarソフトウェア"、 歴史 ルディエゴ・ラッカー、2020年に開催されます。 世界、社会の状態、そしてその紛争は、今日私たちが直面しているものと信じられないほど似ています。 自意識を持って月の都市に逃げ込んだボッパーと呼ばれるロボットもいる。 この要素はまだ実現していませんが、マシンの反乱は常に暗い予測の繰り返しになります。
この本に描かれている私たちの時代のビジョンも、多くの点で驚くほど正確です。 オクタヴィア・バトラー、特に種まき人のたとえ話』（1993年）。 物語は2024年のロサンゼルスから始まり、気候変動による洪水、嵐、干ばつで荒廃したカリフォルニアが舞台となる。 中産階級と労働者階級の家族がゲート付きコミュニティに集まり、中毒性の薬物や仮想現実キットを通じて外の世界から逃れようとしています。 新しい宗教や陰謀論も出てきています。 環境と社会の崩壊から逃れるため、難民のキャラバン隊が北へ向かう。 「Make America Great Again」（これはドナルド・トランプのスローガンです）をキャンペーンスローガンとする大統領が権力を掌握します…
バトラーの２冊目の著書、才能のたとえ」では、新興宗教カルトのメンバーが宇宙船で地球を離れ、アルファ・ケンタウリに入植する様子が描かれています。
***
私たちの日常生活に影響を与える、数十年前になされた予測やビジョンを広範に検討することで得られる教訓は何でしょうか?
おそらく重要なのは、ディストピアは頻繁に起こるが、ほとんどの場合は部分的にしか起こらないということです。
