🆘 🚠 ⬇️ ニック・ボストロム：文明を破壊する方法 👨🏽‍🎨 🔰 📋

クリス・アンダーソン：ニック・ボストロム、あなたはすでにクレイジーなアイデアを私たちと共有しました。数十年前、私が覚えているように、あなたは私たちがシミュレーションに住むか、すでにシミュレーションに入っていることを示唆しました。そして比較的最近、普遍的な人工知能がどのように害を及ぼす可能性があるかを示す最も実例となる例を示しました。そしてすでに今年、あなたは世界で最も脆弱な仮説を書いた本を出版する予定です。そして、今日の問題はそれを説明するガイドになるはずです。はじめましょう。これらの仮説は何ですか？

ニック・ボストロム：これは、人類の現在の状態の構造的要素を理解しようとする試みです。あなたはつぼの比喩が好きなので、私はそれを使います。アイデア、方法、およびあらゆる種類のテクノロジーを表すボールで満たされた大きなつぼを想像してください。人類のすべての創造的な活動は、この骨壷に飛び込んでそこからボールを引き出すことと比較できます。そして何年もの間、私たちは常にこれから恩恵を受けてきました。白のボールを削除しましたが、一部はグレーの色合いで、あいまいな結果が出ていました。しかし、私たちはこれほど長い間黒人のボールに出くわしていません。そのクリエイターを確実に破壊するテクノロジーです。本には、黒いボールの中にあるもののバージョンが含まれています。

CA：それで、あなたはこの球を文明の死の原因として定義します。

注意：私が言うように、私たちの標準的な半無政府状態から抜け出すまで。

CA：あなたは証拠としていくつかの反例を引用します。あなたは私たちが長年にわたって幸運であったと確信しています。そしておそらく、私たちはそれを知らずに、すでにこの死の玉を引き寄せているのでしょう。また、あなたは引用を与えます。どういう意味ですか？

注意：基本的な発見のすべての結果を予測することがどれほど難しいかを示しているだけです。そのような機会はありません。私たちは骨を骨壷から取り出す方法をよく学びましたが、戻す方法はわかりません。つまり、発明はできますが、その逆はできません。戦略としては、つぼに黒い球がないことを期待しているだけです。

CA：いつかそれを出すと、それを戻すことができなくなり、あなたは私たちが今のところ幸運だと思っています。いくつかのタイプの脆弱性について言及している例についてコメントしてください。

注意：理解するのが最も簡単なタイプは、それほど困難なく大量の破壊を引き起こす可能性があるテクノロジーです。合成生物学は、この種の黒い球の豊富な供給源になる可能性があります。ジオエンジニアリング製品も検討に値します。私たちは地球温暖化と戦うことができますが、私たち自身がそれを容易にする必要はありません。ランダムな人とその祖母が地球の気候を根本的に変える機会を持つ必要はありません。あるいは、害虫を殺すために大量生産された、致命的な蚊のサイズのドローンナノテクノロジー、ユニバーサル人工知能。

CA：この本には、原爆を作るために原子力エネルギーを発見するのに十分幸運だったという疑問があります。おそらくこれは、誰もが利用できるより軽いリソースを使用して爆弾を作成できる場合に当てはまります。

注意：核物理学が最初に進歩した20世紀の30年代に戻りましょう。著名な科学者の中には、核連鎖反応を起こす方法を見つけ出し、それを爆弾に投じた人もいます。いくつかの調査を行いました。入手が非常に難しい大量のウランとプルトニウムを含む原子爆弾を作成するには、超遠心分離機が必要であり、原子炉と大量のエネルギーが必要であることがわかりました。代わりに、原子からエネルギーを放出する簡単な方法があると仮定します。そして、電子レンジやより簡単な方法で砂から核爆発を引き起こすことが可能であると判明した場合はどうでしょうか。これは物理学の観点からは不可能です。しかし、そのような実験が行われるまでは、それがどうなるのかどうやって知るのでしょうか

CA：地球上の生命の正常な発達には、安定した環境が必要であることに同意します。そして、大きな核反応を起こすもっと簡単な方法があれば、地球上に安定した環境は存在せず、私たちはここにいません。

注：はい、それ自体ではなく、意図的に作成されたものがある場合。これは私たちが多くを行う方法です。 10個のブロックを積み重ねることができますが、実際にはそうではありません。

CA：では、何が一番心配かについて話しましょう。今のところ、私たちが予測できることから、合成生物学は自己破壊への最短経路です。

注意：そして、誰かが台所で何かを調理することによって都市を破壊することができると誰かに言ったとしたら、それがどのように見えるか想像してみてください。現代の文明が通常の形でどのように生き残ることができるか想像することは困難です。何百万という人口の中に、何らかの理由でこの破壊的な力を使いたいという人々がいるからです。そして、この黙示録愛好家が都市を破壊することを選択した場合、さらに悪いことに、都市は破壊されます。

CA：別の種類の脆弱性があります。それについて教えてください。

注意：道のすべてを吹き飛ばすわかりやすい黒いボールに加えて、他の人は人々が悪いことをして害を引き起こすためのインセンティブを作成します。つまり、いわゆるタイプ2aについて考えると、これは世界の大国がすべての軍事力を破壊に使用することを奨励するテクノロジーです。実際、核兵器はそれに非常に近いですよね？私たちがしたこと：私たちは10兆ドル以上を費やして70,000の核弾頭を建造し、警戒態勢を維持しています。冷戦中、何度か相互破壊の瀬戸際にいた。自己破壊で10兆ドルを浪費するのは素晴らしいアイデアだと人々が考えているからではありません。私たちは自分自身を探しているだけで、これは最悪の可能性があるという事実に刺激されました。最初の打撃があまり影響なく通過したと想像してみてください。危機的状況ですべての核ミサイルを発射することを控えることは非常に難しいでしょう。そうでなければ、それは反対側で行われることを恐れているので。

CA：相互破壊が冷戦中の安定を維持したことを保証しました。そうでなければ、私たちはここにいません。

注：はい、それは彼女をより不安定にします。ここにテクノロジーの反対側が現れるかもしれません。核兵器の代わりにいくつかの小さなアイテムまたは目に見えないものがあった場合、兵器に関する合意に達するのはより困難になります。

CA：世界の影響力のある俳優の悪い動機と同じように、タイプ2bの私たち一人一人の悪い動機についても心配しています。

注意：はい、地球温暖化を例にとった方がいいです。私たち一人一人が日常生活の中でいくつかの現代的な便利さを使用していますが、その使用は大きな影響を与えませんよね？しかし、何十億もの人々が同じことを行っており、それは一緒に壊滅的な影響を及ぼし、今や地球温暖化の問題は悪化する可能性があります。気候への影響のパラメータがあります。これは、温室効果ガスが一定量排出されたときにどれだけ温暖化が進むかを示しています。現時点で排出されている温室効果ガスの量が2100年までに、わずか3〜4.5度の温度上昇ではなく、15度または20度の上昇に直面するとします。つまり、非常に悪い立場にいる可能性があります。再生可能エネルギー源を作成することが非常に困難であるか、地球に多くの化石燃料があると仮定します

CA：もし私たちが今日進めている生き方が最終的に10度の目に見える違いにつながるとしたら、人々はすでに騒ぎ立てていて、それについて何かしているでしょう。私たちは愚かかもしれませんが、その愚かではありません。しかし、誰が知っています。

注意：私はそうは思いません。

他のプロパティも検討してください。現在、再生可能エネルギーなどへの切り替えは難しいですが、可能です。わずかに異なる物理特性を使用している可能性があり、これははるかに高価になります。

CA：あなたの意見は？私たちの惑星、すべての技術的能力を備えた人類は、脆弱な立場にありますか？私たちの将来に死の玉はありますか？

注意：言いにくい。この骨壷にはさまざまな黒い球が含まれていると思います。しかし、黒のボールとの戦いで私たちを助ける金のものもあります。しかし、私はそれらがどのような順番で現れるかわかりません。

CA：あなたの考えは、次のボールの色に関係なく、未来はあらかじめ決められており、不可避であるという哲学的考えとは少し矛盾しています。そのような未来はある程度信じたくありません。未来は前もって決まっておらず、今日の決断は引き出すボールの色に影響を与えると信じたい。

注意：発明を続ければ、最終的にはすべてのボールを引き出すことができると思います。技術的な決定論にはいくつかの弱い形式がありますが、これには正当な理由があります。つまり、シリコン軸とジェット機を使用するコミュニティを見つけることはほとんどありません。テクノロジーは、機能のパッケージと考えることができます。テクノロジーは、私たちが世界でさまざまなことを行い、さまざまな結果を達成することを可能にします。それらの使い方は私たちの選択にのみ依存します。しかし、これらの3つのタイプの脆弱性について考えると、それらはそれらを破壊するという考えを打ち砕く可能性があります。最初のタイプの脆弱性は巨大な破壊力であり、数百万の人口の中で破壊にそれを使用したいという人々がかなり弱いという仮定を思い出させてください。

CA：私が最も心配しているのは、この時点で、私たちが運命にあることを理解するのに十分なほどこの時点で私たちがこの壺に没頭しているという考えです。つまり、あなたが力の増加、技術の開発、私たちをより強くする技術の創造を信じているなら、ある時点で一人で私たち全員を破壊できるという結論に達します。そして、その場合、我々はすべて終わった。気になりませんか？

NB：ああ、そうです、そう

思います...はい、私たちは強くなり、この力を使いやすくなっていますが、KAの人々によるこの力の使用を制御できるようにするテクノロジーを発明することもできます

：これについて議論しましょう。応答について話しましょう。今日のすべての可能性を考えると、それはシンバイオテクノロジーだけでなく、サイバー戦争や人工知能などのことでもあるとしましょう。 -おそらく、将来的には、深刻な問題に直面するでしょう。どんな反応でしょうか？また、これらの応答には4つのタイプがあります。NB

開発の制限

：全体として技術進歩の停止を意味するのであれば、技術進歩の進展における制限は希望を刺激するものではありません。私たちには、これを行う意欲も能力もないと思います。あるいは、技術進歩を鈍化させたいと思う地域に限って、核兵器の製造を促進する生物兵器や同位体分離の急速な開発は望まないでしょう。

CA：私はあなたに完全に同意しますが、これに焦点を当てたいと思います。最初に、過去20年間の歴史を見ると、私たちは全速力で進んでいるので、これは私たちの選択に過ぎないのは良いことですが、グローバリゼーションを見るとそしてその急速な成長、「より速く移動し、障壁を打ち破る」という戦略とそれがどうなったか、そして合成生物学の可能性を最大限に引き出します。制限なく、高速ですべての家庭と高校の実験室にDNAプリンターが設置される世界に移行する必要があるかどうかはわかりませんが、いくつかの制限があるはずです。

注意：最初の部分はおそらく最も適切な部分ではありません。とにかく人々がそれを止めたいのなら、実装の問題があるでしょう。実際、1つの国の人口がいる場合、何も起こりません...

KA：一人だけが行動しているのではなく、すでに国際協定を以前に締結しました。このおかげで、会議や長期にわたる複雑な交渉を通じて、核の脅威をなくすことができました。私たちが重要な問題についてここに出てこないで、合成バイオ研究に関する厳密なルールについて議論しようとするのは、もっと論理的ではないでしょうか。それを民主化したいのではないですか？

注意：全くもって同じ意見です。たとえば、DNAシンセサイザーは、すべての実験室に設置されるデバイスではなく、おそらくはサービスにしたいと考えています。電子DNAサンプルを送信して結果を得ることができる場所は、世界で4つまたは5つしかないとしましょう。そして、必要に応じて、有限の脆弱性セットを取得する機会があります。厳しく管理できる特別な状況について知りたいと思います。

CA：基本的に、あなたの意見は、私たちが進歩を遅くするだけではうまくいかないということです。誰か、どこかで、北朝鮮で、もしあれば、骨壷から黒いボールを正確に取得したい人がいるとしましょう。

注意：現在の環境では可能性があります。そして、それは合成生物学についてではありません。世界での新たな大きな変化はすべて、黒玉になる可能性があります。

CA：別の開発オプションがあります。

危険な人々の排除

NB：しかし、確率はかなり小さいです。最初の種類の脆弱性について。世界を破壊することに関心のある人々の数を減らすことができれば、彼らが武器や資金にアクセスできれば、それは素晴らしいことです。

CA：あなたはこのスライドを求めました。顔認識ドローンが世界中を飛び回っています。そして、彼らが反社会的行動の兆候を持つ人々を見つけたとき、彼らは、いわば「修正」して愛で彼らにシャワーを浴びます。

注意：それはそれほど単純ではありません。清算とは、たとえば、投獄または破壊、あるいは彼らの人生観をより正確なものに変えることも意味します。ポイントは、例えば、あなたはその仕事に対処し、危険な人々の数を半分に減らしたということです。説得によって清算を行うと、人々に影響を与える他の強力な要因、つまりパーティー、宗教、教育に遭遇します。危険な人の数が半分になれば。リスクは50％ではなく、5または10％だけ減少するように思えます。

CA：私たちが2番目のオプションで人類の未来を危険にさらしていないと思いますか？

注意：人々を説得しようとすることには何の問題もないと思いますが、この方法だけでは安全性を提供できません。

CA：そして3番目のオプションは？

注意：考えられるすべての脆弱性に対して世界を強化する方法は2つあります。ただし、両方が必要になる場合があります。 1つ目は、非常に効果的な警察の法執行機関、

完全監視

、遮断機能です。誰かが犯罪を犯したい場合、それを阻止して阻止することが可能です。この場合、広範な監督が必要となり、私たち一人一人が監督されます。

CA： Minority Reportのようです。

注意：人工知能アルゴリズム、巨大な自由の中心などは、観察に役立ちます。

CA：「トータルサーベイランス」という言葉が今あまり人気がないことを知っていますか？

注意：それは、常に着用する必要があるいわゆるチョーカーに組み込まれた多方向カメラを備えた小さなデバイスになります。負担にならないように、「自由の象徴」のようなものにしましょう。

CA： OKフレンズ、それが私たちの会話がとてもエキサイティングな理由です。

注意：あなたは実際にそれについて長い間話すことができます、それは明白です。リスクと課題について話し合いましたよね？これに戻ることができます。そして4番目に、

グローバルガバナンス

安定化のための最後の機会は政府のギャップを埋めることです。コントロールはマイクロレベルのガバナンスの欠陥になり、誰かが違法なことをするのを防ぎます。もちろん、同じ問題がマクロレベル、グローバルレベルで見られます。間違いなく、タイプ2aの脆弱性に対処するには、グローバルな調整の混乱を防ぎ、大国間の戦争、軍拡競争、災害に関する一般的な問題を回避する能力が必要です。

CA：「グローバルガバナンス」という用語は明らかに流行しているわけではありませんが、人類の歴史の中で、開発の新しい各段階で技術力が高まると主張できます。人々はこの力を変え、集中させました。たとえば、ローミング犯罪集団が社会をリードする可能性がある場合、答えはあなたが国民国家を持っていて、警察または軍隊を集中させていることであり、「あなたはそれを行うことができません」。おそらく、論理は、もし一人または人々のグループが人類を破壊することができるなら、いつか私たちは少なくともいくつかの側面でこの道に乗り出すということでしょうか？

注意：明らかに、人類の歴史の発展の過程で、政治機構の規模が拡大しました。最初に狩猟採集民のグループがあり、次に部族、都市国家、国の首長、そして今や国際機関などがあります。完全な監視の場合とグローバルガバナンスの場合の両方で、多数の否定的な側面とリスクを強調できることを確認したいだけです。私たちが運が良ければ、世界は上記のすべてが黒いボールからの救いになるだけであることが判明する可能性があることに注意したいだけです。

CA：私が理解しているように、この理論の論理は、すべてがすぐには起こらないことを理解しなければならないということです。私たちの多くがテクノロジーを常に永久に使用することを持っているのは、一種の素朴な夢です。続けて、止まらないで、できれば急いで、起こり得ない結果については考えないでください。有りうる。もしそうなら、私たちは他の付随的な状況を受け入れ、軍拡競争の一部になる必要があります。あなたが力を持ちたいなら、それを制限するか、それを制限する方法を理解するのが最善です。

注意：これは非常に良いオプションだと思います。ある意味で最も簡単なオプションでも機能します。しかし、これは、黒いボールの外観に対して非常に脆弱であることを意味します。少し調整を加えることで、マクロおよびミクロ管理のレベルですべての問題を解決すると、ゴミ箱からすべてのボールを取り出して、多くのメリットを得ることができると思います。

CA：シミュレーションに住んでいると、どのような違いがありますか？再起動しています。

注意：来たとは思いません。

CA：どう思いますか？すべてをまとめると、私たちが運命づけられる可能性は何ですか？

（この質問がされたとき、私は人々の笑いが大好きです。）

NB：個人レベルでは、とにかく結局、時が経つにつれ、年を取り、衰退し、そのようなものですよね？

実際はもう少し複雑です。私たちが終了する可能性をまず計算したいのであれば、まず、「私たち」は誰ですか？あなたが何歳でも、あなたは自然死するかもしれません。若い場合は、100年も持つことができます。確率は個人です。次に、文明の破壊の概念を制限するためのしきい値。私の本では、実存的大災害は文明の破壊であるとは考えていません。それはすべて定義の問題です。世界のGDPで10億人の死亡または50％の削減があるとしましょう。しかし、しきい値をどのように定義するかによって、確率の度合いが異なります。あなたは私を恐ろしい楽観主義者と呼ぶでしょう。

CA：あなたは恐ろしい楽観主義者です、そしてあなたは今までにかなりの数のあなた自身の脅迫された...人を作り出したと思います。

注意：シミュレーションでの生活。

CA：丁度。Nick Bostromさん、あなたのアイデアは素晴らしいです。私たちを怖がらせてくれてありがとう。

Olia Francia

さんによる翻訳Natalia Ostさんによるレビュー

SkillFactoryの有料オンラインコースを受講して、スキルと給与の注目の職業をゼロから取得する方法の詳細をご覧ください。

ニック・ボストロム：文明を破壊する方法

続きを読む

More articles: