人工知能2020 - 進歩はあるのか？ - ページ 45

新しいコメント
 
Реter Konow:
発明家は、消費者集団の俗物的な愚かさを恐れるべきであり、それはAIの本質、可能性、限界を認識し、理解し、十分に認識することを許さず、妄想、恐怖、間違った結論を生み出す（すでに生み出している）だろう。その一方で、ある国が知的で発展性のある（少なくとも理論的には）システム技術という形で軍事的に優位に立っているというニュースは、すべての国の政治関係を不安定にするだろう。人口や政府のパラノイアが生じ、大きくなっていくだろう。AIの発明者は一気に「上限」を決められ、自由が利かなくなる。世界を旅することも、警備や監視なしに休暇を過ごすことも、普通の生活を送ることもできなくなるのです。

ソ連時代、多くの技術者が禁止され、主要な宇宙・軍事開発者の名前が機密扱いされたのは、決して無駄なことではありません。彼らは世間の注目を浴び、地球上のあらゆる悪の加害者として扱われることになるだろう。

追伸：無知な人たちはすでに5Gの塔を燃やしていますが、AIが発明されたとき、彼らの頭の中はどうなっているのでしょう？

一見すると、このシナリオは馬鹿げた興奮と恐怖の産物のように見えますが、もし私たちがAIの発明者になったらどうなるかを想像してみましょう。私たちの行動と、それが私たちや周りの人たちにもたらす結果を分解して考えてみましょう。

1.私たちは、「賢い」自己開発型コンピュータシステムの技術を思いつき、興奮し、会社を設立することにしました。

2.私たちは会社を公開し、この創造がどのように機能するかを実演しました。その場にいた全員が「すごい」と思った（iPhoneの最初の発表会のときと同じだが、数倍は強烈だった）。

3.このニュースは瞬時に海外のメディアに流れ、私たちはたちまちスターとなり、トークショーに招かれ、インタビューを受け、質問や賛辞を浴びせられます。

4.4.私たちの技術や会社を買いたい、あるいは高額な報酬で雇いたいという人たちが現れる。私たちの幸せには限りがありません。

5.様々な政府から注目される。彼らは、私たちの技術が軍事的にも経済的にも莫大な重要性を持ち、それを引き継ぐ必要があることに気づいているのです。最も手っ取り早いのは、発明者が住んでいる州の場合です。彼らの政府は、会社を外国の代表者に売ることは許されないし、発明は直ちに機密扱いにしなければならないことを知っている。しかし、すでにスクープは打たれており、そのニュースは世間に漏れている。

6.国軍と政界の代表がこの問題でコンセンサスを得て、会社に接触することを決めたが、最も重要なことは、新しいAIに関する情報の拡散を止め、発明者（私たち）の公表を阻止するためにあらゆる手段を講じることである。彼らは、発明者が他国やその諜報機関の興味の対象になっていることに気づき、超重要な技術を手に入れるために行動を起こそうとするのである。

7.自国や他国からの軍事的・政治的な厳しい視線にさらされる縮小リングに巻き込まれ、「アンダー・レーダー」と呼ばれる新しい厳しいルールが課せられる。そこには、バラ色の栄光や海のビーチでのリラックスした生活はなく、あらゆる方面から常に一挙一動を監視され、外国のスパイから命の危険を脅かされる。パラノイアが彼らの中に炸裂し、のんびりとした生活と曇りのない未来への楽観的な望みを打ち砕く。もう心配はない。彼らは、自分たちが置かれている状況を理解し始める。

8.AI技術を保有する国は（特に超大国でない場合）、経済的・情報的な外圧を巨大に受けることになる。そのAIによる侵略、攻撃、サーバーや銀行、宇宙ステーションへの攻撃などを非難され、挑発が降ってくるでしょう。ある特定の国の技術的優位性を抑止し、最小限に抑えるためのあらゆる面でのハイブリッド戦争は、AI開発者への注目度を高めるだろう。ソフト」な圧力が効かない場合は、軍事侵攻、クーデター、社会的不安定化の口実と機会をうかがうことになる。世界規模で破壊工作やテロを計画することもある。

9.やがて一国が世界に逆らえなくなり、他の大国に技術を移転することになる。新たな技術革新と自動化への動きが始まる。何百万人もの人々が仕事や職業を失い、好きな仕事で充実した生活を送るという夢を失うことになるのです。大衆の不安は募り、AIへの憎しみが共鳴する。AIに何ができて、何ができないのか、誰も知らないまま、誰もが貧困や不幸の責任はAIにあると考えるようになる。群衆はAIの能力について常識や十分な理解を持つことはないだろう。一方で、まさにその全能感を信じることによって、大衆は人工知能の発明者にあらゆる悪事の責任を負わせることになる--彼らは人類の敵として「描かれる」ことになるのである。


そんな陰鬱なイメージです。だから「レプラの対象」と言ったのです（「呪われた」と言えばもっといいのですが）。

 
Реter Konow:

それが、出てきた厳然たる姿です。

スマートエルサ症候群の好例)

 
Aleksey Nikolayev:

賢いエルザ症候群の好例)

少なくともその件に関するコメントはありがとうございました）。

 
Реter Konow:

そんな厳然たる姿が浮かび上がってきた。だから「レパーのテーマ」と言ったんです。

暗号も、誰も解かなければ、フードが確保される)

 
Valeriy Yastremskiy:

暗号も、誰も解けなければ、キャップは確保される)

困ったことに、AIそのものは自己学習や能力に限界があっても、人々はその説明を理解せず、全知全能の無敵のデジタルモンスターという イメージを頭に描いてしまうのです。無知な群衆の心を変えることは、誰にもできないだろう。

 
Реter Konow:

困ったことに、AI自体の自己学習や能力には限界があるかもしれないが、人々はその説明を理解できず、全知全能の無敵のデジタルモンスターという イメージが頭に浮かんでしまうのである。無知な群衆の心を変えることは、誰にもできないだろう。

ハクスリーやオーウェルが休んでいる)))
 
Реter Konow:

困ったことに、AI自体の自己学習や能力には限界があるかもしれないが、人々はその説明を理解できず、全知全能の無敵のデジタルモンスターという イメージが頭に浮かんでしまうのである。無知な群衆の心を変えることは、誰にもできないだろう。

シュンペーター・ヨーゼフが救いの手を差し伸べる。彼はそこで、国家の自己組織化について何か書いている。
 
Valeriy Yastremskiy:
シュンペーターのヨーゼフに救われる。彼はそこで、国家の自己組織化について何か書いていた。
AIのパラドックスは、純粋に市場性のある製品として、消費者領域に機能を限定して提示することができないことです。その用途の多様性から、商業的に利益を生むガジェットから、学習することで勝手に潜在能力が高まる不確定な戦略兵器へと変貌を遂げます。ユーザーマニュアルがあれば、侵入者が制約条件をハッキングしてロボットに犯罪行為をさせるという悪質な行為を抑止できるわけではないので、単純に人工知能を世に出して人間の善意に期待するのは無理な話なのです。一方で、AIを分類して流通させないということは不可能で、遅かれ早かれ軍事的な範囲を離れて私たちの間に入り込むことになるでしょう。いや、意地になって自由を求めるのではなく、単に誰かがその技術を盗んで企業に売るからだ。

次の目的地は、オートメーションの頂点です。それは天国でも地獄でもなく、単に文明が前進するために自らを実現した状態である。イミフ。

ところで、市場の法則に従って、自動化の頂点は私たちを待っています。技術は依然として経済成長の 主要な推進力であり、このニッチから残りの可能性をすべて引き出すまで（市場は）止まることはないでしょう。
 
しかし、技術発展の段階を経て、人々の雇用は指数関数的に 減少し、これもまた不可逆的である。
 
Реter Konow:
しかし、技術発展の段階を経て、人々の雇用は指数関数的に減少し、これもまた不可逆的である。
国家はあくまで国家であって、破滅ではない。世界は急速に変化していますが、飢えた人々は少なくなっています。不幸は少なくないが、社会発展のパラドックスである)
1...383940414243444546474849505152...74
新しいコメント
理由: