内容紹介：現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたＡＩが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？　ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！
どこの企業や国家によってであれ、ヒトの知能を凌駕する「超知能ＡＩ」がつくられたら、地球上のすべての人間が必ず死ぬ。ＬＬＭ（大規模言語モデル）がより高度な「大規模推論モデル」へと進化しつつあるいま、その時は確実に近づいている―。本書が提示するシナリオでは、数学の未解決問題を解くために開発されたＡＩ「セイブル」がウイルスをばら撒き、全人類の１０％を死滅させる。そして残りの９０％も一瞬で…。一体なぜ？最悪の結末を回避するために、私たちにできることとは？ＡＩ技術を核兵器などと同様の「人類絶滅リスク」として取り扱うべきという議論が近年なされるが、著者のエリーザー・ユドコウスキーはその源流にして極北に位置する。ピーター・ティールが多額を出資し、またサム・アルトマンにＯｐｅｎＡＩ創業の示唆を与えるも、いまや彼らと反目にいたった天才が圧倒的な練度で放つ、現代の黙示録。
もくじ情報：序章　困難な予測と容易な予測；第１部　非人間的な知性（人間の特殊能力；つくられるのではなく育てられる；欲することを学ぶ；訓練したとおりの結果は得られない；ＡＩのお気に入り；人類は敗北する）；第２部　ある絶滅シナリオ（危険な認識；拡張；登頂；結末）；第３部　困難に立ち向かう（呪われた問題；科学ではなく錬金術；「不安を煽りたくはない」；停止せよ；生きている限り希望はある）

ユドコウスキー，エリーザー(ユドコウスキー，エリーザー)
１９７９年生まれ。機械知能研究所（ＭＩＲＩ）の創設者。人工知能を人間の意図や価値観に整合させる「ＡＩアライメント」研究の草分け的存在であり、「フレンドリーＡＩ」概念の提唱などで知られる。高校や大学に通わず独力で学び、２０００年、ＭＩＲＩの前身となる「ＡＩのためのシンギュラリティ研究所」を創設（２０１３年に改称）。当初は人間の知能を超えるＡＩの実現を目指すが、まもなくそのリスクの重大さを認識するようになる。２００６年から２０１２年にかけてピーター・ティール、レイ・カーツワイルとともに「シンギュラリティサミット」を主催。人間の合理性やＡＩの安全性を主要なトピックとするオンラインフォーラムＬｅｓｓ　Ｗｒｏｎｇを２００９年に設立。２０１０年から２０１５年にかけて発表した「ハリー・ポッターと合理主義の方法」は異色のファン・フィクションとして絶大な人気を誇る。２０２３年、タイム誌「ＡＩ分野で最も影響力のある１００人」に選出