内容紹介：生成AIの進展は社会や産業に大きな変革をもたらす一方、生成AIが生み出す有害なコンテンツや意図しない挙動といったリスクに関する課題が浮き彫りになっています。本書は、エンジニア、研究者を対象に、生成AIにおけるリスクとその対処法を体系的にまとめます。1章ではAI安全性を定義し、近年の動向を概説します。2章では現実に直面する脅威を分類・整理します。3章でOpenAIが公開しているモデルスペックを題材にAIの理想的な振る舞いについて考えます。第4章で安全性に関する評価方法について紹介したあと、5章ではレッドチーミングについて解説します。6章と7章でモデルレベル、システムレベル双方からの安全性向上技術を解説し、最終章でAI安全性の未来について考察します。安全な生成AIの開発と運用に必要となる知識を1冊にまとめます。
安全なＡＩを実現するための終わりなき挑戦。ＡＩリスク　ＡＩガバナンス　責任あるＡＩ　モデルスペック　憲法ＡＩ　安全性チューニング　安全性評価ベンチマーク　レッドチーミング　ＡＩセキュリティ　ガードレール　ジェイルブレイク　過剰安全性。
もくじ情報：第１章　ＡＩ安全性の基礎；第２章　ＡＩリスクの分類；第３章　ＡＩの理想的な振る舞い；第４章　安全性評価技術：ベンチマーク；第５章　安全性評価技術：レッドチーミング；第６章　安全性向上技術：モデルレベル；第７章　安全性向上技術：システムレベル；第８章　ＡＩ安全性の未来

綿岡　晃輝(ワタオカ　コウキ)
２０２１年、神戸大学大学院システム情報学研究科博士前期課程修了。同年、ＬＩＮＥ株式会社（現・ＬＩＮＥヤフー株式会社）に入社し、Ｔｒｕｓｔｗｏｒｔｈｙ　ＡＩチームに配属。ＬＬＭ（大規模言語モデル）の信頼性および安全性に関する研究開発に従事。２０２４年よりＳＢ　Ｉｎｔｕｉｔｉｏｎｓ株式会社に入社し、Ｒｅｓｐｏｎｓｉｂｌｅ　ＡＩチームのリーダーとして、大規模言語モデルやＶＬＭ（視覚言語モデル）における安全性向上に関する研究開発に携わっている。総務省ＡＩセキュリティ分科会構成員（本データはこの書籍が刊行された当時に掲載されていたものです）