人とAIが協調するHuman-in-the-Loopへ

AIはすでに、人が日常的に使う道具として社会に組み込まれ始めています。
今後は、AI単体の自動化ではなく、人とAIが協調する Human-in-the-Loop（HITL） の形で、あらゆる分野に浸透していくと考えられます。  

Human-in-the-Loopとは何か

AIは高度化していますが、依然として不完全な存在です。
例えば、漢字変換や生成AIの出力には、意図しない候補や誤りが含まれることがあります。このとき重要なのは、「最終判断は人間が担う」という構造です。
Human-in-the-Loopとは、AIの処理プロセスに人間が介在し、判断・修正・方向付けを行う仕組みを指します。

生成AIの普及により、この関係はさらに重要性を増しています。AIは強力な支援を提供しますが、目的の設定・最適化の方向・結果の妥当性評価は人間の役割として残るためです。

信頼と人工知能 日本語抄訳

HITLの基本原則

Human-in-the-Loopは、人間とAIの知能を組み合わせることで、以下を実現します。

  • 機械学習モデルの精度を高める
  • 機械学習モデルの目標精度をより早く達成する
  • 人間と機械の知能を組み合わせて精度を最大化する
  • 機械学習を利用し人間のタスクを支援し、効率を高める

Human-in-the-Loop Machine Learning: Active learning and annotation for human-centered AI
Robert (Munro) Monarch (著)

https://www.manning.com/books/human-in-the-loop-machine-learning

本質的には、「AIによる自動化」ではなく「知の拡張」です。

AI単独では扱いきれない曖昧性や文脈を、人間の判断で補完することで、より現実的で信頼性の高いシステムが成立します。

なぜHuman-in-the-Loopが不可欠なのか

生成AIは飛躍的に進化していますが、その意思決定は必ずしも人間の理解可能な形ではありません。そのため、誤った推論（hallucination）、文脈誤解、倫理的判断の欠如といった問題が常に存在します。

実際、AIの意思決定には人間の監督が不可欠であり、完全自律ではなく「人間との協調」が前提となる設計が求められています。

Human–in–the–Loop ベースの推論フレームワーク 人為的な障害の原因を特定するための体系的なアプローチ、システム設計者がシステムを構築する前に問題領域を特定し、プロアクティブに欠陥に対処することを支援する。

ここでは、Human-in-the-Loop に関する既存の研究をデータの観点から調査し、(1)データ処理からモデル性能を向上させる作業、(2)介入的なモデル学習によりモデル性能を向上させる作業、(3)Human-in-the-Loopに依存しないシステムの設計、の3つに分類される。
これらには、技術的な長所／短所とともに、自然言語処理、コンピュータ画像、さらに未解決の課題も考察し、効果的なHuman-in-the-Loopソリューションを設計するための主要なアプローチを整理する。

A Survey of Human-in-the-loop for Machine Learning arXiv:2108.00941 [cs.LG]
Open AI – ChatGPT に脆弱性診断をやらせてみた。
Microsoft – Bingに脆弱性診断をやらせてみた。
Google – Bardに脆弱性診断をやらせてみた。

AIアバターが、コンサルや弁護士やコメンテーターやアナウンサーを行う時代へ

そして、The Virtual Life によって、好きな人のAIクローンと暮らせる時代がやってくる。

人が残された領域は、AIアバターと既存の仕組みを組み合わせ、社会に貢献する事だと思います。

  • プログラミング支援
    AIがコードを生成し、人間がレビュー・修正することで、生産性が飛躍的に向上します。
  • セキュリティ分析
    異常検知において、AIが候補を提示し、人間が意味的判断を行うことで、誤検知を抑制します。
  • ナレッジ生成
    AIが情報を整理・生成し、人間が構造化・解釈することで、知的生産を加速させます。

AIエージェント時代における変化

今後は、AIが単なるツールではなく、コンサルタント、アナリスト、エージェントとして振る舞うようになります。しかし重要なのは、AIが役割を拡張しても「責任主体は人間である」構造は変わらないという点です。

GPTs で ISO Guardian を作成してみた
GPTs で Zero-Trust Security Consultant を作成してみた

人とAIが協調する社会に向けたサービスデザイン

AI-by-Designのアプローチから、ChatGPTによる人とAIのコミュニケーションが進化して、独立した人格を持たせ学習することで Human-in-the-Loop で活用可能なものが増えつつあります。

いつの日か、AIによって キズナアイ も復活するかもしれません。

GPTs初号機 サイバーセキュリティ アナリスト

名前は皆様の道を照らす「レイ」と名づけました。 趣味は機械いじり、好きな食べ物はハンバーガーです。

GPTs零号機 ゼロトラストセキュリティコンサルタント

名前はご縁を大事にする「ゆかり」と名づけました。 趣味は読書、特に料理をすることが好きです。

GPTs弍号機 ISO Guardian

名前はサイバー脅威から「まもる」と名づけました。 趣味はガンプラ、好きな食べ物は九州ラーメンです。

投稿者: 二本松 哲也

考えるセキュリティ、伝えるインテリジェンス。 能動的サイバー防御 / Security & Privacy by Design ※個人の見解であり、所属組織とは無関係です。