人間と相互作用するAIシステムにおける 明示的停止条件の必要性 ―― 未定義な設計前提に関するポジションペーパー ――
Abstract
暫定は、人間の意思決定と相互作用するAIシステムにおいて、「停止条件」が段階で理解的に設計されていないという前提欠落を問題として扱うポジションペーパーである。今後、AIは諮問生成や判断支援など、人間の認知過程に直接関与する形で広く利用されているが、「いつ、どのように関与を終了すべきか」という条件は、倫理判断や運用上の裁量に定められ、設計仕様として十分に確立されたものである。 コースは、AIが構造的に自律的に停止できないことを前提に、停止条件は倫理的考慮やガイドラインではなく、運用前に確定されるべき設計要件であることを示す。 本論文は、具体的な停止条件の設計方法、実装手法、評価実験を示唆するものではない。 目的は、今後の構造解析、実装論、応用研究を拘束する前提条件として、「常識的な停止条件の必要性」を学術的に固定することにある。
Fields of Study & Subjects
Ethics and Social Impacts of AI
Explainable Artificial Intelligence (XAI)
Safety Systems Engineering in Autonomy
Publication details
- Journal / source
- Zenodo (CERN European Organization for Nuclear Research)
- Publication date
- 6 February 2026
- Document type
- Preprint