正解: BCorrect: B
根本原因は個人ではなく、自動化された判断への過度な依存という人間の認知傾向です。注意喚起ではなく、人の判断を先に置く、抜き打ちで誤りを混ぜて検出率を測るといったプロセス設計で対処します。The root cause is not an individual but the human tendency to over-rely on automated judgment. Address it through process design, such as human-first judgment and seeded errors to measure detection, rather than exhortations to be careful.
この事例は「自動化バイアス」の典型です。航空や医療の分野で研究されてきたこの現象は、自動化システムが概ね正確であるほど、人は監視をゆるめ、システムの誤りを見逃しやすくなるという逆説を示しています。導入当初の入念な確認が半年で形骸化したのは、AIの結果が「ほとんど正しい」経験を積むことで、確認が儀式化したためであり、個人の資質の問題ではありません。したがって選択肢Aのように個人を処分しても、次の担当者が同じ経路をたどります。選択肢Cのように精度を上げると、むしろ依存が強まり、稀な誤りをさらに見逃しやすくなる可能性があります。選択肢Dは、生産性の利益を放棄したうえ、人手のレビューにも見落としがあるという事実を無視しています。有効なのは、人の判断が形式ではなく実質になるようにプロセスを設計することです。AIの結果を見る前に人が判断する「ブラインド先行レビュー」、高リスク領域の人による必須確認、既知の誤りを含む検証用データを定期的に混ぜて検出率を測定する仕組みは、いずれも人の注意を構造的に維持する方法です。This case is a textbook instance of automation bias, studied extensively in aviation and medicine: the more reliable an automated system is, the more people relax their oversight and the more likely they are to miss its errors. The careful checking at launch became hollow within six months because repeated experience of the AI being mostly right turned verification into ritual; this is not a matter of individual character. Disciplining the lawyer (option A) leaves the next reviewer on the same path. Improving accuracy (option C) may deepen reliance and make rare errors even harder to catch. Option D forfeits productivity gains and ignores that fully manual review also misses things. What works is designing processes so that human judgment is substantive rather than formal: blind first-pass review before the AI's findings are revealed, mandatory human review of high-risk clauses, and periodic seeding of test documents with known errors to measure detection rates. Each structurally sustains attention.
ブラインド先行レビューや二重確認は、AI導入で得た時間短縮の効果を一部打ち消します。検証用データを混ぜる仕組みは、スタッフから「試されている」と不信感を持たれる可能性があります。また、責任の所在が「AIか人か」で曖昧になり、専門職の倫理や賠償責任の観点で未整理の問題も残ります。Blind first-pass review and double checks give back some of the time savings from AI. Seeding test documents can make staff feel they are being tested and breed distrust. Responsibility also becomes blurred between the AI and the human, leaving professional-ethics and liability questions unresolved.
全件ではなく、リスクに応じた層別（高リスク条項は人が先行、低リスクはAI先行＋抜き取り確認）で時間コストを抑えます。検証用データの仕組みは、目的（個人の評価ではなくプロセスの健全性の測定）を透明に説明し、結果はチーム単位で共有します。責任については、「AIは補助であり最終判断と責任は担当弁護士にある」ことを業務規程に明記し、その前提でプロセスを設計します。Stratify by risk rather than applying full controls to every document: human-first for high-risk clauses, AI-first with sampling for low-risk ones. Explain the purpose of seeded tests transparently as measuring process health rather than evaluating individuals, and share results at team level. State in firm policy that the AI is an aid and that final judgment and responsibility rest with the assigned lawyer, and design the process on that premise.