正解: BCorrect: B
人に重大な影響を与える決定では、AIは判断材料であって判断主体ではありません。根拠と偏りを確認し、文脈と法的要件を踏まえ、人間が責任をもって決めることが求められます。In decisions with serious consequences for a person, AI is an input, not the decision maker. Examine the basis and possible bias, weigh context and legal requirements, and decide with human accountability.
採用・評価・解雇におけるAI利用は、EU AI法で「高リスク」に分類され、人間による監督、透明性、記録が求められます。ドイツでは事業所委員会（Betriebsrat）の共同決定権もあり、人事アルゴリズムの導入には手続き的な要件が伴います。歴史的な教訓として、Amazon が2018年に取りやめた採用AIが、過去の採用データに含まれる男性優位のパターンを学習して女性候補者を不利に扱ったことは広く知られています。「過去データで精度が高い」ことは、過去の偏りを正確に再現していることと区別がつきません。選択肢Aは自動化バイアスそのもので、Cは有用な情報を捨てており、Dは責任の外部化であり法的にも成立しません。Cathy O'Neil の『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』が論じたように、不透明で影響が大きく、フィードバックで修正されないモデルは害を拡大します。楽観シナリオ（説明可能で監査されたAI）でも悲観シナリオ（不透明なAIの広範な利用）でも、管理者が「根拠を問い、文脈を加え、責任を持つ」という行動は変わらず求められます。AI use in hiring, evaluation, and dismissal is classified as high risk under the EU AI Act, which requires human oversight, transparency, and record keeping. In Germany, works councils (Betriebsrat) hold co-determination rights, so introducing HR algorithms carries procedural requirements. A well-known lesson is the hiring AI Amazon abandoned in 2018, which had learned male-dominated patterns from past hiring data and disadvantaged female candidates. High accuracy on historical data is indistinguishable from faithfully reproducing historical bias. Choice A is automation bias itself, C discards useful information, and D externalizes responsibility in a way that does not hold legally. As Cathy O'Neil argued in Weapons of Math Destruction, models that are opaque, high impact, and not corrected by feedback amplify harm. In an optimistic scenario with explainable, audited AI, and in a pessimistic one with widespread opaque AI, the manager's duty to question the basis, add context, and own the decision remains the same.
「人間が最終判断する」という原則は、時間的・組織的な圧力の下で形骸化しやすいです。多数の判断を短期間に求められる管理者は、AIの推奨を覆す労力と説明責任を負うより、受け入れる方が楽だと感じます。また、AIの推奨を覆した結果が悪かった場合、個人が過度に責められる非対称性も存在します。The principle that a human makes the final decision easily becomes hollow under time and organizational pressure. Managers asked to make many decisions quickly find accepting the AI easier than bearing the effort and accountability of overriding it. There is also an asymmetry in which a manager who overrides the AI and gets a bad outcome is blamed disproportionately.
組織は、AIの推奨を覆した判断も従った判断も同じ基準で評価し、「覆した理由」を記録・共有する文化を作りましょう。判断に必要な時間を制度的に確保し、重要な人事判断は複数人による審査を標準にすることが有効です。個人としては、判断の根拠を文書化する習慣を持つことで、自分自身を守りつつ、組織の学習にも貢献できます。Organizations should evaluate decisions that override the AI and those that follow it by the same standard and build a culture of recording and sharing reasons for overrides. Institutionally protect the time needed for judgment and make multi-person review the standard for important HR decisions. Individually, the habit of documenting the basis for your decisions protects you and contributes to organizational learning.