いまこそ企業人がAI倫理を問うべき理由 　善き社会のために、AIに何を任せ、人に何を残すのか

生成AIの登場を受け、企業のAI活用は、既存業務の一部を効率化する段階から、AIの存在を前提に業務プロセスやサービスそのものを設計し直す段階へと広がりつつある。 人間から1つひとつ指示を受けて回答するだけでなく、与えられた目標に応じて複数の工程を進め、必要なツールを使いながらタスクを遂行するAIエージェントの登場は、この変化を象徴している。企業はここで、「この作業をAIで効率化できるか」からさらに踏み込み、「一連の仕事のうち、どこまでをAIに任せ、どこを人間に残すのか」という問いに直面することになる。

本稿では、AIを前提としたビジネスや業務の設計が求められる中で、AIに何を任せ、人に何を残すのか。『AI倫理』の共訳者・相吉健吾氏が、AI倫理、ひいては社会善の観点から考えるための足がかりを提示する。 ■「AIにできないこと」を人間の仕事にする限界 　AIと人間の役割分担を考えるとき、「AIにできることはAIに任せ、AIには難しいことを人間が担う」という整理はわかりやすい。大量のデータ処理や定型作業はAIに、創造性や複雑な判断を伴う仕事は人間に、という考え方である。AIができることとできないことの境界が比較的明確であれば、この考え方は合理的だった。

　しかし、その前提が崩れ始めている。文章や画像の生成、プログラミング、情報検索だけでなく、いわゆるクリエイティブな作業や「どのように作業を進めるべきか」という判断まで、AIが一定程度、自律的に行いながらタスクを遂行できるようになっている。 　AIの能力が高まるほど、これまで「人間にしかできない」と考えられてきた領域にもAIが入り、人間の仕事を「AIにできないことの残余」として定義することは難しくなる。

　AI時代の役割分担を考えるうえでは、「AIにできるか、人間にしかできないか」といった技術的な可能性だけではなく、AIにも人間にもできるようになったときに「どちらに任せるべきか」という価値判断が必要になる。 　私自身、企業のAI活用を支援するなかで、「AIに仕事を任せた結果、人間側のスキルが失われないか」「どこまで自動化してよいのか」という議論に接することがある。しかし、何をどこまで人間側に残すべきかについては、ガイドラインなどをもとに一定の方向性は見いだされつつあるものの、最終的にはケースバイケースで判断されているのが現状だ。

■「できるか」から「任せるべきか」への問いの転換 　例として、銀行の融資審査を考えてみよう。仮に、申請者が返済できる可能性を、人間の審査担当者とAIが同程度の精度で予測できるようになったとする。しかもAIであれば、大量の申請を高速かつ低コストで処理できる。 　ここまでなら、AIへの委譲は合理的に見える。しかし、「返済可能性を予測できること」と、「融資を認めるか否かという決定までAIに任せてよいこと」は同じではない。

　融資の判断は、個人の生活や事業の将来に影響する。判断に誤りがあった場合、誰が責任を持つのか。個々の予測が統計的に妥当だったとしても、学習データを通じて社会に存在する不公平を再生産していたとき、その不公平を誰が是正するのか。こうした問いは、予測精度を高めるだけでは答えられない。 　つまり、AI活用では、「技術的に実現できるか」と、「AIに委ねることが望ましいか」を分けて考える必要がある。AIの性能が高くなるほど、この区別はむしろ重要になる。

　では、企業は何を基準に「任せるべきか」を判断すればよいのか。最初に思い浮かぶのは、法律や政府・業界のガイドラインだろう。 　実際、AIをめぐるルール整備はこの数年で大きく進んだ。日本では総務省と経済産業省が「AI事業者ガイドライン」を策定し、2026年3月には第1.2版へ更新している。EUでもAI法が発効し、リスクに応じてAIシステムを規律する枠組みが段階的に適用されている。 　企業がこうした法令やガイドラインを理解し、遵守することやガイドラインを参照することは当然の前提である。しかし、それだけで十分とは限らない。新しい技術については、利用方法が広がり、その社会的影響が明らかになり、議論が積み重なった後に、具体的なルールが形成されることが少なくないからだ。

　位置情報は、その構造を考える1つの例になる。日本の個人情報保護法は2003年に成立し、2005年に全面施行された。しかしその後、GPS搭載携帯電話やスマートフォンの普及によって、位置情報が収集・蓄積・利用される場面は大きく広がった。 　現在の個人情報保護委員会のガイドラインでは、「ある個人の位置情報」が「個人関連情報」の例として明示される一方、位置情報が連続的に蓄積されるなどして特定の個人を識別できる場合には、「個人情報」に該当すると整理されている。さらに、2020年の法改正では「個人関連情報」という新たな情報類型が設けられ、一定の第三者提供に対する規律も追加された。

■法整備が追い付かないスピードで進化するAI 　このように、技術やその利用実態が変化するなかで、当初の法律だけでは具体的に想定されていなかった問題が顕在化し、それに応じて法制度やガイドラインによって境界が具体化されてきた。 　進化のスピードが著しく速いAIにおいては、この傾向は顕著に起こりうる。新しいAIの使い方が登場するたびに、法律が即座に「どこまでAIに任せてよいのか」を教えてくれるわけではない。ガイドラインも、あらゆる業務や組織について唯一の正解を与えてくれるものではない。

　だからこそ、法が明確な答えを示していない領域でも、自ら「何を許容し、何を許容しないのか」を判断しなければならない。その判断のよりどころとなるのが、倫理である。 　AI倫理というと、差別を避ける、個人情報を守る、事故を防ぐといった「AI利用のリスクを抑えるためのルール」と捉えられがちだ。もちろん、それは重要な役割である。 　しかし、AIと人間の双方が同じ仕事を担える領域が広がるほど、AI倫理が持つもう1つの役割が際立ってくる。それは、「どちらに任せるのが望ましいのか」という価値判断を、議論可能な形にすることである。

■「どこまで任せるか」を考えるためのAI倫理 　哲学者ルチアーノ・フロリディは、AI倫理をめぐるさまざまな議論を、「善行」「無害性」「自律性」「正義・公正」「説明可能性」という5つの原則に整理している。 　先ほどの融資審査なら、AI倫理の5原則から、以下のような問いに置き換えられる。 ・善行:AIの利用によって、誰にどのような利益をもたらしたいのか ・無害性:誤った判断などによって、人に危害が生じ得るか。生じるなら、どう抑えるか

・自律性:AIへの委譲によって、人間が意思決定を問い直す余地が失われないか ・正義・公正:特定の属性を持つ人々に不利益が偏らないか ・説明可能性:判断を受ける人が、その理由を理解し、異議を申し立てることができるか 　こうした倫理的な語彙を使えば、「重要な判断だから、なんとなく人間がやったほうがよい」といった感覚的な議論を、具体的な論点に分解できる。 　ただし、倫理原則をチェックリスト化し、すべて満たしているか確認すればよい、という単純な話ではない。AIへの委譲によって、これまで金融サービスを受けにくかった人にも融資の機会が広がるのであれば、善行という観点では望ましいかもしれない。

　一方で、判断を問い直す手段が失われれば、自律性や説明可能性の面では問題が生じる。これらが価値判断にかかわる問いである以上、価値同士が衝突することは珍しくない。 　AI倫理の役割は、こうした価値の衝突を明らかにし、そのトレードオフを議論できるようにすることにある。 　倫理原則で論点を整理しても、たとえば効率性と公平性が衝突したとき、どちらをどこまで重視するかは自動的には決まらない。AIに任せようとする仕事をどれだけ分解・分析したとしても、技術的な実行可能性やリスクは精査できるかもしれないが、価値判断そのものは決まらない。

■社会善から、AIと人間の役割を逆算する 　むしろ、最終的にどのような社会や企業の状態を実現したいのか、という問いから、AIと人間の役割分担を逆算する必要がある。 　順序としては、まず自社が実現したい価値を定め、次にそのために守るべきものをAI倫理の観点から検討し、そのうえで、どの判断をAIに任せ、どこに人間が関与するかを決める。 　ここでいう「目指す価値」を、自社の利益や効率だけで定めるのでは不十分である。AIシステムは、設定された目的や評価基準に沿った結果を出力、生成する。そこで自社の利益だけを目的に据えれば、審査に通りにくい層を効率よく排除することや、過去の格差をそのまま再生産することが、結果として合理的な選択になり得る。

　しかもAIを使えば、同種の判断が大量かつ高速に繰り返されるため、1件では小さな偏りでも、積み重なれば社会全体に及ぶ影響となる。 　だからこそ、目指す価値は「自社にとって何が得か」だけでなく、「人や社会、環境にとってどのような状態が望ましいか」という社会善まで視野に入れる必要がある。ここでいう社会善とは、人間の生活や自然環境のウェルビーイングを損なう問題を減らし、社会的に望ましく持続可能な発展につなげることである。

　これは利益追求を否定するものではない。社会から信頼されない形でAIを使えば、規制の強化や顧客・従業員の離反などを通じて、事業の持続可能性を損なうおそれがある。社会善を参照することは、長期的な企業価値を守る観点からも重要である。 　とはいえ、「善き社会とは何か」を個々の企業がゼロから考える必要はない。SDGs、DE＆I(ダイバーシティ、エクイティ＆インクルージョン)、自社の企業理念やサステナビリティ方針、行動規範など、すでに蓄積された価値基準を参照できる。

　AI4SG(社会善のためのAI)をめぐる議論でも、倫理原則を具体的な設計要件へ落とし込む枠組みが提示されている。また、SDGsのような既存の社会的目標は、「何を目指すのか」を考える参照枠になり得る。SDGsや企業理念は「何を目指すのか」の参照枠、AI倫理は「その方向へ進む際に何を検討すべきか」の枠組みだといえる。 　なお、留意してほしいのは、こうした価値基準も固定されたものではない、ということだ。

　採用にAIを使う企業が「公平性」を重視していれば、全員を同じ尺度で評価することが本当に公平なのか、過去の採用実績を望ましい状態として学習させてよいのか、機会の公平と結果の公平のどちらを重視するのかが問われる。 　AIに公平性を実装しようとすることで、企業自身が「自社にとって公平とは何か」を問い直すことになる。AIを前提とした経営には、既存の価値基準をAIに適用し、AIが突き付ける問いを通じて価値基準を見直すという往復が必要になる。

■残すべきなのは「人間にしかできないスキル」ではない 　AI時代の人材論では、「これから人間にしかできないスキルは何か」という問いが取り上げられる傾向があるように感じる。創造性、共感、批判的思考、リーダーシップなど、さまざまな候補が挙げられてきた。 　こうした能力を高めることには意味がある。しかし、AIが進化するたびに「AIにはまだできない領域」を探し続けるだけでは、人間の役割は技術の進歩によって受動的に決められてしまう。より重要なのは、「AIにもできるようになったとして、それでも人間が担い続けるべきことは何か」という問いである。

　たとえば、採用候補者を最終的に不採用とする判断、患者の治療方針を決めて本人に提示する判断、社員の将来を左右する評価、顧客に大きな金融リスクを伴う商品を薦める判断である。これらを人間が担い続けるべきか否かは議論が必要であるが、もし人間が担い続けるべきとしたならば、その理由は、人間のほうが常にAIより高精度だからではない。 　そこには、AI倫理原則に沿って見てきたような、「善いこと」の判断、説明責任、異議申し立ての機会、さらには「誰が決めたのか」という社会的な意味が伴う。

　一方で、人間が担ってきたという理由だけで、その仕事を残す必要もない。単純作業や大量データの分析に限らず、人間が判断することで、かえって偏見や恣意性が入りやすい場合もある。 　我々がすべきことは、人間を無条件に優先することではなく、人間とAIそれぞれの強みと弱みを踏まえ、社会にとって望ましい結果につながるよう役割を設計することである。 　したがって企業が考えるべきなのは、「AI導入によって何人分の仕事を削減できるか」だけではない。「どの判断を自動化し、どの判断権を人間に残せば、自社が目指す価値を実現できるか」である。

■AI時代におけるガバナンスの中核 　その設計には、経営が示す価値観、人事や事業部門の業務知識、法務・リスク部門の視点、技術者の設計判断をつなぐ必要がある。AIガバナンスを複数の関係者で検討すべき理由もここにある。 　実務では、少なくとも3つを確認したい。第1に、AIに委ねる判断が誰にどのような影響を与えるのか。第2に、その判断が自社の価値や方針と整合しているか。第3に、誤りがあったとき、人間が介入し、理由を説明し、必要なら判断を覆せる仕組みがあるか、である。こうした確認を通じて、「人に残すこと」も「AIに任せること」も目的化せずに済む。

　AI時代に問うべきなのは、「人間にしかできないことは何か」ではない。「AIにもできるようになったとして、それでも人間が担い続けるべきことは何か」である。 　その答えは、AIの性能表からも、法律やガイドラインからも自動的には導かれない。どのような企業をつくり、どのような社会を目指すのか。その価値判断を具体的な業務プロセスやシステム設計に落とし込む能力こそ、AIを使う企業にとって新たなガバナンスの中核になっていく。