AIは「誰を調べるか」をどう決めているのか—納税者の属性と調査選定の法的問題

国税庁は、令和6事務年度の法人税等の調査事績について、次のように説明しています。

所得税についても、同じ事務年度の公表資料が「選定にＡＩを活用するなど、効率的かつ的確に調査等を行った結果」と述べています。AIによる選定は、もはや将来の話ではありません。

▼ 実際の数字を見る

令和6事務年度の所得税の調査等の状況は、次のとおりです。調査の形態によって、性格が大きく異なることが分かります。

出典：国税庁「令和6事務年度　所得税及び消費税調査等の状況」（令和7年12月）。割合は公表件数から算出したものです。

実地調査では、10件のうち8件以上で申告漏れ等の非違が見つかっています。臨場して行う調査は、選ばれた時点でかなりの確度をもって選ばれている、ということです。

追徴税額はどうでしょうか。国税庁は「国税庁におけるAIの活用」（令和8年7月）において、AI・データ分析の活用を説明したうえで、次の数字を参考として掲げています。

出典：国税庁「国税庁におけるAIの活用」（令和8年7月）。いずれも簡易な接触を含む「調査等」による数値です。法人税・消費税の3,672億円は、実地調査による3,407億円と簡易な接触による265億円の合計にあたります。実地調査に限った3,407億円についても、国税庁は直近10年で最高値としています（国税庁「令和6事務年度　法人税等の調査事績の概要」）。

なお、公表資料から確認できるのはここまでです。予測モデルがどのような入力を用い、どの要素を重く見ているかは、公表されていません。この点は、Q7で改めて扱います。

「選ばれただけで、まだ何の処分も受けていない。課税処分の適法性さえ確保されるのであれば、その手前の選定は問題にしなくてよいのではないか」という考え方はありえます。しかし、拙稿はこれを採りませんでした。

理由は3つあります。

▼ 第一に、選定は法律上の要件に関わります

質問検査権の行使には、調査について客観的な必要性が求められます。ところが、AIが確たる理由は不明のまま「不正行為の可能性が高い」と判断し、それに従って調査対象が選ばれた場合、この必要性の要件を満たしているといえるのかという問題が生じます。

拙稿は、この点をより具体的な形でも提起しています。調査件数が伸び悩んでいる集団、あるいは深度ある調査ができていない集団が存在する場合に、その集団に属していることのみをもって、あるいはそのことを強調して調査対象に選ぶことが、不合理な差別に当たらないか、調査の必要性要件を満たすのか、という問い方です。

▼ 第二に、選定された時点で、負担はすでに生じています

Q1でみたとおり、実地調査は選ばれた時点で83.5%が非違に至ります。逆にいえば、選ばれなければ、その負担は生じません。選定は、負担を配分する行為です。課税処分の適否とは別に、誰にその負担を負わせるのかという問題が、そこにあります。

▼ 第三に、選定の段階は、争いにくい段階です

課税処分であれば、不服申立てや訴訟という道があります。しかし「なぜ自分が選ばれたのか」という問いには、そもそも争う枠組みが用意されていません。負担が生じる場面でありながら、争えない場面でもあるということです。

この点は、Q5でみるオランダの事例が示すところでもあります。オランダで問題が表沙汰になったきっかけは、税務行政の争訟ではありませんでした。

▶ 関連記事：国税庁のAIの法的問題

機械学習は、過去のデータからパターンを学びます。したがって、学習の元になるデータがどう作られたかが決定的に重要になります。

拙稿は、国税庁に蓄積された過去の調査データについて、留意すべき点を6つ挙げました。以下は、その内容を平易に整理したものです（見出しは本記事で付したものであり、拙稿には項目名は付されていません）。

出典：拙稿・前掲63〜64頁。表の整理は本記事によるものです。

5番目は、元国税職員としての経験を踏まえて書いたものです。多くの事案が争訟に至らず、司法審査を受けないまま確定していきます。その処理の記録が、そのまま「正解」として学習データになってよいのかという問いが残ります。

▼ 何が起きるか

拙稿は、こうしたデータの性質がもたらす結果を、次のように述べました。

重要なのは、ここに悪意は必要ないという点です。誰も差別しようとしていなくても、データの作られ方が偏っていれば、そこから学んだモデルの出力も偏ります。

Q3でみた偏りは、一度きりのものではありません。それ自体を強めていく回路があります。

これを具体的に示すため、拙稿は次の仮想例を置きました。2021年に書いたものです。

▼ この回路の要点は、どこにあるのか

この仮想例で最も重要なのは、アルゴリズムの出力が調査官の経験とよく合う、という一点です。

合うからこそ、調査官はそれを受け入れます。受け入れるからこそ、そこに調査資源が集中します。集中するからこそ、その集団からより多くの非違が見つかります。そして、その結果がまたデータとして戻ってくる。

つまり、「当たっている」という手ごたえが、回路を回す燃料になります。手ごたえがあるかぎり、誰もこれを疑う理由を持ちません。

拙稿はこの箇所を、次のように結んでいます。統計的・確率的にみて合理的な推論に基づいていたとしても、元のデータの誤りや偏見がアルゴリズムによって再現ないし増幅され、個々の納税者が属性によって類型化されたうえで、調査必要度が高い者と判断され続ける可能性を、度外視することはできない、と。

Q4の仮想例の相当部分にあたることが、すでに欧州で起きていました。

▼ 何が起きたのか

オランダ税務当局（Belastingdienst）の給付部門は、児童保育給付の申請について、2013年から自己学習型のアルゴリズムによるリスク判定モデルを運用していました。このモデルは毎月すべての申請を評価し、リスクスコアの高い上位100件を職員の手作業審査に回す仕組みです。少なくとも2016年3月から2018年10月まで、その指標の一つに「オランダ国籍か否か」が含まれていました（オランダ国籍を含む二重国籍の場合は、オランダ国籍とみなされていました）。

オランダのデータ保護当局（Autoriteit Persoonsgegevens、以下「AP」）は2021年11月25日付の決定で、国籍に関する3件の個人データ処理をいずれも違法と認定し、そのうち2件については差別的であり、個人データを公正に処理すべき原則にも反すると判断しました。決定は同年12月7日に公表され、税務当局における個人データ処理の責任者である財務大臣に対し、総額275万ユーロの制裁金が科されました。

出典：Autoriteit Persoonsgegevens「Besluit tot boeteoplegging」（2021年11月25日）。2018年5月時点で、給付システムには約140万人分の二重国籍が登録されたままでしたが、このうち何人がオランダ国籍者で、かつ児童保育給付の申請者であったかは、税務当局によれば特定できないとされています。

第2・第3の制裁金が第1の制裁金より高いのは、差別的な処理であったことを理由に、APが制裁の区分を一段階引き上げたためです。APは、行政機関が差別的なデータ処理を行ったことをきわめて重大とみています。

児童保育給付をめぐるこの問題は、いわゆるオランダ給付金問題（Toeslagenaffaire）の一部として社会問題化しました。決定書は、不要な国籍の処理によって、申請者が誤って不正受給者とみなされる危険が高まり、一部の世帯が受給済みの給付について数万ユーロの返還を求められ、長年にわたって深刻な経済的困難に陥ったと述べています。

▼ 国籍を扱うこと自体が禁じられたわけではありません

ここは誤解されやすいところです。APが問題としたのは、国籍というデータそのものではありません。決定書は、児童保育給付の受給資格が「オランダ国籍を有するか、または適法に居住する外国人であるか」によって決まる以上、受給資格の判断のために国籍を処理することは、税務当局の公的な職務にとって必要であると明言しています。

必要性を欠くとされたのは、目的との関係で説明のつかない処理です。リスク判定モデルについて、APの理由づけは具体的でした。「オランダ国籍か否か」という指標は、その申請者が受給資格を満たすかどうかを正確に示すものではありません。受給資格には、オランダの市町村に登録されているか、適法に滞在しているかといった要素が関わるからです。APは、より正確な指標として「オランダ国籍を有するか、EU国籍でオランダの市町村に登録があるか、EU域外国籍で有効な在留資格を持つか」を挙げ、より侵害の少ない代替手段が存在した以上、国籍のみを指標とすることは必要性の要件を満たさないとしました。

つまり、目的（受給資格の正確な判定）と手段（国籍という指標）の間にずれがあったというのが、違法性の中核です。

税務当局自身も、この指標が適切かつ客観的に裏づけられたものではなかったことを認め、オランダ国籍を持たない申請者は、その申請が手作業審査に選ばれる可能性が相対的に高くなっていたこと、そしてそれは決して起きてはならないことだったと述べています。

▼ 国籍は「特別な種類の個人データ」ではないのに、なぜ差別とされたのか

国籍は、GDPR9条の「特別な種類の個人データ」には含まれません。同条が列挙するのは、人種的若しくは民族的な出自、政治的な意見、宗教上若しくは思想上の信条、労働組合への加入、遺伝子データ、生体データ、健康に関するデータ、性生活・性的指向に関するデータです。国籍はここにありません。

それでもAPは、国籍を「差別を招きやすい個人データ」と位置づけました。人を不必要に集団へ分類するおそれが通常より高いことがその理由で、通常以上に慎重な取扱いが求められるとしています。

差別に当たるかどうかの判断は、5条1項a号の「公正性」の原則を経由して行われました。「公正」は抽象的な概念であり、それだけでは具体的な判断基準が明らかではありません。APは、公正性の原則を差別禁止規範と結び付けて判断しています。参照されたのは、EU基本権憲章21条、自由権規約26条、欧州人権条約第12議定書1条、人種差別撤廃条約1条、そしてオランダ憲法1条です。

そのうえでAPは、次の4つを累積的な基準として掲げ、すべてを満たす場合に差別に当たるとしました。

リスク判定モデルについては、④に該当する—すなわち、区別を正当化する理由が存在しない—と判断されました。適法な居住の有無を見るべき場面で、オランダ国籍の有無だけを指標とすることに、客観的な正当化理由はなかったというのが結論です。

▼ 「疑わしい区別」—特定の国籍への一括照会

組織的不正の探知については、さらに踏み込んだ判断が示されています。決定書によれば、税務当局は2013年7月9日以降、特段の端緒がないまま定期的に、給付の申請者全員の国籍について照会を行い、国籍ごとの申請件数を把握していました。また、不正の兆候があった場合には、国籍を含む照会を行い、その結果を表計算ファイルに出力していました。さらに、調査に値する兆候があった場合には、2014年以降、その結果を表の形にまとめ、「クイックスキャン」と呼ばれる内部文書として記録していました。2018年5月25日から2019年2月14日までの間だけで、213件の照会が行われ、そのすべてで国籍が照会されています。

そして2014年には、特定の国籍を持つ者全員について、一括して照会を行った事例が2件ありました。一つはガーナ国籍で2013年1月1日以降に給付を申請した者、もう一つはブルガリア国籍で2013年6月1日から2014年1月1日までの間に給付を申請した者です。照会の結果、児童保育給付を申請していたことが判明したのは、それぞれ6,074人と363人でした。決定書は、これらの申請者がオランダ国籍を併せ持っている場合もあり、オランダ国籍を有するにもかかわらず、他方の国籍を理由に不正の審査対象となる可能性があったと指摘しています。

APはこれを「疑わしい区別」と評価しました。欧州人権裁判所の確立した判例によれば、疑わしい区別が許されるのはきわめて重大な理由がある場合に限られますが、税務当局はそのような理由を主張できませんでした。

さらにAPは、税務当局が用いた照会とクイックスキャンは、不正の探知にとって国籍が関連性のあるデータであるという見解を何ら支えるものではなかったと述べています。税務当局自身も、調査の過程で、不正の兆候を受けて申請者の国籍を照会し使用したことについて、補充性と比例性の要件に対する配慮が不十分であったこと、そして不正への対応が行き過ぎていたことを認めています。

選定指標の妥当性は、その指標が実際にどの程度適切にリスクを識別したかによって検証されうる—この点は、日本の税務行政を考えるうえでも示唆的です。

▼ FSVにおける差別—職員への指示

同じ税務当局は、2022年4月にもう一つの制裁を受けています。不正の兆候を記録する内部ブラックリスト「FSV」の運用について、APは、それまでに同機関が科した最高額となる370万ユーロの制裁金を科しました。法的根拠の欠如、処理目的が事前に特定されていなかったこと、データの不正確性、保存期間の超過、安全管理措置の不備、そしてデータ保護影響評価（DPIA）についてデータ保護責任者への諮問が1年以上遅れたことという6件の違反が認定されています。約27万人がこのリストに登録され、違反は6年以上にわたって続いていました。FSVは2020年2月に運用が停止されています。

税務当局自身の調査からは、職員が、不正のリスクを国籍や人の外見といった事柄にも基づいて判断するよう指示を受けていたことが明らかになりました。APのウォルフセン長官は、次のように述べています。

ここでAPの公表文が具体的に指摘したのは、アルゴリズムの指標ではなく、職員に対する組織的な指示による差別でした。リスク判定モデルの事案では、国籍がアルゴリズムの指標に組み込まれていました。これに対しFSVでは、職員が国籍や外見に基づいて不正リスクを判断するよう、組織として指示されていたのです。

国籍による選別は、アルゴリズムによる場合にも、人による場合にも起こりうる。同じ税務当局において、それが相次いで明らかになったことになります。

▼ 監督機関への説明も問われました

もう一点、透明性の観点から見過ごせない事実があります。決定書によれば、税務当局の事務総長は2017年7月18日、APに対し、オランダ国籍の児童保育給付申請者の二重国籍に関するデータは保有していないと述べ、また、これらの申請者に対して重点的な監督を行うために国籍を選定基準として用いてはいないと述べていました。

給付部門の事務局長が、これらの説明は不正確又は不十分であったと認めたのは、2019年4月になってからでした。APは、これらの不正確な説明によって誤った方向に導かれ、その後の調査が困難となり遅延したと述べています。あわせて、2019年7月8日付の情報提供要求に対する回答が、当初の期限を3回延長してもなお得られず、同年9月13日にAPが情報提出を正式に要求せざるを得なかったことも考慮されています。

税務当局が、自らのデータ保有や選定基準について監督機関に正確かつ速やかに説明できなかったことも、制裁金の額を判断する際の不利な事情として考慮されたのです。

▶ 関連記事：世界の税務当局の69%がAIを導入（OECD Tax Administration 2025）

Q1でみたとおり、国税庁は「調査官が調査実施の要否を最終的に判断しています」と説明しています。この説明は、人の判断が入ることを歯止めとして示すものです。

では、それで足りるのでしょうか。

▼ オランダでも、人は判断していました

オランダ国籍を有しないことが指標の一つに組み込まれていたため、他の指標との組合せによって、オランダ国籍を持たない申請者は手作業審査に選ばれる可能性が相対的に高くなっていました。

人が最後に見ても、見る対象を選んだのがアルゴリズムであれば、偏りはそのまま通過します。審査担当者は、目の前の案件が適切かどうかを判断することはできますが、目の前に来なかった案件について判断することはできません。

▼ 人は、機械の判断を信頼しすぎます

もう一つの問題があります。拙稿は、これを自動化バイアスとして論じました。

人は、自動化されたシステムをエラーに強いものとみなし、コンピューターの出した答えを信頼する傾向があります。その結果、答えと矛盾する情報を探すことが少なくなります。

米国テキサス州で導入された社会福祉手当の受給資格判定システム（TIERS）では、人間の資格審査担当者がコンピューターの判断をレビューし最終決定を下すことになっていました。それにもかかわらず、誤った判定が数多くなされました。拙稿が引いた文献は、この失敗について、完全に自動化されたシステムと、人が介在する混合システムとの実際的な区別は誇張されるべきではないと指摘しています。担当者がコンピューターを直感的に信頼してしまうことが、人の参加の価値を下げているのです。

▼ 裁判官も、例外ではないかもしれません

拙稿は、この点をさらに一歩進めました。調査の必要性要件（国税通則法74条の2等）の充足を判断する裁判官においても自動化バイアスが働き、司法による救済を期待できない可能性を、視野に入れておきたい、と。

「AIがそう判断したのだから、それなりの理由があったのだろう」という受け止め方は、調査官だけのものではありません。

▼ 何ができるか

拙稿は、対策の一例として、人間の調査官による選定なのか、機械学習アルゴリズムによる選定なのかを伏せて候補者をリスト化し、そのうえで人に判断させるという工夫を挙げました。どちらの出力かが分からなければ、機械だから信頼するという反応は生じにくくなります。

いずれにせよ、「最後は人が判断します」という一文だけでは、歯止めの説明として足りません。どのような条件のもとで人が判断するのかが問われます。

はじめに、区別しておくべきことがあります。国税庁がAIの活用について何も語っていないわけではありません。Q1でみたとおり、AIを使っていること、その成果とされる数字、留意すべきリスクは公表されています。しかし、どのような基準で誰が選ばれたのかは、別の問題です。この設問で扱うのは、後者です。

拙稿は、この問題を2つに分けました。技術的要因によるものと、法制度的要因によるものです。

▼ 技術的要因—仕組み上、分からない

調査対象として選ばれた納税者は、無数の納税者のなかでなぜ自分が優先的に選ばれたのかを知りたいと思うはずです。しかし、次の3点は、技術的に知ることが難しい可能性があります。

出典：拙稿・前掲69頁

ディープラーニングを用いる場合には、人間が思い付かないような選定理由の採用や特徴量の抽出が行われる可能性があります。拙稿は、極端な例として、AIが「決算月の平均気温」や「納税者の生年月日」を重視する場合を挙げました。そのとき、調査の必要性要件を充足しているといえるのでしょうか。

▼ 法制度的要因—分かっても、開示されない

技術的な不透明さが仮に解消されたとしても、もう一つの壁が残ります。その情報は、公開されず、当該納税者にも開示されません。

これは推測ではありません。日本には、すでに積み重ねがあります。

拙稿・前掲70〜72頁で検討した答申・裁判例に、平成18年度（行個）答申第12号を加えたものです。ほかに令和2年度（行個）答申第58号があります。

平成19年度（行個）答申第1号は、選定理由が記載された欄について、次のように述べています。これらは「国税当局が調査対象者を選定するに当たっての着眼点とも言うべき情報」であり、明らかにすれば税務調査の手の内を明かす結果となる、と。

▼ 存否すら、答えられません

最も重いのは、表の最後の答申です。

この事案で、納税者は、自分が受けた調査について「調査着手時に保有していた資料情報」の開示を求めました。自分が選ばれた直接の原因となった資料は何だったのか、そこまでやらなければならない理由が本当にあったのかを知りたい、というのが請求の理由です。

審査会は、その存否を答えること自体を拒否した決定を妥当としました。理由は次のとおりです。

「なぜ自分が選ばれたのか」という問いに対しては、答えが返ってこないだけでなく、答えるための材料があるかどうかも、明らかにされません。

この結論には、それなりの理由があります。選定の基準が公になれば、それを回避する行動が可能になるからです。富山地裁判決は、還付保留基準が公になれば、基準に該当しない還付申告書を作成することも可能になり、何らの調査を受けることなく不正還付を受けられるようになると述べました。この懸念は、抽象的なものではありません。

問題は、その理由が、AIによる選定にもそのまま及ぶことです。

▼ 「国籍が〇〇であるから」と説明されたとき

拙稿は、この問題を突き詰めたところで、次の場面を想定しました。

そして、そのすぐ後に、次の一節が続きます。

説明が求められ、しかし本当の理由を説明できないとき、何が起きるか。この問いは、透明性の議論が現場で行き着く先を示しています。

選定の誤りには、2種類あります。

拙稿は、この2つが対等ではないと考えました。

ここまでは、素直な議論に見えます。ところが、話はここで終わりませんでした。

▼ 「空振りを減らす」という設計が、格差を生む

米国の内国歳入庁（IRS）は、還付付き税額控除である勤労所得税額控除（EITC）の申告について、大部分を自動化された仕組みで選定しています。その中核であるDependent Database（DDb）というプログラムの予測モデルは、少なくとも部分的に、是認率（no-change rate）を最小化するように調整されているとされています。是認率とは、調査の結果、納税者が申告した税額に変更が生じなかった割合（いわば空振りの割合）です。

Elzaynらの研究は、この設計の効果を検証しました。彼らは、税務当局が観測できる情報を用いて2つのモデルを作り、比較しています。

出典：Hadi Elzayn, Evelyn Smith, Thomas Hertz, Arun Ramesh, Robin Fisher, Daniel E. Ho & Jacob Goldin, Measuring and Mitigating Racial Disparities in Tax Audits (Jan. 30, 2023) (unpublished manuscript) 36頁。両モデルの差は統計的に有意（p<0.001）とされています。公刊版は140 Q.J. Econ. 113 (2025)。

理由は、こう説明されています。過少申告税額が最も大きい納税者は非黒人である傾向がある一方、利用可能なデータのもとでは、分類モデルが「過少申告がある確率」を最も高いと評価する納税者は、非黒人より黒人のほうが多くなる、というものです。

目的関数を「当たったかどうか」に置くと、少額でも確実に当たる層に調査が集中します。そして、その層は均等に分布していませんでした。

▼ 日本の「打率」に引きつけると

ここから先は、拙論の当てはめです。Elzaynらの研究は、日本の税務行政について何も述べていません。

Q1でみたとおり、日本では調査等の成果が、非違があった件数の割合という形で公表されています。実務ではしばしば「打率」と呼ばれます。是認率の最小化とは、要するに打率の最大化です。

そうだとすれば、何を成果指標に置くかという選択が、誰を調べるかを決めていることになります。金額の大きい脱漏を狙うのか、確実に当たる案件を狙うのか。この選択は、技術的な設計事項の顔をしていますが、実質は政策判断です。

▼ 絞り込めば、指標は上がります

この関係は、日本の公表データにも現れています。実地調査における調査1件当たりの追徴税額（法人税・消費税）と、不正発見割合（法人税）。この2つの指標の直近10年の最高値は、いずれも令和2事務年度です（7,806千円・26.5%）。コロナ禍で実地調査件数が2万5千件まで落ち込んだ年であり、AIの本格導入前です。絞り込めば両方の指標が上がるという関係自体は、AIとは無関係に成り立ちます。

もっとも、令和2事務年度の絞り込みは、的確だったから生じたのではなく、そうせざるを得なかったから生じたものです。同じ形の数値の動きを、別の年についてだけAIの成果と読むことはできません。この点は、法人税務調査の「打率」を検証した別記事で詳しく扱っています。

最も自然な対応策は、問題になりそうな属性を使わないことです。国籍を入力変数から外す。人種を収集しない。それで解決するのでしょうか。

▼ 第一段：外しても、推定されます

これは2021年の指摘です。そして拙稿は、この箇所の註で、ある米国の論文を引いていました。Jeremy Bearer-Friendの「内国歳入庁はあなたの人種を知るべきか」という論文です。

拙稿がそこで示したのは、次の視点でした。国籍や人種のように差別につながりうる要素について統計データを公表しないことは、差別や不平等が現に存在している場合に、その事実を覆い隠し、検証を妨げ、現状の維持を招来しかねないのではないか、と。

その検証が、その後に行われました。

▼ 第二段：使っていない米国で、何が起きていたか

Elzaynらは、財務省との連携により、2014年分の約1億4,800万件の申告と、通常の執行として行われた780,627件の調査（operational audits）、および2010年から2014年までにNRP（National Research Program）調査の対象として無作為抽出された71,878件の申告のデータを用いて、人種による調査率の差を推定しました。

内国歳入庁は納税者の人種を収集していません。著者らも、人種を直接には観測できません。そこで、名・姓・国勢調査ブロックグループから人種の確率を推定する手法を用い、真の格差を上下から挟み込む推定を行っています。

出典：Elzayn et al.・前掲1頁、4頁、18頁、24頁、26〜27頁。全納税者の2.9〜4.7倍と、EITCを請求した納税者の中での2.9〜4.4倍は別の数値です。

▼ 第三段：原因は、隠れた差別ではありません

ここが、この研究の核心です。

著者らは、EITCの調査選定が大部分自動化されており、内国歳入庁が人種を観測していないことから、現状の格差が、調査対象の選定段階における差別的取扱いによって生じている可能性は低いと述べています。誰かが黒人納税者を狙っているわけではない、ということです。

では、何が原因なのか。著者らは、無作為抽出の調査データを用いて、別の選び方をしたらどうなるかを検証しました。

検討したいずれの調査割合においても、真の過少申告額の大きい順に選んだ場合、黒人納税者の調査率はむしろ非黒人より低くなります。観測可能な情報から過少申告額を予測する回帰モデルを用いた場合も同じでした。しかもその回帰モデルは、同じ調査割合のもとで現状の約2倍の過少申告額を検出しています。

つまり、過少申告の検出を最大化することと、格差を避けることは、両立しえたのです。

では、何が格差を生んでいたのか。著者らが構築した反実仮想の選定モデルにおいて、次の3つの選択が、黒人納税者の調査率を高める方向に働きました。

出典：Elzayn et al.・前掲1頁（要旨）。3は、事業所得のある申告の調査には相応の経験を持つ調査官が必要であるという運用上の制約から生じるものとされています。

著者らは、これを「一見技術的に見えるアルゴリズム設計上の選択が、重要な政策上の価値やトレードオフを組み込みうる」と要約しています。

言い換えれば、こういうことです。何を予測させるか、どの誤りをより避けるか、どの類型の申告を何割まで選べることにするか。これらはモデルの設計に関する技術的な事項の顔をしていますが、実際には「誰にどれだけの負担を負わせるか」を決めています。技術者が技術として決めているうちに、政策判断が済んでしまう。著者らが問題にしているのは、この点です。

▼ 対になる、2つの実例

ここまでで、本記事には2つの実例が並びました。

この2つを並べると、一つのことが分かります。

「うちは国籍や人種を使っていません」という説明は、答えになっていません。使っていないことは、格差が生じていないことを意味しないからです。答えになるのは、何を最大化するように設計したのかを述べ、その結果として誰が選ばれているのかを示すことです。

そして日本では、その設計上の選択の中身が開示されません。Q7でみたとおりです。

▼ 透明性を、2つに分ける

Q7でみたとおり、選定基準の全面的な公開は、制度上も実際上も難しいところがあります。だからといって、何も説明しなくてよいことにはなりません。

拙稿は、透明性を2つに分けて考えるべきだとしました。

出典：拙稿・前掲76頁

企業秘密や公務への支障を理由に前者に制限を設ける場合であっても、後者を満たす方法は探れるはずです。「完全な透明性」が常に求められるわけではありません。第三者機関による監視といった他の制度と組み合わせながら、説明責任を全うすることにつながる透明性が求められます。

▼ 制度の側に、装置を組み込む

拙稿が挙げた方向は、次のとおりです。

出典：拙稿・前掲78〜79頁

▼ 税務当局がAIの倫理原則を公表している例

フィンランド税務当局は、AIの利用について倫理原則を定め、ウェブサイトで公表しています。4つの柱からなり、それぞれに具体的な内容が置かれています。

読む前に、前提を1つ押さえておく必要があります。この原則は、AIに独立した決定を認めるのか、それとも職員への提案を生成するにとどめるのかを、ソリューションごとに個別に決めるという枠組みの上に置かれています。つまり、AIが決定を行う場合があることを、あらかじめ想定した設計です。

出典：Finnish Tax Administration「Finnish Tax Administration’s ethical principles for AI」（最終更新：2025年5月5日）。訳は筆者によるものです。拙稿・前掲81頁は、2021年6月時点の同ページを要旨の形で紹介しています。

Q7でみた技術的要因によるブラックボックスに正面から答えているのは、1つ目の柱です。自らのAIがどのように機能するかを知り、その動作原理を詳細に把握している。なぜそう判定されたのかを説明できない仕組みは、そもそも使わないという立場です。

2つ目の柱にある次の一文も見過ごせません。事後に追跡し正当化できない限り、AIは決定を行えない。ただし、これはAIが「決定」を行う場面についての定めです。日本の調査選定のように、AIが抽出して人が判断する仕組みでは、この条件はそのままでは働きません。

4つ目の柱の「AIを活用している業務について、開かれた形で伝える」も見過ごせません。選定基準そのものを公開しなくても、どの業務でAIを使っているかを述べることはできるということです。実際、同当局はAIを利用している業務の一覧をウェブサイトで公表しています。

もっとも、フィンランドが法律上の義務として整備したのは、AIではなく自動化された決定のほうでした。倫理原則が自主的な宣言にとどまるのに対し、自動決定については、議会オンブズマンの判断を経て、一般法が制定されています。この点は、別記事「フィンランドの自動化された税務上の決定」で扱っています。

フィンランドが自主的な原則という形をとったのに対し、米国の内国歳入庁は、税務調査の対象選定に用いるAIを「ハイインパクトAI」に分類し、内部規程としてガバナンスを制度化しています。

▶ 関連記事：IRSが「税務調査AI」を「ハイインパクトAI」に分類した

▼ 「使わない」という選択肢

最後に、拙稿が置いた一節を引きます。

これは、AIの利用に反対する主張ではありません。解決できない問題を抱えたまま進めるのか、それとも解決してから進めるのか、という順序の問題です。

▶ 関連記事：国税庁のデータ活用推進第三次中期計画

本記事の出発点は、2021年に拙稿が置いた仮想例でした。特定の国籍にフラグが立ち、そのフラグが調査官の経験と合致し、結果がフィードバックされてバイアスが濃縮していくという回路です。

オランダでは、その一部が現実になり、行政制裁の対象となりました。米国では、属性を使っていないにもかかわらず、設計上の選択によって数倍の格差が生じていました。

日本ではどうでしょうか。分かりません。国税庁の公表資料からは、予測モデルが用いる入力指標も、その重みづけも、選定ロジックの全体も確認できません。日本において同種の問題が生じているかどうかを、外部から判断することはできないのです。

拙稿は2021年の時点で、国税庁がバイアスやブラックボックスへの対応についてどう考えているのか、偽陰性と偽陽性のどちらを重視する調査選定システムを構築するつもりなのか、明らかではないと述べました。

その後、国税庁は「税務行政のデジタル・トランスフォーメーション—税務行政の将来像2023—」（令和5年6月23日）と「データ活用推進第三次中期計画について（指示）」（令和6年6月20日）を公表しています。後者には、AI・機械学習等の活用に当たり、「人間中心のAI社会原則」に規定する公平性、説明責任及び透明性の確保をはじめ、AIの利用に関する包括的な枠組みやその動向にも留意する、との一文が置かれました。

もっとも、この一文は「その他」の項に置かれた留意事項です。何を公平とみるのか、誰に対して何を説明するのか、どの範囲を透明にするのかは、示されていません。偽陽性と偽陰性のどちらを重視するのかにも、触れられていません。

そのうえ、その2年後の資料でも、具体化は示されていません。国税庁「国税庁におけるAIの活用」（令和8年7月）が、留意すべきリスクとして挙げるのは「セキュリティやハルシネーションなどのリスク」です。もっとも、これらは主として生成AIに固有のリスクであり、調査選定に用いる予測モデルのバイアスや説明可能性とは、別の論点です。公平性・説明責任・透明性が、その後どう具体化されたのかは、なお示されていません。

そして、留意した結果どう実行しているのかも、公表されていません。Q7でみたとおり、選定の着眼点も、還付保留の基準も、選定過程も、不開示相当とされてきました。納税者本人が自分の選定原因となった資料を尋ねた事案では、その存否すら明らかにされていません。

原則への留意は掲げられ、その具体化は示されず、外から確かめる経路も開かれていない。Q10でみた影響評価の公表も、第三者機関も、技術的デュープロセスも、いずれもこの空白を埋めるための装置です。計画は原則を掲げ、装置には触れていません。

これらは、いずれも本記事で答えを出せる問いではありません。しかし、AIによる調査対象の選定が現に運用されている以上、問われるべき問いだと考えます。

▼ 「日本では大きな問題は起きない」という見方

もっとも、別の見方もありえます。日本の国税庁は、そもそも思い切った効率化に踏み込まないのだから、オランダのような事態には至らないという見方です。

以下は、元国税職員としての経験に基づく見立てであり、公表資料に基づくものではありません。

国税庁や国税局の内部の事務には、AIで大幅に効率化できる余地が相当あります。しかし、効率化が定員の削減に直結しにくい一方で、それはこれまで安定して仕事をこなしてきた職員から仕事を取り上げることを意味します。そのため、実際には進めづらい。職員の全員が単純な作業を嫌っているわけでもありません。より高度な仕事をこなせるように成長し、訓練を積むだけの時間的・精神的な余裕を持てない職員もいます。

この見方に立てば、日本でオランダのような事態が起きる可能性は、たしかに低いことになります。しかしそれは、制度で歯止めをかけた結果ではありません。踏み込まなかったことの結果にすぎません。踏み込むかどうかは、そのときどきの判断で変わります。

そして、問題が起きてから問うのでは遅いというのが、オランダの事例がもっとも強く示していることではないでしょうか。