AIの業務利用を前提としたIT統制評価の留意点

はじめに

昨今、生成AIを中心にAIの社会実装が急速に進み、より自律的な挙動をするAIエージェントも普及しつつあります。筆者が従事しているIT統制の構築支援や評価の現場も例外ではなく、財務データの集計にAIを導入するお客様も増えています。
そこで、本コラムでは、AIによるデータ処理の特徴と、AIの利用にともなうIT統制評価上の留意点について概説します。日頃、経理や内部統制、情報システムに携わっている幅広い方々の参考になれば幸いです。

AIによるデータ処理の特徴

まず、AIによるデータ処理の特徴を従来のシステムによるデータ処理と比較しながら確認してみましょう。
従来のシステム(Excelなどのツールも含む)を使用した場合、入力と出力の関係は一定です。プログラムや関数などの設定を変更しない限り、同じ処理が毎回行われるため、同一の入力には同一の出力結果が得られます。
一方、AIによるデータ処理では、AIの種類や推論時の条件によって、同一の入力であっても異なる出力が生じる場合があります。つまり、従来のシステムと比較すると、出力結果の再現性や一貫性を確保するのが難しいという特徴があります。

AIの利用を前提としたIT統制評価の留意点

このような特徴から、業務でAIを利用している企業のIT統制評価では、以下のような点に留意が必要です。

  1. IT業務処理統制(ITAC)の評価

    処理の一貫性が保証された従来のシステムに対する評価であれば、期中のデータ処理(トランザクション)を1件検証すれば、IT業務処理統制の有効性を確認できます(※1)。しかし、AIの業務利用によって、処理の一貫性が確保されなくなると、検証サンプル数を増やす、プロンプトを検証するなどの手続きの追加が必要になる可能性があります。また、AIが事実に基づかない情報を生成する、いわゆるハルシネーションによるエラーの発生を想定すると、出力結果を人が確認する統制の必要性も高くなるといえます。
    (※1)IT全般統制が有効であることが前提

  2. IT全般統制(ITGC)の評価

    IT統制の対象が業務で利用するAIに広がっても、アクセス管理や変更管理といったITGCにおける評価の観点自体は従来のシステムのみを対象としていた場合と変わりません。しかし、AIを業務で利用している場合、AIのバージョンやプロンプトのわずかな変更によって、想定外の出力が生じるリスクがあり、変更管理のプロセスをより細かく検証する必要が生じてきます。
    また、アクセス管理の観点では、AIエージェントが架空のアカウントを作成し、そのアカウントのアクセス承認を求めるなどの方法によって、アクセス権の設定が無効化されるリスクも指摘されています(※2)。このため、単にAIツールのアクセス権を確認するだけではなく、財務データの保存先フォルダーへのアクセス権も確認するなど、追加の手続きが求められる可能性があります。
    加えて、ハルシネーションによるエラーが起こった場合の対応(インシデント対応)プロセスの構築・運用も検討の対象となる可能性があります。
    (※2)英国AIセキュリティ研究所(AISI)「Incident Report: unsanctioned agent behaviour during cyber testing」(2026年8月4日)

おわりに

財務報告分野におけるAIの業務利用は始まったばかりで、そのリスクに対する統制が実務上十分に定着しているわけではありません。今後、リスクを適切に管理しながらAIを利用していくためには、変更管理の頻度を高めるなどの対応が必要で、自社のリソースのみで対応することは困難である場合も多いと思われます。BBSではIT統制や監査対応の経験が豊富なコンサルタントがサービスを提供しておりますので、AIの利用や管理に関してお困りの点があれば、ぜひ一度BBSの専門家へご相談ください。

※当コラムの内容は筆者個人の私見であり、BBSの公式見解ではありません。