AI 審計是指評估 AI 系統，以確保它們按預期工作，沒有偏見或歧視，並符合道德和法律標準。人工智能在過去十年中經歷了指數級增長。因此，與人工智能相關的風險已成為組織關注的問題。正如 Elon Musk 所說:
“AI 是一種罕見的案例，我認為我們需要主動監管而不是被動監管。”
組織必鬚髮展治理、風險評估和控制與 AI 打交道的員工的策略。 AI 問責制在風險很高的決策中變得至關重要，例如在一個區域而不是另一個區域部署警務、僱用和拒絕候選人。
本文將概述 AI 審計、AI 審計的框架和法規，以及審計 AI 應用程序的清單。
考慮因素
合規性:與 AI 系統是否符合法律、法規、道德和社會考慮因素相關的風險評估。技術:與技術能力相關的風險評估，包括機器學習、安全標準和模型性能.
審計 AI 系統的挑戰
偏見:AI 系統會放大其接受訓練的數據中的偏見，並做出不公平的決定。認識到這個問題，斯坦福大學的研究問題研究所 Human Centered AI (HAI) 發起了一項價值 71,000 美元的創新挑戰賽，以設計更好的 AI 審計。這一挑戰的目的是禁止人工智能係統中的歧視。複雜性:人工智能係統，尤其是那些採用深度學習的系統，非常複雜且缺乏可解釋性。
人工智能審計的現有法規和框架
法規和框架作為審計人工智能的北極星。下面討論一些重要的審計框架和法規。
審計框架
COBIT 框架（信息和相關技術的控制目標）:它是企業 IT 治理和管理的框架。IIA’s (內部審計師協會）AI 審計框架:該 AI 框架旨在評估 AI 系統的設計、開發和工作及其與組織目標的一致性。 IIA 人工智能審計框架的三個主要組成部分是戰略、治理和人為因素。它有以下七個要素:網絡彈性人工智能能力數據質量數據架構和基礎設施衡量績效道德黑匣子COSO ERM 框架:該框架為評估組織中人工智能係統的風險提供了一個參考框架。它有五個內部審計組成部分:內部環境:確保組織的治理和管理正在管理人工智能風險目標設定:與利益相關者合作制定風險戰略事件識別:識別人工智能係統中的風險，如意外偏見、數據洩露風險評估:將會發生什麼風險的影響?風險應對:組織將如何應對風險情況，例如次優數據質量?
法規
通用數據保護條例 (GDPR) 是歐盟法規規定組織有義務使用個人數據。它有七項原則:
合法性、公平性和透明性:個人數據處理必須遵守法律目的限制:僅將數據用於特定目的數據最小化:個人數據必須充分且有限準確性:數據應準確且符合規定dateStorage 限制:不要存儲不再需要的個人數據完整性和機密性:個人數據曾經被安全地處理責任:控制者按照合規性負責任地處理數據
AI 審計清單
數據源
識別和審查數據源是審計人工智能係統的首要考慮因素。審計員檢查數據質量以及公司是否可以使用這些數據。
交叉驗證
確保模型得到適當的交叉驗證是審計員的檢查清單之一。驗證數據不應用於訓練，驗證技術應確保模型的通用性。
安全託管
在某些情況下，AI 系統會使用個人數據。評估託管或云服務是否滿足 OWASP（開放 Web 應用程序安全項目）指南等信息安全要求非常重要。
Explainable AI
Explainable AI 是指解釋和理解人工智能係統做出的決定以及影響它的因素。審計員使用 LIME 和 SHAP 等技術檢查模型是否可以充分解釋。
模型輸出
公平性是審計員在模型輸出中確保的第一件事。當性別、種族或宗教等變量發生變化時，模型輸出應保持一致。此外，還評估了使用適當評分方法的預測質量。
社會反饋
AI 審計是一個持續的過程。一旦部署，審計人員應該看到人工智能係統的社會影響。 AI 系統和風險策略應根據反饋、使用情況、後果和影響（無論是正面的還是負面的）進行相應的修改和審計。
審計 AI 管道和應用程序的公司
審計人工智能的五家主要公司如下:
德勤:德勤是全球最大的專業服務公司，提供與審計、稅務和財務諮詢相關的服務。德勤採用 RPA、人工智能和分析來幫助組織對其人工智能係統進行風險評估。普華永道:普華永道是按收入計算的第二大專業服務網絡。他們開發了審計方法來幫助組織確保問責制、可靠性和透明度。EY:2022 年，EY 宣布投資 10 億美元在 AI-賦能技術平台，提供優質審計服務。由人工智能驅動的公司在審計人工智能係統方面消息靈通。畢馬威會計師事務所:畢馬威會計師事務所是第四大提供會計服務的公司。 KPMG 在 AI 治理、風險評估和控制方面提供定制服務。Grant Thronton:他們幫助客戶管理與 AI 部署以及 AI 道德和法規合規性相關的風險。
審計 AI 系統的好處
風險管理:審計防止或減輕與 AI 系統相關的風險。透明度:審計確保 AI 應用程序沒有偏見和歧視。合規性:審計 AI 應用程序意味著系統遵守法律和法規。
AI 審計:未來會怎樣
組織、監管機構和審計人員應與人工智能的進步保持聯繫，意識到其潛在威脅，並經常修訂法規、框架和戰略，以確保公平、無風險和合乎道德的使用。
2021 年，UNESCO 的 193 個成員國通過了一項全球性的倫理道德協議人工智能。 AI 是一個不斷發展的生態系統。