みなさんは「AI TRiSM」という言葉をご存知ですか？
AI TRiSM（エーアイ・トリズム）は「AI Trust, Risk and Security Management」の略であり、アメリカの調査会社「Gartner」が2022年11月に「2023年の戦略的テクノロジーのトップトレンド」のひとつとして発表した言葉です。
AI活用に信頼性、リスク、セキュリティマネジメントのプロセスを取り入れることで、AIの安全性の向上や最適化を促し、さらなる成果を生み出すための取り組みです。AI活用がますます進む現在、コンプライアンス（法令遵守）はもとより、倫理的な逸脱を防ぎ、社会的な信頼構築を担保するために、AIを活用するすべての企業にとって必要な視点となるでしょう。
AI TRiSMの必要性
多くの企業では、AIのリスクを十分に管理できていません。
Gartnerがアメリカ、イギリス、ドイツを対象に実施した調査によれば、AIのプライバシー侵害やセキュリティインシデント（重大な事故や事象を起こす可能性がある業務上のミス、行為、出来事など）が判明したことがある組織は、なんと41%にも上ったそうです。一方、AIのプライバシーリスクやセキュリティを積極的に管理している組織は、AIプロジェクトの成果を向上させていることも明らかとなりました。
参考：Gartner Survey Reveals 80% of Executives Think Automation Can Be Applied to Any Business Decision
今後、企業はAI TRiSMの観点から、プライバシー保護やデータ保護などによって、AIの信頼性、リスク、セキュリティのマネジメントに注力する必要があります。そのことが、消費者保護はもちろん、上述のとおり成果の向上にもつながる時代になっているということです。
AI TRiSMを構成する4要素
AI TRiSMは、次の4つの要素で構成されます。これらの要素を備えることで、AIが持つ可能性を最大限に引き出し、信頼性と安全性を確保することができるとされます。
- 説明可能性
AIがどのようなプロセスや根拠をもって結論や予測を導き出したのかを明確に理解できることを指します。利用者がAIのアウトプットを説明できるレベルで理解できることは、AIに対する信頼性を高めます。 - モデル運用（ModelOps）
開発されたAIモデルが開発、デプロイ、モニタリング、メンテナンスといったサイクルを効率的に運用できるための手法を指します。モデル運用によってAIの有効性を維持し、ビジネス価値を最大化する目的があります。 - AIセキュリティ
AIシステムそのものと、外部によるサイバー攻撃などから扱うデータを守るための対策を指します。データ異常を検知するなど、さまざまな外部攻撃やデータの不正利用からAIを保護するためのセキュリティ対策が重要です。 - プライバシー
AIシステムが取り扱う大量のデータの中には、個人のプライバシーに関するものも含まれることがあります。そのため、AIシステムが個人データを適切に取り扱い、プライバシーを保護するためのしくみを構築する必要があります。
データミニマイゼーションからはじめるAI TRiSM
筆者がAI TRiSMとしてまずはここからはじめることが重要と考えるのが、保有する顧客データを最小限にする「データミニマイゼーション」です。
たとえば、アメリカの動画配信大手「Netflix（ネットフリックス）」は2020年5月に、一定期間アクセスしていないユーザー（休眠アカウント）に対して、メールでアカウントを継続するかどうかを確認し、反応がなければ自動解約すると発表しました。これは現在でも続けられており、メンバーシップへの入会後1年以上利用していないユーザー、または、連続して2年間利用していないユーザーにはメールやアプリで継続確認し、反応がなければ自動解約されます。
多くの企業は、サブスクリプション契約を継続し、課金対象となっているユーザーもまた重要な収益源と考え、利用実態が長期間なくても、あえて解約を促すことはしないでしょう。企業によっては、解約手続きを複雑化したり、わかりにくくしたりするケースさえあります。
Netflixは、まさにこの逆。通常の解約方法も非常にわかりやすいことに加え、視聴履歴は解約（アカウント閉鎖）から10か月は保存されるため、その期間内にメンバーシップを再開できます。このようなしくみによって、顧客からの信頼感や企業イメージが向上するという好循環を生み出しています。
参考：Forbes JAPAN「ネトフリの『倫理的な振る舞い』とは。欧米企業に学ぶ『正しい』マーケティング」
たくさんのユーザーデータを保有することは、AI活用の点からは望ましいといえるでしょう。しかし、そのことでデータ漏洩のリスクが高まったり、被害規模が大きくなったり、といった負の面があります。また、アクティブではないユーザーのデータが大量に含まれることで、有意義な機械学習や分析が困難になる可能性さえあるのです。
まとめ
以上、「AI TRiSM」について解説しました。
AI活用は、もはやどの企業にとっても重要な時代になりつつあります。しかし、数年前に話題になった、GAFAMによる音声データの取り扱いの不透明さや不適切さを思い起こすと、個人のプライバシーがないがしろにされる社会に対して危機感を抱かざるをえません。
過去記事：GAFAMの音声データの取り扱いと、プライバシーやセキュリティに関する課題
今回の記事を通して、「AI TRiSM」の観点から自社のAI活用を見直すきっかけになれば幸いです。
