IEEEが提言を発表　 エージェンティックAIが 機密性の高い個人情報を漏洩させるリスクとは

IEEE(アイ・トリプルイー)は世界各国の技術専門家が会員として参加しており、さまざまな提言やイベントなどを通じ科学技術の進化へ貢献しています。

AIエージェントは、現在主流の許可ベースのアプリケーションから、独立して動作する自律型システムへの本質的な転換を象徴する技術です。コマンドに応答する従来型の音声アシスタントとは異なり、エージェンティックAIは、人間による継続的な監視を必要とせずに意思決定を行い、複雑な処理をこなし、膨大な個人データへアクセスすることができます。この自律性により、従来にない規模でのプライバシーおよびセキュリティ上のリスクが生じます。なぜなら、こうしたシステムは膨大な個人データへのアクセスを前提として機能するからです。
私たちは、アプリケーションが位置情報や連絡先、マイクへのアクセス許可を求めてくることにすっかり慣れてしまっています。エージェンティックAIは、これまでの常識を覆します。単に許可を求めるだけではなく、自ら行動することから、アシスタントと自律的なオペレーターとの境界を曖昧にします。
しかし、それに伴い、これまでにない深刻なプライバシーやセキュリティ上のリスクを引き起こす恐れがあります。
それは、AIエージェントが将来的に担うと専門家が予測しているすべての処理、たとえば休暇の計画を立てる、診療予約を確認する、さらにはお得な商品を探すといった役割を果たすには、金融情報や位置情報などの機微な個人データへのアクセスが必要となるからです。
調査会社Gartnerは、企業の情報漏えいのうち4分の1が、エージェンティックAIの不正使用に関連することになると警鐘を鳴らしています。したがって、AIエージェントとは何か、それがどのようにプライバシーに新たなリスクをもたらすのか、そしてセキュリティの専門家がそのリスクを緩和するためにどのように取り組んできたかを理解することが重要です。

エージェンティックAIとも呼ばれるAIエージェントは、極めて高度な自律性を備えた人工知能システムです。「AIエージェントは、人間による継続的な制御を必要とせず、自律的に目標を達成することができます」と、IEEE上級会員のキーリー・クロケット(Keeley Crockett)氏は述べています。
「これらのシステムは、あらかじめ組み込まれたプログラムや取得したデータに基づいて自ら判断し、行動し、状況に適応できます。通常は人間の関与を必要としません」と、彼は語っています。
AIエージェントは、サイバーセキュリティや金融分野での導入が考えられる一方で、多くの専門家は、食料品の注文からリマインダーの自動設定に至るまで、私たちの日常生活の大部分を管理できる新たなパーソナルデジタルアシスタントの台頭を予想しています。
ただし、これらのシステムは、スマートフォンでよく見られる音声操作アシスタントとは大きく異なります。そうしたシステムは受動的に反応しますが、自律的に目標を設定する能力はありません。単純な作業はこなせますが、直接的な人間の指示なしには、意味のある行動を取ることはできません」と、クロケット氏は述べています。

データはあらゆる人工知能システムの生命線であり、AIエージェントも例外ではありません。AIエージェントを自律的に機能させるためには、膨大なデータへのアクセスが求められる可能性があります。
「エージェンティックAIは、銀行口座や医療記録、カレンダー、位置情報の履歴、通信傾向、買い物の習慣、さらには健康管理に用いる身体的データまでも含め、あらゆる情報へのアクセスを必要とします」と、IEEE上級会員のヴァイブハブ・トゥペ(Vaibhav Tupe)氏は述べています。
「現行のアプリケーションは一般的に単一のデータタイプにしかアクセスしませんが、エージェンティックAIは、ユーザーのデジタル生活全体のデータを紐づけて分析する必要があります」と、彼は指摘しています。

エージェンティックAIがもたらすプライバシーのリスクは、今日私たちが直面しているものよりも桁違いに深刻です。
「エージェンティックAIは、現在のようなサイロ化したデータの扱い方とは異なり、包括的にデータを統合する必要があり、その結果、リスクは単純に加算されるのではなく、相乗的に増大します」と、IEEE上級会員のケイン・マクグラッドリー(Kayne McGladrey)氏は説明しています。
エージェンティックAIに依存しない典型的な消費者向けアプリケーションは、個人の健康データか金融データのいずれか一方にアクセスするにとどまります。エージェンティックシステムは、両方のデータを同時に扱うだけでなく、過去の傾向やリアルタイムでの監視能力も求めることがあります。
現在主流の消費者向けアルゴリズムは、特定の目的に沿ってデータを処理し、通常は利用者から許可を取得しています。
「エージェンティックAIは、複数の領域から積極的に情報を取得し、その利用方法について人の介在なしに意思決定を行います」と、マクグラッドリー氏は説明しています。「現行のシステムは通常、各処理に対してユーザーの承認を必要としますが、エージェンティックAIは、人間の介入を最小限に抑えて独立して動作することを前提に設計されており、新たな種類の法的責任リスクを生じさせています。」

では、AIエージェントを利用する際に、個人のプライバシーをどう守るべきでしょうか？
サイバーセキュリティの専門家は、基本的なセキュリティ衛生を出発点としつつ、自律型AIに特化した新たな手法を取り入れた多層的アプローチを推奨しています。
「すべてのアカウントで多要素認証を有効にし、各タスクに本当に必要な最小限のデータのみを共有するようにすべきです。さらに、目的別にアカウントを分けることで、デジタル上の露出をコンパートメント化できます」と、マクグラッドリー氏は指摘しています。
AIエージェントは複数のデータソースへのアクセスを必要とすることが多いため、リスクのコンパートメント化戦略は特に重要になります。単一のAIシステムにあらゆる情報へのアクセス権を与えるのではなく、たとえば、財務管理用、健康管理用など、利用目的ごとに異なるAIツールを使い分けることが望まれます。
「プライバシーに配慮したブラウザやツールを活用し、デバイスの権限設定を定期的に監査すること。そして、あまりに便利すぎるAIシステムには健全な懐疑心を持つことです」と、マクグラッドリー氏は述べています。
また専門家は、AIとのやり取りは、これまでのアプリの使い方とは別物として考える必要がある、とアドバイスしています。
「AIとのやり取りはすべて、恒久的な記録として残る可能性があると考え、機密情報を共有する前にそれを前提に行動することをお勧めします」と、マクグラッドリー氏は語っています。

詳しくはこちら：現在、大手AI開発企業は、Web検索、フォーム入力、チケット購入といった人間と同等の操作能力を備えたAIエージェントの開発を進めています。IEEE Spectrumは次のような問いを投げかけています。「AIにあなたのパソコンの操作を任せる覚悟はありますか？」

IEEEは、世界最大の技術専門家の組織であり、人類に恩恵をもたらす技術の進展に貢献しています。160カ国、40万人以上のエンジニアや技術専門会の会員を擁する非営利団体で、論文誌の発行、国際会議の開催、技術標準化などを行うとともに、諸活動を通じて世界中の工学やその他専門技術職のための信用性の高い「声」として役立っています。
IEEEは、電機・電子工学およびコンピューターサイエンス分野における世界の文献の30％を出版、2,000以上の現行標準を策定し、年間1,800を超える国際会議を開催しています。

詳しくは http://www.ieee.org をご覧ください。