ウェブブラウザや各種アカウントへのアクセスなど、いわば“デジタルの手”を与えられたAIエージェントは、一般ユーザーにとって多くの疑問や不安を生み出しています。Surfsharkのサイバーセキュリティおよび法務の専門家が、AIエージェントやChatGPTのような人気チャットボットが銀行口座を不正に利用した場合、ユーザーはどのように対処すべきかについて解説します。

AIの行動は、法律上「あなた自身の行為」とみなされる

Surfsharkのサイバーセキュリティ専門家ミゲル・フォルネス氏は次のように述べています。

「もし、あなたのアシスタントがあなたの同意なしに個人の資産を操作し始めたらどうなるでしょうか。その場合、あなたはその人物や所属する組織を訴えることができます。しかし、AIがあなたの銀行口座から資金を引き出した場合、法的責任が問われるのは、そのAIを動かした人物、つまりあなた自身になる可能性があります。

Surfsharkのサイバーセキュリティ専門家、ミゲル・フォルネス氏

どれだけの人が、利用規約を実際に読んでいるのでしょうか。そこには要するに『この技術は実験的なものです。利用は自己責任で行ってください。AIによる行為について当社は責任を負いません』といった内容が記されています。つまり、このサービスを利用した時点で、AIによる問題について開発元を責める権利をすでに放棄していることになるのです。

AIが独立した法的主体として扱われるように法律が変わるまでは（まだ何年もかかる、あるいは実現しない可能性もありますが）、多くの場合、AIは法的にはあなた自身の手の延長に過ぎません」

またフォルネス氏は次のように助言をしています。

「こうした新しいAIを活用しながら信頼性やプライバシーを守るためには、エージェント型AIを“優秀だが予測不能な参謀”のように扱うべきです。AIのアイデアは活用しても、全ての操作を完全に任せてしまってはいけません。AIが扱うデータの機密性が高いほど、より厳格な監督と管理が必要です」

AI企業と法律の観点から見たユーザーの権利

ChatGPTやGemini、Claudeといった主要なチャットボットの一般的な利用規約は、多くの場合、テクノロジー企業を優先的に保護するよう設計されています。Surfsharkのシニア法務顧問であるマチェイ・ミケレヴィチ氏によると、チャットボットの利用規約では通常、サービスは「現状のまま」提供されるものであり、AIの出力に基づいて行われた行動については、ユーザー自身が責任を負うとされています。

ユーザーの権利を理解するために、ミケレヴィチ氏は、AIを提供している主体が誰であるかという観点から、2つの異なるケースを分析します。

Surfsharkのシニア法務顧問であるマチェイ・ミケレヴィチ氏

シナリオ1：企業がAIを活用してサービスを提供している場合

企業の中には、AIを活用してユーザーにサービスを提供しているケースがあります。例えば、航空会社のウェブサイトに設置されたチャットボットなど、特定の企業が提供するAIツールとユーザーがやり取りしている場合、そのAIが発信した内容については、その企業が法的責任を負います。

ミケレヴィチ氏は次のように説明しています。

「例えば、エア・カナダの事例では、航空会社のチャットボットが割引に関する誤った案内をしたことで、乗客が誤解を招く結果となりました。同社は、AIは独立した存在であり、その誤りについてはAI自身が責任を負うべきだと主張しました。しかし、裁判所はこの主張を明確に退け、ウェブサイト上で提供される情報については、それが人間によって作成されたものであれAIによって生成されたものであれ、企業が全面的に責任を負うとの判断を示しました。この判断に基づけば、あなたのケースでも補償を求める十分に強い根拠があるといえます」

シナリオ2：自分でチャットボットやAIを選んで利用する場合

一部のAIツールは単に情報を提供するだけですが、一般的なチャットボットや専用のAIは、ユーザーに代わって行動する自律的なツールとして利用されることがあります。例えば、航空券の予約を代行してくれるアプリのようなものです。

ミケレヴィチ氏は次のように述べています。

「もしあなた自身がチャットボットやAIを利用し、そのミスによって実際に金銭的な損害が発生した場合（例えば、実際には成立しない旅行の予約にお金が使われてしまうなど）、航空会社やホテルには責任がない可能性があります。なぜなら、ミスをしたのは“あなたの代理人”として行動したAIだからです。この場合、請求の対象となる可能性があるのは、AIを開発した企業になります。利用規約では責任を免除する条項が設けられていることが多いですが、それでもAI開発企業はサービス提供者として消費者保護法の対象となります。 もしAIサービスに欠陥があった場合や料金を支払ったにもかかわらずサービスが期待どおりに提供されなかった場合、あるいはAI提供者が説明していた内容と異なる形でサービスが実行された場合には、問題の是正を求める権利がある可能性があります」

ただし、実際にはさまざまな状況や利用ケースが考えられます。具体的な判断は、AIの機能としてどのように説明されていたか、サービスがどのように宣伝されていたか、そしてユーザーが実際にどのようにAIを利用したかなど、多くの要因によって左右されます。

Surfsharkとは

Surfsharkは、監査済みVPNや認証済みアンチウイルス、データ漏えい警告システム、プライベート検索エンジン、オンラインアイデンティティ生成ツールなどを提供するサイバーセキュリティ企業です。CNETやTechRadarなどのメディアから有力なVPNサービスとして評価されており、FT1000：Europe’s Fastest Growing Companies（欧州の急成長企業ランキング）にも掲載されています。

本社はオランダにあり、リトアニアおよびポーランドにもオフィスを構えています。Surfsharkの事業概要や主な取り組みについては、同社の年次総括をご覧ください。また、その他の調査プロジェクトについては調査レポートをご参照ください。

ウェブブラウザや各種アカウントへのアクセスなど、いわば“デジタルの手”を与えられたAIエージェントは、一般ユーザーにとって多くの疑問や不安を生み出しています。Surfsharkのサイバーセキュリティおよび法務の専門家が、AIエージェントやChatGPTのような人気チャットボットが銀行口座を不正に利用した場合、ユーザーはどのように対処すべきかについて解説します。

AIがあなたの銀行口座から資金を引き出した場合、法的責任が問われるのは、そのAIを動かした人物、つまりあなた自身になる可能性があります。