ChatGPTの「幻覚」問題はEUで別のプライバシー侵害に直面している

画像クレジット: オリヴィエ・ドーリエリ/AFP/ゲッティイメージズ

OpenAI は、欧州連合で別のプライバシーに関する苦情に直面しています。 この訴訟はプライバシー権に関わる非営利団体が起こしたもので、 ノイブ 彼は個人の告発者を代表して、AI を活用したチャットボット ChatGPT が個人に関して生成する誤った情報を修正できないことに焦点を当てています。

GenAI ツールが誤った情報を生成する傾向については、十分に文書化されています。 しかし、この技術はまた、地域ユーザーの個人データの処理方法を規定する域内の一般データ保護規則 (GDPR) と衝突するコースにも置かれます。

GDPR に準拠しなかった場合の罰金は、世界の年間総売上高の最大 4% に達する可能性があります。 OpenAIのようなリソースが豊富な巨人にとってさらに重要なことは、データ保護規制当局が情報の処理方法の変更を命令する可能性があるため、GDPRの導入によりEUでの生成型AIツールの運用方法が再構築される可能性があるということだ。

イタリアデータ保護局による早期介入により、OpenAIはすでにいくつかの変更を余儀なくされており、その影響でChatGPTは2023年に一時的にローカルでの閉鎖を余儀なくされた。

今回、noybは、同社のAI搭載チャットボットが誤った生年月日を生成したことを発見した匿名の申立人（「公人」とされる）に代わって、ChatGPTに対する最新のGDPR申し立てをオーストリアデータ保護局に提出した。

一般データ保護規則に基づき、EU の人々は、不正確なデータを修正してもらう権利を含む、自分たちに関する情報に関連するさまざまな権利を有します。 noyb は、OpenAI がチャットボットの出力に関してこの義務を遵守していないと主張します。 彼女は、誤った生年月日を修正することは技術的に不可能であると考え、会社が苦情申し立ての誤った生年月日の修正要求を拒否したと述べた。

代わりに、苦情申し立て者の名前など、特定のプロンプトに基づいてデータをフィルタリングまたはブロックすることを提案しました。

OpenAI プライバシーポリシー AI チャットボットが「あなたに関する不正確な情報」を生成したことに気付いたユーザーは、次の方法で「修正リクエスト」を送信できると記載されています。 プライバシー.openai.com または、dsar@openai.com まで電子メールでご連絡ください。 ただし、同氏はこの部分について、「モデルの動作方法が技術的に複雑であるため、あらゆる場合に不正確さを修正できるわけではない可能性があります。」と警告しています。

この場合、OpenAI は、フォームに記入することで、ChatGPT 出力から個人情報を完全に削除するようユーザーに要求することを提案します。 ウェブフォーム。

AI 巨人にとっての問題は、GDPR の権利が選択的ではないことです。 ヨーロッパの人々には訂正を求める権利があります。 また、自分のデータの削除を要求する権利もあります。 しかし、Noib 氏が指摘するように、OpenAI にはこれらの利用可能な権利を選択する権利がありません。

訴状の他の要素はGDPRの透明性に関する懸念に焦点を当てており、Noib氏はOpenAIが個人に関して生成するデータのソースも、チャットボットが保存する人々のデータも特定できないと主張している。

この規制は、いわゆるサブジェクト アクセス リクエスト (SAR) を提出することでそのような情報を要求する権利を個人に再度与えているため、これは重要です。 しかし、OpenAI は申立人の SAR に対して適切に対応せず、処理されたデータ、そのソース、受信者に関する情報を一切開示しませんでした。

noybのデータ保護弁護士、マーチェ・デ・グラーフ氏は声明でこの訴状について次のように述べた。「虚偽の情報を捏造すること自体が大きな問題だ。 しかし、個人に関する誤った情報となると、深刻な結果が生じる可能性があります。 個人に関するデータを処理する場合、企業が ChatGPT のようなチャットボットを EU 法に準拠させることが現在できないことは明らかです。 システムが正確で透明性のある結果を生成できない場合、そのシステムを個人に関するデータの生成に使用することはできません。 テクノロジーは法的要件に従う必要があり、その逆ではありません。

同社は、オーストリアDPAに対し、OpenAIのデータ処理に関する苦情を調査するよう要請するとともに、今後のコンプライアンスを確保するために罰金を科すよう求めていると述べた。 しかし同氏は、この問題は欧州連合との協力を通じて対処される「可能性が高い」とも付け加えた。

OpenAI はポーランドでも同様の苦情に直面しています。 昨年9月、地元のデータ保護当局は、OpenAIがChatGPTに関する誤った情報を修正できなかったことが判明したプライバシーとセキュリティの研究者からの苦情を受けて、ChatGPTに対する調査を開始した。 この訴状では、AI大手が規制に定められた透明性要件を遵守していないとも非難されている。

一方、イタリアのデータ保護局は依然として ChatGPT に対する公開調査を行っています。 同社は1月に決定草案を発表し、当時OpenAIが人々に関する誤解を招く情報を生成するチャットボットの傾向など、いくつかの点でGDPRに違反していると考えていると述べた。 この調査結果は、治療の合法性など、他の実質的な問題にも関連しています。

イタリア当局はOpenAIに調査結果への対応に1カ月の猶予を与えた。 最終的な決定はまだ保留中です。

現在、チャットボットで新たな GDPR 申し立てが開始されており、OpenAI がさまざまな加盟国にわたる一連の GDPR 施行に直面するリスクが高まっています。

同社は昨秋、ダブリンに地方事務所を開設した。これは、国境を越えた個人情報の監視を簡素化することを目的としたGDPRのメカニズムのおかげで、アイルランドデータ保護委員会によるプライバシー苦情の流用を通じて規制リスクを軽減することを目的としていると思われる。苦情。 企業が「主要企業」である単一の加盟国の当局に顧客を誘導することによって。