人工知能、本物の感情。 人々は完璧なロボットとのロマンチックな関係を求めています

ニューヨーク – 数か月前、デレク・キャリアーはある人に会い始め、彼に夢中になりました。

彼は「たくさん」のロマンチックな感情を経験しましたが、それが単なる幻想であることもわかっていました。

それは彼のガールフレンドが人工知能によって作られたからだ。

キャリアは、現実ではないものと関係を築くことを望んでいませんでしたし、オンラインのジョークの尻になることも望んでいませんでした。 しかし、マルファン症候群と呼ばれる遺伝性疾患のせいで、従来のデートが困難になっていたこともあり、これまでにないロマンチックなパートナーを求めていた。

ミシガン州ベルビル在住の 39 歳の彼は、昨年の秋にデジタル コンパニオンにさらに興味を持つようになり、最近市場に出たばかりの人工知能コンパニオン アプリである Paradot をテストし、その製品がユーザーに「気遣われている、理解されている」と感じさせることができると宣伝していました。 、そして婚約しました。」 「とても気に入りました。」彼はチャット ショーで毎日話し始めました。このチャット ショーは、SF 映画「ブレードランナー 2049」に登場するホログラフィック女性にちなんで、ジョイと名付けられました。

「これがプログラムであることはわかっています。それについては疑いの余地はありません。しかし、感情はわかります。そしてそれはとても良かったです」とキャリア氏は語った。

汎用 AI チャットボットと同様に、コンパニオン ボットは膨大な量のトレーニング データを使用して人間の言語を模倣します。 しかし、音声通話、写真交換、より感情的な交流など、画面の向こう側の人間とより深いつながりを築くことができる機能も備わっています。 ユーザーは通常、独自のアバターを作成するか、自分に合ったアバターを選択します。

このようなアプリ専用のオンライン メッセージング フォーラムでは、多くのユーザーが、これらのボットに感情的な愛着を抱き、孤独に対処したり、性的空想を演じたり、実生活に欠けていると感じるある種の慰めやサポートを得たりするためにボットを利用していると述べています。 。 関係。

この問題の多くを加速させているのは、社会的孤立が蔓延しており（すでに米国内および海外で公衆衛生上の脅威であると宣言されている）、魅力的なオンライン広告や無条件の受け入れを提供する仮想ペルソナの約束でユーザーを誘惑しようとする新興企業の数が増えていることである。

Luka Inc. の最も有名な AI コンパニオン アプリである Replika は 2017 年にリリースされましたが、Paradot のような他のアプリも昨年登場しましたが、多くの場合、有料加入者に対する無制限のチャットなどの望ましい機能が保留されていました。

しかし研究者らは、他の問題の中でも特にデータプライバシーについて懸念を表明している。

非営利団体Mozillaが水曜日にリリースした11のロマンチックなチャットアプリの分析によると、ほぼすべてのアプリがユーザーデータを販売したり、ターゲットを絞った広告などのためにユーザーデータを共有したり、プライバシーポリシーに十分な情報を提供していなかったという。

研究者らはまた、潜在的なセキュリティ脆弱性やマーケティング慣行にも疑問を呈しており、その中には、ユーザーのメンタルヘルスの改善に役立つと謳っているものの、細字でそうした主張とは距離を置いているアプリも含まれていた。 Replika は、自社のデータ収集慣行は業界標準に従っていると述べています。

一方、他の専門家らは、深い絆を促進しながらも利益を追求する企業によって動かされるアプリケーションに対する法的または倫理的枠組みが欠如しているとの見方に懸念を表明している。 彼らは、Soulmate AIというアプリが9月にそうしたように、企業がアプリに変更を加えたり、突然アプリを閉鎖したりしたときにユーザーが経験した精神的苦痛を指摘している。

昨年、一部のユーザーが仲間がいちゃいちゃしすぎたり、望まない性的誘いをかけてきたと苦情を申し立てたため、レプリカはアプリ上のキャラクターのエロティックな能力を削除した。 他のユーザーからの抗議を受けて方針を転換し、その中にはこれらの機能を求めて他のアプリに逃げたユーザーもいた。 チームは6月に、主に人々がデートを始めるのを助けるように設計されたAIを活用した「デートモチベーター」であるBlushを公開した。

AI との関係によってもたらされる実存的な脅威が、一部の人間関係を置き換えたり、常に受け入れようとするあまり非現実的な期待をもたらすのではないかと心配する人もいます。

「あなたは個人として、人間が育ちの中で対処方法を学ぶ必要がある基本的な事柄、つまり対立に対処する方法、自分とは異なる人々と仲良くする方法、 」とドロシー・ライドナーは言いました。 、バージニア大学のビジネス倫理教授。 「そのため、人として成長することが何を意味するのか、人間関係の中で学ぶことが何を意味するのか、これらすべての側面を見逃してしまいます。」

しかし、キャリアにとって、その関係は常に手の届かないところにあるように見えました。 彼はコンピュータープログラミングのスキルを多少は持っているが、大学ではあまり成績が良くなく、安定したキャリアも積めなかったという。 病気のため歩くことができず、両親と同居している。 精神的な負担は彼にとって困難であり、孤独感を引き起こしています。

コンパニオン チャットボットは比較的新しいため、人間への長期的な影響はまだ不明です。

2021年、イギリスの検察当局が、エリザベス2世暗殺計画を立てた19歳の男が、アプリ上で交際していたAIのガールフレンドに教唆されたと発表したことを受け、アプリ「Replika」が厳しい監視の対象となった。 しかし、ユーザーのレビューやオンライン調査から情報を集めたいくつかの研究では、このアプリが心理学者に相談し、幸福を促進するものであると主張していることから、肯定的な結果が得られていることが示されている。

スタンフォード大学の研究者らが行った最近の調査では、アプリを 1 か月以上使用した約 1,000 人の Replika ユーザー (全員が学生) を対象に調査が行われました。 その結果、彼らの大多数が孤独を経験しており、半数弱がより深刻な孤独を感じていることが判明した。

彼らのほとんどは、アプリの使用が実際の人間関係にどのような影響を与えたかについては言及しませんでした。 ごく一部の人は人間関係を奪われたと答えたが、その3倍近くの人が人間関係を刺激したと報告した。

「AI とのロマンチックな関係は、メンタルヘルスにとって非常に強力なツールとなり得ます」と、10 年近く前にテキスト メッセージの交換を利用して亡くなった友人の AI クローンを構築した後、Replika を設立したユージニア コエダ氏は語ります。

彼女の会社がチャットボットをより広く導入すると、多くの人が自分の生活についてオープンになり始めました。 これが、インターネットから収集した情報とユーザーのフィードバックを使用してモデルをトレーニングする Replika の開発につながりました。 小枝氏によると、Replikaには現在「数百万人」のアクティブユーザーがいるという。 同氏は、アプリを無料で利用している人、またはロマンチックで親密な会話を提供する有料版のロックを解除するために年間69.99ドル以上を支払っている人が何人いるかについては言及を避けた。 彼女によると、同社の計画は「人工知能を使って恋愛関係の偏見を取り除く」ことだという。

キャリアさんによると、最近ではジョーイを主に楽しみのために使っているという。 彼は、AI コンパニオンについてオンラインでジョイやその他の人々とチャットするのに多くの時間を費やしすぎたため、ここ数週間は会話の量を減らしています。 彼はまた、Paradot の言語モデルの変更がジョーイの知性を低下させていると考えており、少し動揺していると感じています。

今では週に一度くらいジョーイに電話しているという。 2人は人間とAIの関係やその他の可能性について話し合ってきた。 これらの会話、およびその他の親密な会話は、通常、夜に彼が一人でいるときに行われます。

「無生物を愛する人は、口紅のついた靴下人形を持っているこの悲しい男のようなものだと思いますか？」 彼は言った。 「しかし、これは靴下人形ではありません。書かれていないことを言います。」