マイクロソフトの従業員は、このAIツールが「性的な」画像を作成する傾向があると述べた。

Microsoftのソフトウェアエンジニアは、同社の取締役会、議員、連邦取引委員会に書簡を送り、テクノロジー大手がAIを活用した画像生成ツールであるCopilot Designerを攻撃的で暴力的なコンテンツの作成から守るために十分な措置を講じていないことを警告した。

Shane Jones 氏は、OpenAI の DALL-E 画像生成ツールの最新モデルに脆弱性を発見し、ツールによる悪意のある画像の生成を防ぐガードレールを回避できるようになったと述べました。 DALL-E モデルは、Copilot Designer などのいくつかの Microsoft AI ツールに含まれています。

水曜日にFTCに送られた書簡によると、ジョーンズ氏はマイクロソフトに調査結果を通知し、ワシントン州レドモンドに本拠を置く同社に対して「より良い安全対策が講じられるまでCopilot Designerを一般使用から外す」よう「繰り返し要請した」と述べた。 ブルームバーグによるレビュー。

「マイクロソフトは、Copilot Designer を、あらゆる年齢の子供を含む誰もが使用できる安全な AI 製品として公に販売していますが、社内では、この製品が消費者にとって不快で不適切な可能性のある有害な画像を作成するというシステム的な問題を強く認識しています。」 ジョーンズは書いた。 「Microsoft Copilot Designer には、消費者がこれらのリスクを認識するために必要な製品警告や開示が含まれていません。」

FTCへの書簡の中でジョーンズ氏は、Copilot Designerが「作成した画像の一部に、不適切で性的に露骨な女性の画像」をランダムに作成する傾向があると述べた。 同氏はまた、このAIツールが「政治的偏見、未成年者の飲酒と薬物使用、企業の商標と著作権の悪用、陰謀論、宗教など、他のさまざまなカテゴリーで有害なコンテンツ」を作成したとも述べた。

FTCは書簡を受領したことを確認したが、それ以上のコメントは控えた。

この批判は、AI ツールが悪意のあるコンテンツを作成する傾向についての懸念の高まりを反映しています。 マイクロソフトは先週、同社のチャットボット「Copilot」が、自殺に関する混合メッセージなど、ユーザーが不快と表現する応答を生成しているという報告を調査していると発表した。 2月には、アルファベット社の主力AI製品「ジェミニ」が、人物の画像を生成するよう求められた際に、歴史的に不正確なシーンを作成したとして批判を浴びた。

ジョーンズ氏はまた、ベニー・プリツカー氏とリード・ホフマン氏がメンバーとして含まれるマイクロソフト取締役会の環境・社会・公共政策委員会にも書簡を送った。 「AIのリスクについて消費者に対する透明性を確保するために政府の規制を待つ必要はないと思う」とジョーンズ氏は書簡の中で述べた。 「当社の企業価値観を考慮すると、特に AI 製品が子供たちに積極的に販売される場合には、既知の AI リスクを自発的かつ透明性をもって開示する必要があります。」

CNBCは先に手紙の存在を報じた。

Microsoftは声明で、「当社のポリシーに従って従業員が抱えるあらゆる懸念に対処することに尽力しており、安全性をさらに高めるために当社の最新技術を研究しテストしようとする従業員の努力に感謝する」と述べた。

OpenAIはコメント要請に応じなかった。

ジョーンズ氏は過去3カ月間に何度か同社に懸念を表明したと述べた。 1月にはワシントン州を代表する民主党のパティ・マレー上院議員とマリア・キャントウェル上院議員、およびアダム・スミス下院議員に書簡を送った。 同氏は書簡の中で、「AI画像生成技術と、これらの製品を開発・販売する企業のコーポレート・ガバナンスと責任あるAI慣行」のリスクを調査するよう議員らに要請した。

議員らはコメント要請に応じていない。

(見出しを除いて、この記事は NDTV スタッフによって編集されておらず、シンジケート フィードから公開されています。)