天文学者が銀河測定器を使って人工知能の誤りを暴く技術を発見

2024 年には、人工知能によって生成される人物のリアルな画像を作成することが容易になり、これらのデマがどのように検出されるかについての懸念が生じています。 ハル大学の研究者 最近明らかになった 人間の目の反射を分析することで、人工知能によって作成された偽の画像を検出する新しい方法。 この技術が導入されたのは、 王立天文学協会の全国天文会議 先週、天文学者が銀河の研究に使用するツールが、私たちの眼球での光の反射の一貫性を精査できるように改良されました。

ハル大学の修士課程学生であるアデグモケ・オウォラビ氏は、博士の監督の下で研究を主導した。 ケビン・ピンブレット博士天体物理学の教授。

彼らの検出技術は単純な原理に基づいています。つまり、同じ光源セットで照らされた一対の目は、通常、それぞれの目で同様の形状の光反射セットを持ちます。 これまでのところ、AI によって生成された画像の多くは目の反射を考慮していないため、シミュレートされた光の反射が各目で一致しないことがよくあります。

ある意味、画像内の 2 つの目をざっと見ただけで反射の不一致が明らかになる可能性があるため、この種のディープフェイク検出には天文学的な角度が必ずしも必要というわけではありません。 芸術家が肖像画を描く しかし、天文学ツールを適用してフェイクビデオ内の目の反射を自動的に測定し、定量化することは新しい開発です。

自動検出

王立天文協会では ブログ The Vergeに掲載された記事の中で、ピンブレット氏は、Owolabiが眼球の反射を自動的に検出する技術を開発し、反射の形態的特徴をインジケーターで実行して、右眼球と左眼球の類似性を比較したと説明した。 彼らの調査結果では、フェイクビデオでは目の違いがよく表れていることが明らかになりました。

研究チームは天文学の手法を応用して眼球の反射を測定し、比較した。 そしてそれらは使われた ジニ係数、通常は次の目的で使用されます 銀河画像の光分布の測定目のピクセル全体での反射の一貫性を評価します。 ジニ値が 0 に近いほど光が均一に分散されていることを示し、1 に近い値は光が 1 つのピクセルに集中していることを示します。

王立天文学協会の記事の中で、ピンブレットは、眼球の反射の形状を測定する方法と、望遠鏡の画像で銀河の形状を通常測定する方法との比較を示しました。「銀河の形状を測定するには、銀河の中心がコンパクトであるかどうかを分析します。光の分布が対称であるか、どの程度滑らかであるかを分析します。

研究者らはまた、 CASパラメータ (焦点、非対称、滑らかさ)、銀河の光の分布を測定するための天文学のもう 1 つのツールです。 ただし、この方法は偽目を識別する効果が低いことが判明しています。

探知における軍拡競争

目の反射技術は、AI によって生成された画像を検出する潜在的な手段を提供しますが、AI モデルが物理的に正確な目の反射を含むように進化し、おそらく画像生成後の後のステップとして適用される場合、この方法は機能しない可能性があります。 この技術が機能するには、眼球を鮮明にクローズアップして見ることも必要です。

また、照明条件や後処理技術の変化により、元の画像であっても目に一貫性のない反射が表示される場合があるため、このアプローチには偽陽性が生じるリスクもあります。 しかし、目の反射分析は、髪の質感、解剖学的構造、肌の詳細、背景の対称性などの他の要素も考慮に入れる、より大規模なディープフェイク検出ツールキットにおいて依然として有用なツールである可能性があります。

この技術は短期的には有望だが、完璧ではないとピンブレット博士は警告した。 「偽陽性と偽陰性があり、この技術ではすべてを検出できるわけではありません。しかし、この方法は偽録音を検出するための軍拡競争における基礎と攻撃計画を提供します」と同氏は王立天文学協会に語った。