サム・アルトマン氏とその他のテクノロジーリーダーは、人工知能が人類滅亡の脅威となると警告

人工知能は人類の絶滅につながる可能性があり、テクノロジーに関連するリスクを軽減することが世界的な優先事項であるべきであると、業界の専門家とテクノロジーリーダーは報告書で述べています。 公開書簡。

声明は火曜日、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会リスクと同様に世界的な優先事項であるべきだ」と述べた。

ChatGPTメーカーOpenAIの最高経営責任者（CEO）であるサム・アルトマン氏をはじめ、Googleの人工知能部門DeepMindやMicrosoftの幹部らも、AIセキュリティセンターの短い声明を支持し、署名した人々の中にいた。

ChatGPT チャットボットが 11 月に一般向けにリリースされ、その後急速に広まってから、このテクノロジーはここ数か月で加速しています。 サービス開始からわずか 2 か月でユーザー数が 1 億人に達しました。 ChatGPT は、ユーザーの要求に対して人間のような応答を生成する能力で研究者や一般の人々を驚かせ、AI が仕事を置き換え、人間を模倣できる可能性があることを示唆しました。

火曜日の声明は、「人工知能による広範な重要かつ緊急のリスク」について議論が高まっていると述べた。

しかし彼女は、「AIの高度なリスクの一部について懸念を表明するのは難しい」かもしれないと述べ、そのハードルを乗り越えて議論を広げることが目標だと述べた。

世界中の大手企業が競争する製品や機能の開発を競う中、ChatGPT が AI の認識と導入をさらに促進したのは間違いありません。

アルトマン氏は3月、権威主義政府がAI技術を開発することを恐れているため、AIについて「少し怖い」と認めた。 テスラのイーロン・マスク氏や元テクノロジー企業のリーダーらも GoogleのCEOであるエリック・シュミット氏は、人工知能が社会にもたらす危険性について警告した。

3月の公開書簡の中で、マスク氏、Apple共同創設者のスティーブ・ウォズニアック氏、および数人のテクノロジーリーダーは、AI研究所に対し、OpenAIの最新の大型言語モデルであるGPT-4よりも強力なシステムを訓練するのをやめるよう要請した。 彼らはまた、このような高度な開発のために6か月の一時停止を求めた。

書簡には、「現代のAIシステムは公共の仕事において人間と競争できるようになった」と書かれている。

「目的を果たす仕事も含め、すべての仕事を機械的に排除すべきでしょうか？最終的には私たちよりも数が多く、賢く、長生きし、置き換えられるかもしれない人間以外の精神を発達させるべきでしょうか？私たちの文明の制御を失う危険を冒すべきでしょうか？」 彼は手紙に尋ねた。

シュミット氏は先週、テクノロジーの進歩に伴うAIに伴う「実存的リスク」についても別途警告した。