ジェフリー・ヒントンがテクノロジーについて「口笛を吹く」べきだと決めた理由

ニューヨーク (CNN) 「ジェフリー・ヒントン」としても知られる人工知能のゴッドファーザー彼は、自分が開発を手伝った技術がどれほど賢いか心配した後、「口笛を吹く」必要があると判断した、と彼は火曜日にCNNに語った。

「私はただの科学者であり、これらのものが私たちよりも賢くなっていることに突然気づきました」とヒントンは火曜日のインタビューでCNN特派員のジェイク・タッパーに語った. 「口笛を吹いて、これらのものが私たちを乗っ取らないようにする方法について真剣に心配する必要があると言いたい.

ヒントンのニューラル ネットワークに関する先駆的な研究は、今日の製品の多くを支える人工知能システムを形成しています。 月曜日に、彼は 10 年間働いた Google での地位を離れ、テクノロジーに対する懸念の高まりについて率直に話すことを見出しました。

月曜日のインタビューで ニューヨークタイムズ彼の動きを最初に報告したヒントンは、AI が職を奪い、「多くの人がもはや何が正しいか分からなくなる」世界を作り出す能力について心配していると語った。 彼はまた、彼や他の人々が予想していたものをはるかに超えた驚くべき進歩のペースにも注目しました。

「それが私たちよりも賢くなったら、それは私たちからそれを学んでいたので、操作が非常に得意だったでしょう。そして、より知的なものがより知的なものによって制御された例はほとんどありません」とヒントンはタッパーに語った. 火曜日。

「彼女はプログラミングの方法を知っているので、私たちが彼女に課した制限を回避する方法を見つけ出すでしょう。彼女は、人々が望むように操作する方法を見つけ出します。」

AI に関する懸念を率直に表明しているテクノロジ リーダーはヒントンだけではありません。 多くのコミュニティメンバーが署名しました 3月のメッセージ 「社会と人類に対する深刻なリスク」を理由に、最も強力な AI システムのトレーニングを少なくとも 6 か月間中止するよう AI ラボに要請する。

メッセージ、 公開された 非営利団体である Future of Life Institute から 対応 イーロン マスク著、OpenAI からわずか 2 週間後 発表 ChatGPT をサポートするバイラル チャットボット テクノロジーのより強力なバージョンである GPT-4。 初期のテストと同社のデモでは、GPT-4 を使用して訴訟を起草し、標準化されたテストに合格し、手書きのスケッチから実用的な Web サイトを構築しました。

書簡の署名者の 1 人である Apple の共同創業者であるスティーブ ウォズニアック氏は、火曜日の「CNN This Morning」に出演し、偽情報を広める能力について懸念を表明しました。

ウォズニアック氏はCNNに対し、「あなたをだまそうとする人にとって、だますのははるかに簡単になるでしょう。 「私たちはその点に関して何の変更も行っていません。私たちが持っている法律がそれを処理すると仮定しているだけです。」

ウォズニアック氏はまた、「何らかの組織」が必要になるかもしれないとも語った。

ヒントン氏はCNNに対し、請願書には署名していないと語った。 「進歩を止めることはできないと思う」と彼は言った。 「AIへの取り組みをやめるべきだという嘆願書には署名しませんでした。なぜなら、アメリカの人々がやめても、中国の人々はやめないからです。」

しかし、彼は、代わりに何をすべきかについて明確な答えがなかったことを認めました.

「この問題を解決できるかどうかは、私にはわかりません」とヒントンはタッパーに語った。 「私たちは問題を解決する方法を考えることに多くの努力を払わなければならないと思います.私は現時点で解決策を持っていません.」