カリフォルニア州議員、テクノロジー企業の反対の中、AI安全法案を採決

スコット・ウィーナー州上院議員が起草したカリフォルニア州上院法案1047号は、AI企業に対し安全性をテストするための大規模モデルの構築を義務付ける米国初の法案となる。

カリフォルニア州議会は今議会で人工知能に関連する数十の法案を審議している。しかし、「主要なAIモデルのための安全かつ安全なイノベーション法」と呼ばれるウェイナー氏の提案は、米国のAI開発の主な拠点であるシリコンバレーからの激しい反対のため、全国的な注目を集めた。反対派は、カリフォルニア州で負担の大きい技術要件と罰金を課すことは、イノベーションと同国の世界競争力を抑制するだろうと主張している。

OpenAIは反対を表明し、主張する最新のAI開発者である 水曜日のメッセージで AIの規制は連邦政府に任せるべきであり、法案が可決されれば企業はカリフォルニアから撤退すると主張している。

州立法議会は現在、この法案の採決を予定している。 勝者は最近変更されました テクノロジー業界の批判に応えて同氏は、新しい言語は業界が提起するすべての問題に対応しているわけではないと述べた。

ワイナー氏は月曜日の記者会見で記者団に対し、「これは合理的で軽い法案であり、イノベーションをいかなる形でも妨げることはなく、強力なテクノロジーに伴うリスクを克服するのに役立つだろう」と語った。

この法案は何をするのでしょうか？

この法案は、トレーニングに1億ドル以上かかる大規模なAIモデルを構築する企業に対し、安全性テストを通じて見つかったシステム内の重大なリスクを軽減することを義務付けている。これには、「完全シャットダウン」機能の作成、つまり、壊滅的な状況で安全でない可能性のあるモデルのプラグを抜く方法の作成が含まれます。

開発者はまた、安全リスクに対処するための技術計画を作成し、その計画のコピーをフォームが利用可能な限りプラス 5 年間保持することも求められます。 Google、Meta、OpenAI などの企業は、すでに大規模な AI 運用を行っています。 自主的な取り組み バイデン政権がAIリスク管理の責任を負う可能性はあるが、カリフォルニア州の法律が制定されれば、それらの義務について法的義務と執行義務が課されることになる。

毎年、第三者監査人が企業の法律遵守状況を評価します。さらに、企業は法律の遵守を文書化し、安全に関するインシデントをカリフォルニア州司法長官に報告する必要があります。司法長官事務所は、最初の違反に対して最大 5 万ドルの民事罰金を課し、その後の違反に対してはさらに 10 万ドルの民事罰金を課すことができます。

批判は何ですか?

ハイテク業界の多くは、提案された法案は負担が多すぎると批判した。安全性を重視していると売り出す人気のAI企業アンスロピックは、以前の法案ではAI技術革新を妨げる複雑な法的義務が生じていただろう、例えばカリフォルニア州司法長官が過失で訴訟を起こすことができるなどと主張していた。安全上の災害は発生しません。

OpenAIは、この法案が可決された場合、企業はその要件を回避するためにカリフォルニア州を離れるだろうと示唆した。同氏はまた、州をまたいで混乱を招く一連の法案が制定されるのを防ぐため、AIの規制は議会に委ねるべきだと主張した。

勝者 彼女は答えた。 米上院外交委員会は、企業がカリフォルニア州から逃亡するという考えは「厄介な議論」であると述べ、法案の規定は、たとえ本社がカリフォルニア州になくても、カリフォルニア州住民にサービスを提供する企業には引き続き適用されると指摘した。

先週、米国議会議員8人が発表した。 衝動 ギャビン・ニューサム知事は、人工知能を製造・使用する企業に義務を課すことになる上院法案1047に拒否権を発動する予定だ。ナンシー・ペロシ下院議員は野党の同僚に加わった。 電話 この措置は「善意だが検討不足」だ（ウィナー氏は下院名誉議長の座を狙っており、これにより娘のクリスティーン・ペロシ氏との将来的な対決が必要になる可能性がある） ポリティコによると。）

ペロシ氏と議員らは「人工知能の名付け親」、スタンフォード大学のコンピューター科学者で元グーグル研究者のビビ・リー博士を支持する。最近の論説でリー氏は、この法案は「我が国の新たなAIエコシステムに損害を与える」、特に「今日の巨大テクノロジー企業に比べてすでに不利な立場にある」小規模開発者に損害を与えるだろうと述べた。

サポーターは何と言っていますか？

この法案は、人工知能分野の多くの新興企業から支持を受けた。 Notionの共同創設者 サイモン・ラスト、そして人工知能の「ゴッドファーザー」であるヨシュア・ベンジオとジェフリー・ヒントン。ベンジオ氏は、この法案はイノベーションを促進しながらAIをより安全にするための「前向きで合理的な一歩」になると述べた。

法案支持者らは、適切な安全対策がなければ、監視されていないAIがもたらす悲惨な結果が、重要インフラへのリスク増大や核兵器の製造など、存続の脅威となる可能性があると懸念している。

ウェイナー氏は自身の「シンプルで常識的な」法案を擁護し、最大手のAI企業にのみ安全対策の導入を義務付ける内容だと指摘した。同氏はまた、米国のテクノロジー政策におけるカリフォルニア州のリーダーシップを称賛し、近い将来に議会が人工知能に関する実質的な法案を可決するかどうかについて疑問を投げかけた。

「カリフォルニア州は住民を保護し、議会の無策によって空いた穴を埋めるために繰り返し介入してきた」とウェイナー氏は応じ、データプライバシーやソーシャルメディア規制に関する連邦政府の措置が欠如していることを指摘した。

次は何でしょうか？

ワイナー氏は法案に関する最新の声明の中で、最新の修正案は人工知能業界が表明した懸念の多くを考慮に入れていると述べた。現在のバージョンでは、政府に対する虚偽に対する当初の法案にあった刑事罰ではなく、民事罰を提案している。また、AIモデルを監督する新たな州規制機関を創設するという提案も削除された。

アンスロピーは言った ニューサムへの手紙の中で 改正法案の利点はおそらく AI 業界への潜在的な害を上回る可能性が高く、主な利点は AI の安全性に関する一般大衆への透明性と、企業にリスク軽減への投資を促すことです。しかしアンスロピック社は、広範な制限や報告義務の拡大の可能性について引き続き警戒している。

アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は、そのフレームワークがSB-1047であるかどうかにかかわらず、「これら3つの要件をほぼ満たす、主要なAIシステムを管理するための何らかのフレームワークを用意することが重要だと考えている」と知事に語った。

カリフォルニア州議会は会期末の8月31日までにこの法案を可決する必要がある。承認されれば、9月末までにギャビン・ニューサム知事に最終承認を求めることになる。知事は法案に署名するつもりかどうかは明らかにしていない。