5人の著名な上院議員（民主党）は、OpenAIのCEOであるサム・アルトマンに対し、同社の安全性と雇用慣行について明らかにするよう求める手紙を送りました。
この手紙には、ブライアン・シャッツ、ベン・レイ・ルハーン、ピーター・ウェルチ、マーク・R・ワーナー、アンガス・S・キング・ジュニアの各上院議員が署名しており、OpenAIが安全で責任あるAI開発の目標に対してどれだけ真剣に取り組んでいるかについての最近の報告に対する懸念を示しています。
上院議員たちは、国家の経済競争力と地政学的立場にとってAIの安全性が重要であることを強調し、サイバーセキュリティツールの開発において米国政府や国家安全保障機関と協力しているOpenAIの役割を指摘しています。
「国家と経済の安全保障は、アメリカ合衆国政府の最も重要な責任の一つであり、安全でない、または脆弱なAIシステムは容認できません」と手紙には書かれています。
議員たちは、2024年8月13日までに以下の主要な分野について詳細な情報を提供するよう求めています：
- AI安全性研究にコンピュータ資源の20％を割り当てるというOpenAIのコミットメント
- 現在および元従業員に対する非中傷協定に関する同社の立場
- 従業員がサイバーセキュリティおよび安全性の懸念を提起するための手順
- AIモデル、研究、知的財産の盗難を防ぐためのセキュリティプロトコル
- 報復禁止政策と内部告発者チャネルに関するサプライヤー行動規範の遵守状況
- 専門家による独立したシステムテストと評価の計画
- 米国政府機関に対する将来の基盤モデルの配備前テストのコミットメント
- 展開後の監視実践と展開モデルからの学び
- 展開モデルに関する過去の影響評価の公開計画
- バイデン・ハリス政権への自主的な安全性およびセキュリティコミットメントの文書化
議員たちの問い合わせは、OpenAIに関する最近の論争にも触れています。これには、安全性慣行に関する内部紛争やサイバーセキュリティ違反の報告が含まれます。彼らは特に、「会社の慣行について公に懸念を表明する従業員を罰するために使用される可能性のある他の条項を雇用契約から削除することを約束するかどうか」を尋ねています。
この議会の監視は、AIの規制と安全対策に関する議論が高まる中で行われています。手紙は、昨年ホワイトハウスに対して主要なAI企業が行った自主的なコミットメントに言及し、これらを「AIの安全性とセキュリティに対する信頼を構築するための重要な一歩」として位置づけています。
昨年英国で開催されたAIセーフティサミットで、カマラ・ハリスは「今こそ行動が求められる脅威が他にもあります。これらの脅威は現在、害をもたらしており、多くの人々にとっても存在するように感じられます… AI対応の虚偽情報や誤情報の洪水のために、事実と虚構を区別できないとき、世界中の人々にとっても脅威です」と述べました。
UNMissのコンサルタントであるチェルシー・アルベスは、「カマラ・ハリスのAIと大手技術規制に対するアプローチは、彼女が大統領選挙に出馬する中で、タイムリーで重要です。彼女の政策は、現代技術と個人のプライバシーの複雑さをどのようにナビゲートするかについて新しい基準を設定する可能性があります」とコメントしました。
OpenAIからの回答は、AIガバナンスの未来や技術企業と政府の監督機関との関係に大きな影響を与える可能性があります。
