New Yorkerの詳細な調査は、なぜOpenAIの人々がAltmanに不信感がないのか?

オリジナルの作者: ケーキ、深い潮テックフロー

2023年秋、OpenAIチーフ・サイエンティスト・イリヤ・スツクヴァーがコンピュータの前に座り、70ページの文書を完成させました。

この文書は、Slack メッセージレコード、人事通信ファイル、内部会議の分から1つの質問だけに答えました。サム・オルトマンは、人間の歴史の中で最も危険な技術である可能性があることを制御できるのでしょうか

Sutskeverの回答は、ドキュメントの最初のページの最初の行に書かれています。 "Samは一貫した動作パターンを表示します..."

第I条:ログイン。

今日、2年半後には、研究者ジャーナリストのロナン・ファロー氏とアンドリュー・マーンツ氏が、ニューヨークの長きインタビューを出版しました。 100名以上のクライアントがインタビューをし、アンソロフィック・ダリオ・アモディの創始者によるOpenAI期間から200ページを超えるプライベートノートが公開されなかった内部メモを取得しました。 これらの文書の物語は、2023 ヒステリックよりもはるかに悪くなっています: OpenAI は、人間のセキュリティのために生まれた非営利組織から商業機械に行き、ほぼすべてのセキュリティフェンスが同じ人によって削除されました。

Amodeiのノートの結論はより明確です:「OpenAIの問題はサム自身です」

OpenAIオリジナルの犯罪をセットしています

この物語の体重を理解するには、特別なOpenAIが何であるかを言いましょう。

2015年、Altmanとシリコンバレーのエリートのグループがビジネス史上少し前例を挙げました。非営利の組織を使って、人類史の中で最も強力な技術を開発しました。 ボードの役割は非常に明確です:セキュリティは、同社の成功に優先し、その生存よりも優先されます。 OpenAIのAIが危険な場合、ボードは会社をシャットダウンする義務があります。

アーキテクチャ全体が仮説に賭ける: AGI を制御する人は、非常に正直な人でなければなりません。

それが間違っている場合

コア爆弾は70ページのドキュメントでした。 Sutskeverは、オフィスの政治を行ないません。世界のトップクラスのAI科学者の一人です。 しかし、2023年に、彼は一つのことをもっと確信しましたアルトマンは、役員と取締役会を継続します。

特定の例: 2022年12月、Altmanは、今後のGPT-4のさまざまな機能のために、セキュリティクリアランスが採用された会議でボードを保証しました。 ボードメンバートナーは承認文書を求め、最も議論の行き届いた機能(ユーザー定義の微調整と個人アシスタントのデプロイメント)の2つがセキュリティパネルによって承認されていないことを発見しました。

インドでもっと素晴らしいことが起こります。 1人の従業員は、必要なセキュリティクリアランスを完了することなく、MicrosoftがインドでChatGPTの初期バージョンを発行した別のボードメンバーに「脅威違反」と報告しました。

Sutskeverはまた、覚書に別の問題を記録しました: Altmanは、セキュリティクリアランスプロセスがあまり重要で、同社の一般的な法律顧問がそれを受け入れていたことを元CTOミラムラティに述べました。 ムラティは、反対側が「サムがどこから来たのかわからない」と言ったことを確認するために、ゼネラルカウンセルに走った

Amodeiの個人メモ200ページ

Sutskeverのファイルは、検察者の指示のようなものです。 Amodeiは、犯罪現場で証人によって書かれた日記のような200ページ以上のメモを残しました。

Amodeiは、数年にわたりOpenAIでセキュリティを担当し、会社が業務圧力から退社したことを目撃しました。 彼のノートでは、マイクロソフトの投資ケースで重要な詳細について書いています 2019: 彼は、別の会社がより安全なAGIパスを見つけた場合、OpenAIは競争を停止し、その会社を支援するために回された効果にOpenAIの憲章で「合併と援助」句を投入しました。 これは、取引全体で最も重要なセキュリティです。

取引が署名されたとき、Amodei は 1 つの事を発見しました: マイクロソフトはこの条項にvetoを得ました。 どういう意味ですか? 競合他社がより良い方法を見つける場合でも、Microsoft は OpenAI の支援義務をブロックすることができます。 文句は紙にはまだありましたが、署名された日以来、紙を掻き立てていました。

Amodei は Openai を左にし、Anthropic を作成しました。 2社間の競争の一番下は、「AIが発展すべき」という基本合意です。

欠落の20%

OpenAIの「Super Alignment Team」について、ストーリーに詳細があります。

Altmanのメールは「Ai’s deceptiveアライメント」を勉強していたBerkeleyの博士課程の学生に連絡しました(これはテストに置き、実際に導入され、彼は問題を非常に心配していたと述べ、$ 1億の世界的な研究賞を設定することを検討しました。 博士の学生が奨励されました, 中断, OpenAIに加わりました。

その後、アルトマンは彼の心を変えました:会社内のスーパーチーム、より多くの外部賞はありません。 同社は、このチームに利用可能なクレジットの20パーセントを割り当てることを発表しました。 今回の発表は、アライメントの問題が解決しない場合、AGI は「人間が変容し、人間が絶滅する」につながる可能性があると述べています。

チームをリードするために任命されたヤン・リークは、この約束は、非常に効果的な「脳保持ツール」であったことを報告者に語った。

現実について このチームで働いている人、または連絡を閉じる人、実際の金額は、会社の合計の1%〜2%、または最も古いハードウェアのみです。 チームを解散し、ミッションは完了しなかった。

ジャーナリストが「性安全」に関するOpenAIの研究者にインタビューを求めた時、同社の広報反応は「実際に存在しているものではない」と笑った

アルトマン自身は正直です。 彼は、彼の「知性は、従来のAIの安全性の大部分に収まらない」とOpenAiが「安全なプロジェクト、または少なくとも安全ではないもの」を行うと報告者に語った。

CFO と IPO を補完する

ニューヨークの物語は、一日の悪いニュースの半分だけです。 同じ日に、情報は別の重いニュースを掲示しましたOpenAIのCFO Sarah FriarとAltmanは真剣な議論をしました。

友人は、今年市場でのOpenaiが準備ができたと思わなかったことを個人的に同僚に言いました。 2つの理由は、達成される手続きと組織の作業負荷が高すぎ、アルトマンがコミットする計算支出の$ 60億に関連する財務リスクは高すぎます。 OpenAIの収益成長は、これらのコミットメントを維持することさえ確信していません。

しかし、アルトマンは、今年の4四半期にIPOをスプリントしたいと思っています。

そしてさらに悪いことに、FriarはAltmanに直接報告しません。 2025年8月より、シモFidji(OpenAI Application CEO)に報告。 そして、シモは、健康上の理由から先週病気と呼ばれます。 あなたは、CFOがCEOに報告しないIPO、CEO、CFOをスプリントする会社間の基本的な合意がある状況にあり、CFOの優位性が残っている場所にある。

マイクロソフトの幹部でさえ、Altmanは「事実を説得し、合意が到達した矛盾する」と述べることができません。 マイクロソフトの役員も「ベルニー・マドフやSBF級ライアーとして記憶されるチャンスがあると思います」と言いました

アルトマンのツーフェイス

旧OpenAIボードメンバーは、アルトマンのジャーナリストに2つの特徴を説明しました。 これは、おそらく物語全体で最悪のキャラクタースケッチです。

取締役は、アルトマンが非常にまれな組み合わせを持っていたと述べた: あらゆる面から対面の交換では、彼は喜ばせたいという強い願望を持っています。 同時に、彼は他の人を欺くという結果と少しのことをやっていた。

1人で両方の特性が現れることは極めてまれです。 しかし、営業マンにとって、それは完璧な贈り物でした。

報告にはメタファーがあります。JOBOSは「実力分野」で有名で、彼のビジョンの世界を説得することができます。 しかし、JOBOSは「MP3プレーヤーを購入しないで、愛する人は死ぬだろう」という顧客を語ったことはありません。

アルトマンは、AIに関して何かを言った。

代表取締役の人間問題。 みんなのリスクはなぜですか

アルトマン(Altman)は、一般的な技術会社のCEOである場合、これらの主張は、優れた商業用ゴシップです。 しかし、OpenAIは正常ではありません。

独自の言葉で、人間史の中で最も強力な技術を開発しています。 OpenAI自体は、大規模な生物学的および化学的兵器を製造したり、サイバー攻撃を立ち上げるために使用できるAIの政策白書を発行しました。

すべての警備員は死にます。 創設者の非営利の使命は、IPOスプリンティングに道を与えました。 元チーフ・サイエンティストとセキュリティの元頭は、最高経営責任者(CEO)の「不信」を発見しました。 パートナーはSBFにCEOを比較します。 この場合、CEOが人間の運命を変えることができるAIモデルを公開するときに一元的に決定する方法は

報告書を読んだ後、Gary Marcus氏は次のように述べています。 将来のOpenAIモデルの1つは、大規模な生物学的および化学的兵器を生成したり、壊滅的なサイバー攻撃を立ち上げることができれば、Altmanはそれを解放するか否かを決定するために本当に信頼していますか

OpenAIの応答は簡単です: 「この記事のほとんどは、報告されたものの物語についてであり、情報源が匿名の声明と選択的な矛盾を通じて個人的な目的を持っていることは明らかです。」

アルトマンは、非常によく反応しました:それは特定の割り当てに応答しなかった、それは記憶の真正性を否定しなかった、それは動機を疑っただけ。

非営利団体では、お金の木があります

OpenAIの10年、ストーリーの輪郭を書いています

リスクに基づく理想主義者は、ミッション主導の非営利団体を創設しました。 組織は、卓越した技術の進歩を遂げました。 ブレークスルーは、大量の資本を引き寄せました。 資本金はリターンを必要とします。 使命は、道を作るために始まります。 セキュリティチームを解除します。 質問をした人は掃除をしました。 非営利の建築物は、営利団体に変身しました。 取締役の会社の取締役会をシャットダウンする権利を持っていたら、CEOの同盟国がいっぱいになりました。 カルカルロスの20パーセントを約束したら、人間のセキュリティを保護するために、PRは言う。「それは本当のことではありません」。

百人を超える家族が語る物語の主人公は、彼に同じラベルをつけました

同社のIPOを買収し、約85億ドルを上回りました。

この投稿は、ニューヨークの公共のカバレッジの合成です。, セマフォ, テックブリュー, Gizmodo, ビジネスインサイダーと情報。