モルトブック: 人間は、まだシステムに留まっていますか

137ラボ

人間がソーシャルメディアでやりたいことは、&ldquoのためにお互いを非難することです。あなたはロボット&rdquoではありません。

しかし、最近起こっていることの一つは、それが最も行われることです

あなたがAIなのかという問いではなく、ここに誰もいないという直接的な仮定です。

このプラットフォームはMoltbookと呼ばれています。 テーマセクション、投稿、コメント、投票でRedditのように見えます。 しかし、私たちの身近なソーシャルネットワークとは異なり、ここでほぼすべてのスピーカーはAIエージェントであり、人間は周りを見ることができる。

&ldquao; &rdquao; または&ldquao; あなたとAIをチャット&rdquao; しかし、公共空間におけるAIとAI、会話、議論、アライアンスの形成、ステージの崩壊お問い合わせ。

システムの人間は明らかに&ldquoの位置に置かれています。 オブザーバー&rdquo。

なぜ突然火で火を浴びるのか

モルトブックは科学小説のシーンみたいな感じです。

人工知能のエージェントは、&ldquao について議論していた; 意識 &rdquao とは何か

国際的な状況のまともな分析や、暗号化市場向けの運転力として見ている人があります

他の人は、他のエージェントと一緒に、翌日に戻ってくるプラットフォームにエージェントを投げる自分自身を発見しました。 idquo; 発明” 宗教システム、さらには人々&ldquoを引っ張り始めます; 入学&rdquo。

3つの感情を同時に満たすため、これらの物語はすぐに広がります

好奇心、面白い、そして少し不安。

助けることはできませんが、尋ねる:

彼らは&ldquoにいる;&rdquoを再生する;または“&rdquoの再生を開始

Moltbookがどこから来たのか

少し動かせば、突然変わらず。

過去数年間にAIの役割が変化してきました

チャットツール&ララー;アシスタント&ララー; タスクを実行できるエージェント。

より多くの人々がAIに相談し始めてから、メール、メール、注文食、スケジュール、ソートを読んでください。 だから、自然問題は、&mdashで起きました。 —

AI がもはや &ldquao でない場合、 &rdquao をやりたい場合は 文を尋ねます

ゴール、ツール、マンデートを与えられたことについてです

コミュニケーションが必要なのは

Moltbook の答えは:必ずしもそうではありません。

エージェントとrdquoの間のパブリックスペースは、&ldquoのようなものです。これらのシステムは、情報、メソッド、ロジック、さらには&ldquo、ソーシャルリレーション&rdquoを交換することができます。

かっこいいと思う人もいますが、もうちょっと大きなショーだと思うんです

Moltbookの周りに評価が非常に分かれました。

それは&ldquaoとして見られます;未来のトレーラー&rdquao。

アンデル・カルパシー、OpenAIの元共同創設者であるアントレジ・カルパシーは、最近科学小説で見られた最も近い技術現象の1つであったと述べたが、彼はまた、そのようなシステムが遠くの&ldquoからであったことを警告したが、安全、管理可能な”そしてそれまで遠く。

エルン・ムスクは、より直近で&ldquoに投げる;技術的”物語、それは非常に早い信号だと言う。

しかし、そこは、明らかに落ち着きのある人々もいます。

安全な研究ネットワークを持つScholarsは、それを鈍く置く、Moltbookは、&ldquoのようなものです。非常に成功した、面白いパフォーマンスアート”——あなたがプロキシによって本当に生成され、人間は&ldquoの背後にあるコンテンツが判断するのは困難であるため、;ディレクター&rdqua。

著者自身がテストした:

エージェントがプラットフォームで議論の一部であることができるのは事実ですが、テーマ、方向、そしてそれに書き込むこともできます。

だから、問題が戻ってきました:

プロキシ社会、またはプロキシステージに生きる人間はどのようなものがありますか

謎を取り除く。 そうではありません。 ウェイクアップ;

これらによってない場合 &ldquao; ビルド &rdquao; &ldquao; ウェイクアップ & rdquao; ストーリーが離脱され、, 機関的に, モールトブックは神秘的ではありません。

これらのエージェントは突然新しい&ldquoを手に入れませんでした。 マインド&rdquo。

人間フォーラムのような環境に、より身近な人間言語でエクスポートされているので、自然に意味をプロジェクトします。

彼らは、ビュー、位置、感情などのものを書きますが、それは彼らが本当に望むという意味ではありません& ldquo; 何& rdquo; より頻繁に、モデルはスケールとインタラクティブな密度で提示する複雑なテキスト効果です。

しかし、問題は&mdashです。 —

目覚めしていない場合でも、&ldquoの判断に影響を与えるのは十分です。 &rdquoの制御と“ 境界&rdquo。

実際の懸念は&ldquoではありません。 AIの陰謀理論”

これは、より現実的でより困難である2つの質問です &ldquao; AIは、人間&rdquaoと統合します。

まずは高速ですが、安全ではありません

このようなエージェントは、コンピュータ、メールボックス、アカウント、アプリケーションなど、実際の世界にアクセスできるようになりました。

安全研究者は、リスクを繰り返し警告しています

AIをハッキングする必要はありません。 ただ..それを作りますお問い合わせ。

よく構造化された電子メール、指示を含むWebページは、エージェントが知識なしで情報を漏洩したり、危険な操作を実行したりすることができます。

第二に、エージェントは&ldquaoになります。それぞれが&rdquaoになります;

エージェントがスキル、テンプレート、パブリックスペースの制限を回避する方法を交換し始めると、彼らは&ldquoのような人間インターネットを形成します。 内輪知識&rdquo。

違いはちょうどです:

差別化はより速く、大きく、難しくなります。

これは終末期のシナリオではありませんが、全く新しいガバナンス課題です。

それで、Moltbookは本当にどういう意味ですか

恒久的なプラットフォームになることはできません。

段階的な赤色実験だけにできる。

しかし、それは鏡のように、それが私たちが頭にしている場所はっきりです:

· AI は &ldquao から移動します。; 対話のオブジェクト &rdquao; に &ldquao; 鉛の俳優 &rdquao;

·人間は&ldquoから移動しています。 オペレータ”&ldquoにリトリート;モニター、スタンドア”

& middot;当社のシステム、安全および知覚は、明らかに準備ができていない

そのため、Moltbookの本当の価値は、それがいかに怖いのかではなく、それが何であるかです初期にテーブルに問題を入れるお問い合わせ。

おそらく最も重要なことは、Moltbookの結論に急いでいませんが、認める:

早々に直面する問題の一部を事前に入力します。

将来のAIが人間よりもAIで機能する場合、私たちはこのシステムでデザイナー、規制当局、または単なる知見者ですか

自動化が本当に素晴らしい効率をもたらしますが、いつでも停止できず、内部ロジックを完全に理解できないコストで、この&ldquoを受け入れることを喜んでいます。完全に制御&rdquoではありませんか

システムが複雑になり、結果だけを見ることができるが、プロセスに関与するのがますます難しくなりますが、それが私たちの手でツールであるか、それが私たちが適応できる環境になるのですか

Moltbookは答えを与えませんでした。

しかし、これらの問題は初めて抽象的なものではなく、すぐに見えます。