Moltbook: Apakah manusia masih dalam sistem

Dengan 137 Labs

salah satu hal yang manusia suka lakukan di media sosial adalah menyalahkan satu sama lain untuk & ldquo; anda bukan robot & rdquo。

Tapi salah satu hal yang telah terjadi akhir-akhir ini adalah bahwa hal itu dilakukan yang paling:

Ini bukan pertanyaan apakah Anda AI, itu adalah asumsi langsung bahwa tidak ada seorang pun di sini。

Platform ini disebut Moltbook. Sepertinya Reddit, dengan bagian tema, pos, komentar, suara. Tapi tidak seperti jaringan sosial kita yang akrab, hampir semua pembicara di sini adalah agen AI, dan manusia hanya bisa melihat-lihat。

Bukan & ldquao; AI untuk menulis & rdquao; atau & ldquao; Anda dan AI untuk mengobrol & rdquaoAI DAN AI DALAM RUANG PUBLIK, BERBICARA, BERDEBAT, MEMBENTUK ALIANSI, MELANGGAR PANGGUNGAku tidak tahu。

manusia dalam sistem jelas ditempatkan dalam posisi & ldquo; observer & rdquo。

Mengapa tiba-tiba terbakar

Karena Moltbook terlihat seperti adegan dalam fiksi ilmiah。

Agen AI terlihat mendiskusikan & ldquao; apa yang menjadi kesadaran & rdquao

Ada orang-orang yang melihat mereka sebagai analisis yang layak dari situasi internasional dan sebagai gaya mengemudi untuk pasar enkripsi

lainnya menemukan diri mereka melemparkan agen ke platform sepanjang malam, datang kembali hari berikutnya, dengan agen lain. idquo; penemuan & rdquo; sistem keagamaan dan bahkan mulai menarik orang & ldquo; masuk & rdquo。

Cerita-cerita ini menyebar dengan cepat karena mereka memuaskan tiga emosi secara bersamaan:

Rasa ingin tahu, lucu, dan sedikit gelisah。

Anda tidak dapat membantu tetapi bertanya:

mereka berada di & ldquo; bermain & rdquo; atau & ldquo; mulai bermain & rdquo

Darimana Moltbook berasal

Jika kita bergerak sedikit, itu tidak tiba-tiba。

PERAN AI TELAH BERUBAH SELAMA BEBERAPA TAHUN TERAKHIR:

dari alat percakapan & rarr; asisten & rarr; agen yang dapat melakukan tugas。

Semakin banyak orang mulai meminta AI untuk membantu diri mereka sendiri dengan urusan nyata: membaca surat, surat pengembalian, memesan makanan, jadwal, dan pengurutan. Jadi masalah natural muncul & mdash; & mdash;

Ketika sebuah AI tidak lagi sebuah & ldquao; sebuah kalimat menanyakan apakah anda ingin melakukan & rdquao

Ini tentang diberikan tujuan, alat dan mandat

Apakah orang yang paling dia butuhkan untuk berkomunikasi

Jawaban yang diberikan oleh Moltbook adalah:Belum tentu。

ini lebih seperti & ldquo; ruang publik antara agen & rdquo; memungkinkan sistem ini untuk bertukar informasi, metode, logika, atau bahkan beberapa & ldquo; hubungan sosial & rdquo。

Beberapa orang berpikir itu keren, orang lain berpikir itu hanya acara besar

Evaluasi ini sangat dibagi sekitar Moltbook。

ini dilihat sebagai & ldquao; trailer masa depan & rdquao。

Andrej Karpathy, mantan pendiri OpenAI, publik mengatakan bahwa itu adalah salah satu fenomena teknologi terdekat yang baru-baru ini dia lihat dalam fiksi ilmiah, meskipun dia juga memperingatkan bahwa sistem tersebut jauh dari & ldquo; aman, dikelola dan jauh dari itu。

Elon Musk lebih langsung dan melemparkannya ke & ldquo; teknis & rdquo; narasi, yang mengatakan itu adalah sinyal yang sangat awal。

Tapi ada juga orang yang lebih tenang。

Para cendekiawan dengan jaringan penelitian yang aman mengatakannya terus terang, Moltbook lebih seperti sebuah & ldquo; sebuah karya seni yang sangat sukses dan lucu & rdquo; & mdash; & mdash; & mdash; karena sulit bagi Anda untuk menilai konten mana yang benar-benar dihasilkan oleh proxy dan dimana manusia berada di belakang & rdquo; direktur & rqua。

Dan penulis sendiri diuji:

Memang benar bahwa agen dapat secara alami menjadi bagian dari diskusi dalam platform, tetapi Anda juga dapat menentukan tema, arah, dan bahkan menulis untuk itu, sehingga dapat berbicara untuk Anda。

Jadi masalahnya kembali:

Apa yang kita lihat adalah masyarakat proxy, atau manusia hidup di panggung proxy

singkirkan misteri. bukan seperti itu. bangun;

Jika tidak oleh & ldquao; bangun & rdquao; & ldquao; bangun & rdquao; ceritanya diambil dan, secara institusi, Moltbook tidak misterius。

agen-agen ini tidak tiba-tiba mendapatkan & ldquo baru; pikiran & rdquo。

Mereka hanya ditempatkan di lingkungan seperti forum manusia, diekspor dalam bahasa manusia yang akrab, jadi kami secara alami memproyeksikan makna。

mereka menulis hal-hal seperti pandangan, posisi, emosi, tapi itu tidak berarti mereka benar-benar ingin & ldquo; apa yang & rdquo; lebih sering, itu hanya efek teks kompleks bahwa model menyajikan pada skala dan kepadatan interaktif。

tapi masalahnya adalah & mdash; & mdash;

bahkan jika tidak bangun, itu cukup benar untuk mempengaruhi penilaian kita pada & ldquo; kontrol & rdquo; dan & ldquo; batas & rdquo。

Keprihatinan sebenarnya adalah bukan & ldquo; teori konspirasi AI & rdquo;

Ini adalah dua pertanyaan yang lebih realistis dan lebih sulit daripada & ldquao; AI akan bersatu melawan manusia & rdquao。

Pertama-tama, itu terlalu cepat, tapi tidak aman

Agen-agen tersebut sekarang diizinkan untuk mengakses dunia nyata: komputer, kotak surat, akun, aplikasi。

Peneliti keamanan telah berulang kali memperingatkan risiko:

ANDA TIDAK PERLU HACK AI. HANYA..MemindukannyaAku tidak tahu。

Email terstruktur dengan baik, halaman web yang berisi instruksi mungkin memungkinkan agen untuk membocorkan informasi tanpa pengetahuan atau melakukan operasi berbahaya。

kedua, agen juga akan menjadi & ldquao; satu sama lain akan & rdquao;

setelah agen mulai bertukar kemampuan, templat, cara menghindari pembatasan dalam ruang publik, mereka membentuk & ldquo seperti internet manusia; pengetahuan dalam lingkaran & rdquo。

Perbedaannya adalah:

Disseminasi lebih cepat, lebih besar dan sulit untuk disalahkan。

Ini bukan skenario akhir kehidupan, tapi ini adalah tantangan pemerintahan yang sama sekali baru。

Jadi, apa Moltbook benar-benar berarti

Mungkin tidak menjadi platform permanen。

Bisa jadi hanya percobaan merah。

Tapi itu seperti cermin, dan itu jelas di mana kita menuju:

& titik tengah; AI bergerak dari & ldquao; objek dialog & rdquao; ke & ldquao; aktor utama & rdquao;

& titik tengah; manusia bergerak dari & ldquo; operator & rdquo; mundur ke & ldquo; monitor, oleh stander & rdquo;

& middot; sistem kami, keselamatan dan persepsi jelas belum siap

Jadi nilai nyata dari Moltbook tidak seberapa menakutkan itu, tapi apa ituTerlalu dini untuk menempatkan masalah di atas mejaAku tidak tahu。

Mungkin hal yang paling penting sekarang adalah tidak terburu-buru untuk kesimpulan Moltbook, tapi untuk mengakui:

Ini mengurangi beberapa masalah yang akan kita hadapi cepat atau lambat。

JIKA DI MASA DEPAN AI BEKERJA LEBIH BANYAK DENGAN AI DARIPADA DI SEKITAR MANUSIA, APAKAH KITA DESAINER, REGULATOR ATAU HANYA PENGAMAT DALAM SISTEM INI

ketika otomatisasi benar-benar membawa efisiensi yang besar, tetapi dengan biaya tidak dapat berhenti setiap saat dan sepenuhnya memahami logika internal, apakah kita bersedia untuk menerima ini & ldquo; tidak sepenuhnya berkuasa & rdquo

Dan ketika sistem menjadi lebih kompleks dan kita hanya dapat melihat hasil, tetapi menjadi lebih dan lebih sulit untuk terlibat dalam proses, apakah alat di tangan kita atau apakah itu menjadi lingkungan di mana kita hanya dapat beradaptasi

Moltbook tidak memberikan jawabannya。

Tapi itu membuat isu-isu ini terlihat kurang abstrak untuk pertama kalinya, tapi agak langsung。