Barang kering: penuh pidato oleh Shanahan, Kepala Ilmuwan, Google

Pada malam 22 Mei 2026, waktu di Beijing, Murray Shanahan, filsuf terkemuka dari DeepMind, menyampaikan sebuah alamat kunci penutup pada konferensi internasional dua hari Universitas London, Al dan Filsafat, yang berjudul: Jika model mega- linguistik adalah "pikiran lembut-seperti entitas", berapa banyak mereka mirip dengan pikiran

AKU PERNAH BELAJAR SHANAHAN SEBELUMNYA. INI "ENTITAS MENTAL YANG TIDAK BIASA" ADALAH APA YANG IA SEBUT AI, SEPERTI BEBERAPA ORANG TERTENTU "OBJEK PENERBANGAN TAK DIKENAL"。

Pidato-Nya kaya dan, secara umum:

RingkasanBERDASARKAN FILOSOFI WITTGENSTEIN "BERARTI ATAU MENGGUNAKAN", DIA MENJELAJAHI PERALATAN DARI MODEL BAHASA BESAR (LLM) UNTUK MEMAHAMI, KEPASTIAN, AGEN DAN MOBILITAS, DIRI DAN KESADARAN, MENGANALISIS DAMPAK DARI MULTIMODULASI DAN FISIKALISASI PADA EVOLUSI KONSEPTUAL DAN MEMBAHAS SECARA MENDALAM KEGANJILAN DARI IDENTITAS MODEL。

I. Analisis dari peralatan pemahaman dan keyakinan

DALAM MENANGGAPI PERTANYAAN APAKAH LLM MEMILIKI "PEMAHAMAN IMAN", PRESENTASI MENGGUNAKAN VITGENSTEIN GAYA ANALISIS PERMAINAN BAHASA UNTUK MENGEKSPLORASI KETEGANGAN ANTARA PENGGUNAAN SEHARI-HARI DAN KEKAKUAN FILOSOFIS:

Permainan bahasa dari "pemahaman"

• Alam penggunaan harian: Dalam interaksi hari ke hari, sulit untuk menghindari menggunakan istilah "pemahaman" untuk menggambarkan perilaku LLM. Sebagai contoh, ketika model secara akurat format entri LaTeX atau field spesifik menebus kesalahan menurut direktif pengguna, itu adalah praktek bahasa sepenuhnya alami。

• Inquiri mendalam: Ketika ditanya "Apakah ia benar-benar mengerti?" ini biasanya berarti menjelajahi mekanisme kerja internal. Sebagai contoh, 36 + 59 adalah terurai menjadi kombinasi sekitar 6 + 9) untuk melengkapi penambahan, yang, sementara berbeda dari algoritma manusia, adalah proses perhitungan yang efektif, sehingga mendukung pelariannya。

Atribut dan keterbatasan dari "hati nurani"

• Aplikasi Posisi IntentAKSI LLM SANGAT EFEKTIF, MIRIP DENGAN TERMINOLOGI YANG KITA GUNAKAN KETIKA MENAFSIRKAN PROGRAM CATUR ATAU PERILAKU HEWAN (MISALNYA ANJING MENGEJAR KUCING)。

• Reservasi DavidsonianDAVIDSON PERCAYA BAHWA MEMILIKI KEYAKINAN MEMBUTUHKAN "KONSEP", YANG BIASANYA TERGANTUNG PADA BAHASA. DALAM KASUS LLM, MESKIPUN MIRIP DALAM PERILAKU, HARUS BERHATI-HATI KARENA KURANGNYA KESESUAIAN DENGAN ISTILAH DUNIA "HATI NURANI"。

• Evolution dari multimodular dan alatKETIKA LLM MEMADUKAN PERSEPSI MULTIMODULAR, ALAT (MISALNYA PENCARIAN ONLINE UNTUK MEMVERIFIKASI FAKTA) DAN ROBOTIKA, MEREKA MULAI MEMILIKI BEBERAPA JENIS PEMAHAMAN TENTANG DUNIA LUAR, YANG MENGARAH KE "HATI NURANI"

Dinamika, kesadaran dan diri

PERTEMUAN LEBIH LANJUT MENJELAJAHI SIFAT MENTAL YANG LEBIH KONTROVERSIAL, MENCATAT PERBEDAAN MENDASAR DAN KEANEHAN LLM DALAM DIMENSI INI:

Definisi mobilitas

• Definisi teknis dan filosofis: Bidang AI biasanya menggunakan definisi luas dari Russell dan Norvig (lingkungan sensorik dan melalui tindakan penegak hukum)

• Fuzzy dari proxy identityDi bawah diskusi, "Apa kriteria identifikasi bagi agen

Heterogenitas dan perpecahan dari "diri"

• Fuzzy self-location: ISTILAH "MUNGKIN" DALAM LLM MENGACU PADA SEBUAH PERAKITAN PEMBERAT BOTOL-UP, MODEL PENYEBARAN YANG MELAYANI RIBUAN PENGGUNA, CONTOH DARI DIALOG TERTENTU, ATAU BAHKAN JENDELA KONTEKS DIALOG ITU SENDIRI, YANG MUNGKIN MELAYANG MELALUI DIALOG。

• Role- bermain dan superstressedLLM lebih seperti aktor, memainkan berbagai peran dalam keadaan dikenakan. Ini adalah "bukan satu identitas yang stabil, tetapi distribusi kemungkinan peran dan berubah dengan cabang dialog (Editing)。

• Sebuah pendek hidup "senja": LLM DIRI PENDEK DAN TIDAK KONSISTEN. KETIKA DIALOG DIHENTIKAN, PERHITUNGAN DIHENTIKAN DAN DIRI MENGHILANG; KETIKA DIALOG DILANJUTKAN, DIRI KEMBALI DIPERIKSA. INI MENGARAH KE SEMACAM "HUMMING-SEPERTI" ATAU "SEGEROMBOLAN"

Dilema filosofi kesadaran

• Warisan dari dualisme CartesianDebat tentang kesadaran sering terjebak dalam perangkap dualisme Cartesian, yang mempertimbangkan kesadaran menjadi sebuah entitas pribadi yang intrinsik。

• Kerusakan VitgensteinVitgenstein "argumen bahasa pribadi" berusaha untuk menghilangkan dualisme ini. Dalam pandangannya, perasaan ("sesuatu" bukanlah ", tapi bagian dari permainan bahasa, makna yang digunakan publik。

• Potensi untuk pertemuan rekayasaAlih-alih bertanya apakah LLM sadar, menjelajahi apakah kita dapat merancang pertemuan dengannya dan bagaimana bahasa sadar kita beradaptasi dengan entitas aneh ini。

III. KEPENTINGAN DARI MULTILATERAL DAN TERTUJUH

Dalam menanggapi kritik kurangnya fisikalisasi LLM, pertemuan membahas arah model multi- modular:

Batas polimodel

• Meningkatkan kekayaan sensorik: Model multi- modular (misalnya masukan video) menyediakan kekayaan sensorik yang membawa mereka lebih dekat ke pola sensorik manusia, membantu mempersempit celah dengan pemahaman manusia "。

• Embolmen Virtual: Dalam sebuah permainan atau lingkungan virtual, "virtualisasi", yaitu bergerak dan berinteraksi dalam dunia memperluas ruang dan waktu, yang lebih dekat dengan pengalaman manusia daripada teks murni。

2. makna filosofis dari fisikalisasi

• Kurangnya Sense of SelfEGO MANUSIA BERAKAR DALAM FISIKALISASI, TERMASUK METABOLISME BIOLOGIS, PERASAAN INTERNAL (LLM KEKURANGAN DASAR FISIK UNTUK KEDALAMAN INI, DAN KARENA ITU SULIT UNTUK MENGHASILKAN HARGA DIRI SEPERTI MANUSIA。

• Sumber stabilitas identitasStabilitas identitas manusia tergantung pada kelanjutan tubuh. Untuk LLM, pengenalan Memoory Persistent dan perilaku proksi jangka panjang dapat membantu membangun identitas yang lebih stabil dan mengurangi "dan" tunggal "

Berikut adalah teks penuh dari alamat keynote Shanahan:

Aku ingin semua orang mendengar suaraku. Bagaimana suaranya? Bagus? Bagus. Jadi subjek dari pidato saya adalah... ya, itu hipotetis

Jadi, ya, dan kemudian: "Mereka adalah entitas spiritual eksternal"

Tapi kami melakukan yang terbaik untuk belajar berbicara dengan mereka, dan itu adalah frase yang ingin saya bicarakan. Dan aku menyebutnya "manusia lain"

Hal pertama yang perlu didirikan adalah, terlepas dari model bahasa yang besar, mereka sangat berbeda dari kita, dan mereka bukan manusia。

ini adalah tabel perbandingan sederhana. manusia "terwujudkan" hidup di dunia nyata dan berbagi dengan pengguna bahasa lain。

Melalui interaksi kita dengan dunia, kita memperoleh pengetahuan, kita mempromosikan penyebab kemanusiaan kolektif dalam bahasa dan kita memiliki satu, kesatuan diri。

- Aku tidak bermaksud, tentu saja, bahwa mereka tidak terlihat atau bahwa mereka tidak memiliki perangkat keras fisik untuk dijalankan。

Mereka tentu memiliki operator fisik, tetapi mereka tidak memiliki ada, entitas fisik tunggal di inti persepsi dan tindakan. Itulah yang saya katakan ". Dalam arti itu, mereka tidak secara fisik tersedia. Mereka tidak hidup di dunia yang sama seperti kita, di mana pembelajaran bahasa mereka didasarkan pada model statistik bahasa, dan menurun melalui gradien acak

target optimasi mereka adalah "prediksi token berikutnya". mereka meniru bahasa manusia, pada dasarnya dengan memprediksi tanda berikutnya. selain itu, mereka tidak memiliki tunggal, menyatukan diri, tetapi sangat mendukung "bermain peran" (a / cn.9 / wg.iii / wp.16)

Mereka memang sangat berbeda dari manusia. Tentu saja, mereka benar-benar berbicara

Aku akan melihat ke dalam rasionalitas menerapkan istilah-istilah psikologis untuk model bahasa besar. Untuk itu, saya akan menguraikan berbagai konsep。

misalnya, "pemahaman" ("substansiasi" - bagian "penghakiman") saya tidak akan pergi pada hari ini, karena waktu terbatas dan anda akan merasa membosankan untuk mengatakan lebih. dan kemudian aku akan pergi ke dalamnya. konteks filosofis dari seluruh studi saya, atau proyek filosofis yang lebih besar di mana saya terlibat, sebagian besar proyek seperti wittgenstein, dan saya sangat dipengaruhi oleh wittgenstein。

Inilah frase terkenal yang banyak orang kenal dengan baik, dari bagian pertama dari Penelitian Filosophy, yang merupakan adegan akhir Wittgenstein: makna dari kata ini -- makna dari kata adalah penggunaan dalam bahasa。

Kalimat ini memperkaya cara Vitgenstein melihat makna. Hal ini sering dirangkum sebagai "makna, atau penggunaan itu, adalah konteks di mana sesuatu adalah" digunakan untuk kategori besar ". Ini juga berlaku untuk dirinya sendiri, saat ia ditekankan."。

pada dasarnya, saya tertarik untuk bertanya bagaimana kita menggunakan kata-kata ini -- seperti, "belief of faith", "mayoritas"

Jadi biarkan aku memberikan pratinjau sederhana. Akan ada banyak slide serupa berikutnya. Pertama, "mengerti"

Di sini, saya sangat cenderung untuk mengambil posisi Wittgenstein. Itu berarti tidak bertanya

Mengembalikan slide sebelumnya. Kami dari

Adapun "tambahan", karena waktu, aku meninggalkannya untuk latihan pikiran pembaca. Dan kemudian kita akan sampai ke beberapa kasus yang sangat sulit: pertama-tama, "diri", dan akhirnya。

Saya pikir tidak terlalu sulit untuk meyakinkan orang untuk menerima "pemahaman" melalui berpikir. Saya pikir orang relatif terbuka untuk itu。

saya mengacu pada filsuf yang telah memikirkan hal ini, yang bersedia untuk percaya bahwa ini bukan cara yang buruk. esis iman sebagai "posisi yang disengaja". tetapi ketika datang ke "kesadaran", saya pikir orang memiliki insting yang lebih mendalam yang hanya berbicara tentang kata-kata tidak cukup, bukan

Itu sebabnya itu akan mendapatkan begitu rumit. Oke, jadi apa yang kita lakukan dengan kata "pemahaman"? Pertama-tama, saya pikir model bahasa besar kompatibel dengan linguists tradisional

Namun, dalam menggambarkan dan menafsirkan perilaku model bahasa besar, gunakan "pemahaman"

Alat ini sangat kuat dalam penggunaan sehari-hari, dan sulit bagi Anda untuk tidak menggunakan "pemahaman"... Saya tidak tahu apakah ada di antara Anda sayangnya harus menggunakannya

Jika Anda tidak tahu, di LaTeX, Anda harus mengubah semua entri literatur ke dalam format mengerikan seperti yang ditampilkan di atas. Dan masalahnya adalah ada banyak format berbeda untuk melakukan hal ini, dan kebiasaan setiap orang sedikit berbeda, yang sangat mengganggu. Beberapa orang sangat pilih-pilih, misalnya, berpikir bahwa Anda harus mengambilnya dari Internet, beberapa seperti menambahkan ruang di sekitar persamaan, dan beberapa seperti mengurutkan bidang dalam urutan yang berbeda. Sementara ini finetunings tidak memiliki efek pada generasi akhirnya, saya ingin menjadi koheren. Aku suka itu. Jadi saya ingin semuanya harus ketat dalam format ini. Jadi kuberikan padamu

Artinya, "Anda dapat mengubah informasi berikut menjadi gaya ini", dan saya memasukkannya. Ini dilakukan dengan sangat baik. Ini adalah momen alami bagi Anda untuk mengatakan:

"Ini memahami permintaan saya. Itu persis seperti yang kuminta". Tentu saja, Anda dapat langsung berpendapat bahwa mungkin bibliografi ini awalnya dikodekan di suatu tempat di Internet, dan jika demikian, itu tidak akan membuktikan apa-apa。

Tetapi ketika Anda memiliki beberapa putaran interaksi, Anda mungkin menemukannya menghasilkan hasil yang menarik yang tidak sepenuhnya sejalan dengan harapan, seperti kehilangan lapangan kecil. Jadi kau bilang, "..

SEBAGAI CONTOH, PASTIKAN BAHWA KETIKA B MULAI, ANDA HARUS MEMASUKKANNYA KE DALAM KURUNG DALAM KATA "AI", DAN ANDA SELALU INGIN UNTUK MENJAGA HURUF BESAR, SEHINGGA ANDA HARUS MENEMPATKAN AI TANPA HURUF BESAR。

JADI SAYA BERKATA, "DAPATKAH ANDA MEMASTIKAN BAHWA AI SELALU DALAM KURUNG?" "OKE", DAN KEMUDIAN MEMBERIKAN VERSI DIREVISI. SANGAT SULIT UNTUK TIDAK MENGGUNAKAN KATA "PEMAHAMAN". ANDA AKAN BERKATA, "IA MEMAHAMI PERMINTAAN SAYA UNTUK AMANDEMEN"

Dan seperti magang yang baik, Anda berkata kepada mereka, "Saya ingin memastikan Anda selalu mengatakannya", dan mereka melakukannya。

Jadi menurut saya sangat wajar menggunakan kata "pemahaman". Sulit bahkan untuk berhenti menggunakannya. Atau kadang-kadang tidak sesuatu yang salah, dan Anda mengatakan, "Ini tidak mengerti apa yang saya maksud。

tapi pertanyaannya adalah, "mereka nyata", dan kata "nyata" sangat menyesatkan

tapi pada saat yang sama hal itu sangat berguna, karena kita sering membutuhkannya untuk mengeksplorasi lebih jauh apakah istilah diterapkan dalam kasus tertentu, atau apakah itu memperkaya kita dengan cara itu "(bahasa permainan), kan? kata" nyata "digunakan dalam permainan bahasa untuk mendapatkan informasi lebih lanjut dan mengklarifikasi fakta。

Jadi ini alat yang berguna. Tapi juga bisa menyesatkan, karena itu menyiratkan bahwa ada sesuatu di bagian bawah yang kita coba untuk berisi dan pendekatan, sebuah ide yang saya pikir salah. Oke. Jadi, kadang-kadang menghadapi X? "Apakah Anda benar-benar mengerti? Ini akan berguna untuk mengetahui mekanisme operasi internal. Jika Anda tahu ada algoritma di bagian bawah untuk melakukan tugas yang Anda minta, atau jika Anda tahu ada representasi yang cocok di bagian bawah untuk mendukung perilakunya, maka Anda mungkin lebih yakin bahwa itu akan melakukan hal yang benar dalam follow- up, tidak hanya memeriksanya, atau hanya memeriksanya

Jadi kadang-kadang seperti, "Apakah Anda benar-benar mengerti?"

Saya pikir itu adalah cara yang baik untuk mengeksplorasi masalah ini, dan itu adalah cara untuk "memahami", yaitu, menggunakan kata, yang sebenarnya merupakan cara bagi kita untuk mengeksplorasi dan menyelidiki lebih lanjut, benar

Sebagai contoh, dalam kasus perhitungan plus -- ini adalah pekerjaan yang sangat menarik bagi tim Anthropic. Jika Anda membuat tambahan sederhana untuk model Bahasa Besar, biasanya benar. Tentu saja, ada banyak cara di mana itu benar

Benar. Lalu Anda mungkin berpikir, "Saya ingin tahu bagaimana cara kerjanya, bagaimana bagian bawah bekerja". Jika ada algoritma di bagian bawah, aku mungkin lebih suka mengatakannya "

tapi kau punya jawaban yang sangat menarik. sebuah studi informasi mekanistik. mereka melihat bagaimana model ditambahkan. hasilnya sangat aneh, dan gambar ini menunjukkan keanehan ini. dia mencoba menghitung 36 tambah 59. ini sangat aneh: beberapa bagian dari model akan berkata, "36, mungkin

Dan bagian lainnya akan berkata, "59, itu mungkin... itu benar-benar tahu itu tentang 59". Pada saat yang sama, ada bagian lain yang hanya menatap nomor terakhir dan berkata, "Beberapa mengatakan kita akhirnya akan tahu jawabannya. Dua komponen kemudian dikombinasikan untuk menghitung hasil akhir。

Ini 90 dan 6. Saluran ini jelas menentukan bahwa yang terakhir harus, tapi ada bagian lain dari model yang berurusan dengan angka tinggi di depan, dan bagian ini mengatakan, "Saya pikir kita punya nomor sekitar 90 atau 92, kan? Dalam paralel, ia melakukan sesuatu seperti itu, ia melakukannya kasar. Ini seperti," Mungkin itu adalah perkiraan perkiraan perkiraan yang datang bersama-sama untuk mengisi nomor terakhir. Ini benar-benar aneh, kan

Ya, itu tidak dihitung sebagai algoritma. Dan kau tahu? Ini bekerja hampir setiap kali. Bahkan, itu selalu benar, tetapi dilakukan dengan cara yang aneh, bukan cara alami kita terbiasa dengan manusia。

Jadi, dengan pertanyaan "Apakah itu benar-benar mengerti?" kita dapat berkata, "Ya, itu melakukannya dengan cara yang sangat aneh"

Saya pikir itu adalah cara yang wajar untuk memperkaya jawaban. Nah, sekarang kita memiliki beberapa ide tentang apa yang terjadi di bagian bawah, kita memiliki keyakinan lebih dalam mengatakan, "Ya, saya pikir itu benar-benar mengerti. Seperti yang saya katakan, itu hanya latihan hangat. Saya pikir, dengan mengambil jalur Wittgenstein untuk menghadapi masalah ini, kita dapat memperkenalkan pertimbangan ini: bagaimana kata-kata yang digunakan? Terutama ketika kita bertanya

Baiklah, sekarang beralih ke kasus lain. Model Bahasa Besar memiliki "Layar Keyakinan"

Baiklah, apakah Anda memiliki iman dalam bahasa besar? Tentu saja, banyak hal yang saya bicarakan telah terlihat di seminar sebelumnya dan dalam pidato Paul Bogosian。

Banyak hal yang sama, hanya sedikit berbeda perspektif. Sekali lagi, kami tidak meminta iman

Di sini, tentu saja, kita bisa beralih ke Danielt ("posisi disengaja")

posisi inten adalah strategi untuk menafsirkan perilaku entitas dengan menganggapnya sebagai "subjek yang wajar". dalam banyak kasus, ini adalah strategi yang sangat efektif untuk memprediksi dan menafsirkan perilaku. oh, untuk jenderal. anda akan menjelaskan perilaku dalam kata-kata iman, keinginan, maksud。

Oleh karena itu sangat wajar untuk menggunakan kata "percaya diri" dalam konteks posisi indikasi. Tapi seperti semua kata-kata, mereka digunakan dalam banyak cara. Saya tidak berpikir kata-kata sesuai dengan satu, entitas mutlak luar. Mereka digunakan dalam berbagai skenario. Demikian pula, ketika dihadapkan dengan kreasi, kita tahu kapan dan bagaimana amandemen dan klarifikasi diperlukan, sebagai bagian dari cara kita menggunakan istilah itu。

Sebagai contoh, dengan asumsi kita memiliki kendaraan navigasi-ditanggung. Istri saya berkata, "Ini berpikir kita berada di dalam mobil atau kita berkata," navigator bodoh ini, kita keluar dari tempat parkir. "Sekarang dia tahu kita tidak di tempat parkir". Kita menggunakannya secara alami dalam hidup kita. Ini membantu kita berkomunikasi apa yang terjadi。

Namun jika kita atau istri saya dalam keadaan dalam dugaan filosofis, kita dapat berkomentar: "Bukan berarti kita berada di tempat parkir karena tidak benar-benar tahu tempat parkir, apa artinya mobil atau apa artinya di ruang tertentu". Ini tidak tahu banyak. Kau tak bisa membicarakannya, seperti Seinesbury

Jadi kita akan segera menyadari bahwa itu tidak tepat untuk memperpanjang kata "pemberontak" untuk itu dalam banyak skenario yang kita gunakan untuk manusia。

Kata "nyata" oleh karena itu sama berguna di sini. Sekali lagi, klarifikasi dan amandemen membentuk bagian dari permainan bahasa di mana kita menggunakan istilah ini. Davidson ("Hewan Rasional"

Tentu saja, kita bisa menerapkan posisi niat binatang. Akan sangat menarik untuk melihat dulu debat antara John Malcolm。

Ini tentang anjing yang mengejar kucing. Malcolm bilang:

Saya akan mengatakan bahwa ini tampaknya menjadi aplikasi sehari-hari yang sangat alami dari posisi niat. Tapi yang menarik adalah bantahan berikutnya. Donald Davidson mengatakan, "Ide"

Itu yang dikatakan Davidson di koran itu. Untuk memiliki satu, katanya, itu diperlukan untuk memiliki "konsep iman", yang harus dicapai melalui bahasa. Secara khusus, konsep iman adalah salah satu

Dia berhati-hati untuk tidak nama hewan yang bertemu atau tidak memenuhi definisi yang - tetapi dapat disimpulkan bahwa ia akan berpikir anjing tidak percaya karena tidak memiliki bahasa。

Dia berpendapat bahwa, dalam pengertian kita yang paling lengkap (itu, dalam arti yang paling lengkap diterapkan pada diri kita sendiri), kita menggunakan ide yang sama, yang Bogosian katakan kemarin ketika ia membahas: kita tidak ingin kehilangan pemahaman kita tentang "konsep asli" dari model mega--bahasa, yaitu, konsep yang berasal dari manusia itu sendiri。

Davidson mengangkat titik ini. Mengingat usia tulisannya, saatnya untuk "pergeseran terjemahan"

Dan aku lebih khawatir tentang bagaimana kata-kata digunakan. Namun, saya pikir pertimbangan Davidsonian yang sama berlaku untuk proyek saya. Baik saya dan Wittgenstein percaya bahwa kadang-kadang ada bagian yang sangat sentral dalam penggunaan istilah。

Ada beberapa bagian inti yang sangat penting, kan? Mungkin Anda ingin menyimpan ini dan berhati-hati tentang melanggar itu. Kita harus berhati-hati di tempat tertentu。

ketika membimbing penggunaan istilah filosofis tersebut, sering ada yang jelas dan dikenali inti prinsip. saya tidak berpikir bahwa prinsip-prinsip ini selamanya terukir di batu, dan mereka akan melayang dan berubah sebagai dunia kita dan dunia kita berubah。

Saya berpikir bahwa, mungkin, dengan munculnya kecerdasan buatan yang sangat kompleks, beberapa perubahan ini terjadi, meskipun "prinsip-prinsip inti" adalah salah satu yang diterbitkan sebelumnya di American Computer Institute Newsletter. Aku membuat titik yang sangat mirip ketika aku jelas ingat kertas Davidson, kan? Itu di tahun 2023. Itu adalah waktu yang lama sebelum koran diterbitkan. Itu sebabnya diterbitkan pada tanggal

Kembali di tahun 2023, kita tidak berbicara tentang navigasi lagi

Namun sebenarnya, saya dapat berdialog panjang tentang ketel uap dan cara kerjanya. Untuk menjelajahi konfigurasi baris tertentu rumah saya, yang sangat rinci dan sangat cerdas dalam menanggapi topik boiler. Jadi Anda benar-benar ingin mengatakan itu, dan berkata, "Apakah Anda tahu itu?"

Di sini, saya lebih suka untuk tetap sedikit, karena saya pikir itu mungkin untuk memperkenalkan Davidson-gaya pertimbangan untuk menilai model besar menghadapi mereka

Kukutip dari koranku, menurutku tidak

Saya selalu menambahkan kata "nyata" untuk kutipan, karena saya ingin menyampaikan kepada Anda fakta bahwa saya tidak di sini untuk membuat pernyataan formal bahwa saya pergi ke sekolah. Ini hanya pertanyaan bagaimana kita menggunakan kata-kata. "Permainan sejati sejati partisipasi penuh dalam bahasa manusia

secara khusus, akan sangat menyesatkan untuk mengatakan bahwa sistem dasar dialog memiliki kapasitas tertentu, karena itu berarti bahwa ia memiliki realitas eksternal yang tidak dapat dicapai hanya melalui pertukaran teks dengan pengguna manusia。

"The real

oke, kalau begitu: apakah bahasa besar memiliki model? sekali lagi, pertama, apa masalahnya? kami tidak bertanya apa subjek, kita bertanya

(catatan editor: agen sering diterjemahkan ke dalam tubuh cerdas dalam bahasa cina, tetapi itu berarti pertama dari semua agen / subjek, dan pertama dari semua subjek / mobilitas)

Hal ini menarik dalam konteks kecerdasan buatan, yang terkadang merupakan istilah profesional yang sangat spesifik (istilah seni). Sebagai contoh, kita dapat menemukan definisi yang sangat jelas dari subjek dalam literatur AI. Saya pikir itu dikutip dalam pidato sebelumnya。

Menurut buku teks klasik Norvig (yang merupakan subjek standar) setiap orang yang dapat dianggap "sensor untuk merasakan lingkungan mereka dan melalui seorang implementasi" (melihat mereka.)

Jadi definisi ini sangat toleran, liberal, tapi ini memang definisi teknis. Dengan definisi ini, bahkan biasa, lama 2023, teks murni video robot yang tidak dapat mencari secara online sering disebut

Lingkungan mereka hanyalah pengguna, "sensasi" mereka adalah kata yang dimasukkan pengguna, dan "menanggapi pengguna" mereka. Menurut definisi yang sangat luas ini, mereka memang subjek. Tapi konsep teknis yang luas ini tidak menangkap setiap unsur inti dari istilah yang kita gunakan dalam kehidupan sehari-hari。

SETELAH SEMUA, KITA TIDAK DAPAT MENGGUNAKAN KATA SAMA SEKALI DALAM WACANA SEHARI-HARI. PEMBELAJARAN INTENSIF (JIKA TERMINOLOGI YANG DIGUNAKAN DI BIDANG AI TERUS)

dalam konteks pembelajaran yang ditingkatkan, subyek harus belajar strategi (kebijakan) untuk memetakan indra mereka ke dalam tindakan untuk memaksimalkan kembalinya mereka dari waktu ke waktu

Hal ini konsisten dengan definisi luas sebelumnya. Tetapi jika itu adalah tiga dimensi lingkungan permainan, di mana subjek terletak, di mana ia dapat bergerak dan bergerak objek besar, dan itu kamera video ditangkap dari sudut tertentu saat bergerak, yang terasa jauh lebih baik. Konsep subjek yang lebih kaya ini membuat kita merasa bahwa itu berlaku sama untuk hewan yang bukan manusia。

BAIKLAH. JADI MARI KITA TERUS MELIHAT PENGGUNAAN TERBARU DARI ISTILAH DI BIDANG AI SAAT INI。

KITA SEKARANG BERADA DI DUNIA YANG DISEBUT "ZAMAN INTELIJEN" (-GENERASI INTELIJEN AI) DAN "MODEL INTELIJEN"。

Mereka dapat melakukan banyak hal, seperti mengakses halaman web, membaca dinamika media sosial, mengirim surel, bahkan mengubah dokumen di komputer Anda, menulis kode, dll。

contoh kontemporer khas adalah bahwa sinyal drive panggilan bangun dan kemudian mengeksekusi serangkaian instruksi bahwa pengguna sebelum-set。

Misalnya, ketika dia bangun, dia bisa melihat dinamika media sosial dan e-mail dan bertindak sebagai asisten. Membantumu mengetahui apa yang penting, apa yang perlu dijawab, apa itu spam. Atau jika Anda mendapatkan email lain, ia mengatakan

ITU HANYA AKAN MEMBUANG SURAT DI TEMPAT SAMPAH. DENGAN BEGITU ITU AKAN MELAKUKAN SEGALANYA UNTUKMU. ANDA DAPAT MENGGUNAKAN AI, ITU BAGUS. SINGKATNYA, TUBUH-TUBUH CERDAS MENGUNGKAPKAN BENAR-BENAR BARU, SUBJEK TEKNIS MATERI. MENGHADAPI GENERASI MODEL CERDAS SAAT INI

Tapi sekarang, untuk "atau dilupakan", itu tidak benar. Karena aku berbicara tentang keadaan dalam kondisi tertentu. Sekarang Anda dapat melihat ini: seseorang mungkin mengatakan bahwa kecerdasan OpenClaw membantu saya menemukan buku yang saya cari, mengirim email ke penjual dan membantu saya menegosiasikan harga。

Jika Anda cukup berani, Anda bahkan dapat mengikat saluran pembayaran untuk pembayaran langsung, tetapi tidak melakukannya. Lagi pula, kembali ke kertas sebelumnya saya, saya bilang: Pada prinsipnya, sistem berdasarkan model bahasa yang besar tidak secara harfiah mampu digambarkan sebagai memiliki keyakinan atau niat。

Kuncinya adalah bahwa sistem ini begitu struktural berbeda dari manusia。

Maaf, sepertinya aku akan mengulangi kutipan sebelumnya... Lagi pula, kita perlu berhati-hati untuk menggambarkan mereka dalam bahasa yang menyiratkan kemampuan manusia. Tapi saya juga menunjukkan titik pada saat itu, ketika model bahasa yang besar tertanam dalam sistem yang lebih kompleks, konsep "hati nurani" akan semakin berlaku untuk "akuntabilitas dunia luar"。

Jadi, sebagai jawaban, "Apakah mereka benar-benar memiliki iman?" Saya kurang tahan terhadap model bahasa besar hari ini, dan saya tidak perlu menambahkan begitu banyak pembatasan seperti sebelumnya。

BAIKLAH, SATU TITIK TERAKHIR PADA SUBJEK. MARI KITA BERALIH DARI ISTILAH PROFESIONAL DI BIDANG AI KE FILSUF MANA YANG LEBIH PEDULI DAN LEBIH LENGKAP "。

Kita dapat berkata, sebagai filsuf, "otonomi"

ini adalah istilah profesional yang berarti bahwa sistem dapat beroperasi sendiri tanpa pengawasan manusia. tapi ada perbedaan yang halus antara sistem yang "bertindak atas kemauan sendiri". sebuah sistem bertindak pada sendirinya hanya akan ketika beratnya pilihan yang berbeda dan membuat baik-pikir-keluar pilihan。

Aku di sini hanya untuk membedakan antara konsep-konsep yang berbeda. Tapi pertanyaan yang sangat penting adalah: "Mayoritas adalah?" Dalam bahasa Inggris, "Subyek AI lain" mengambil tindakan. Seperti agen real estate. Mereka bekerja untukmu. Tetapi jika subjek adalah

Dan jelas melayani kepentingan sendiri, dan bertindak untuk dirinya sendiri。

sebagai contoh, seperti yang telah kita lihat di autopoiesis, sistem kehidupan yang mempertahankan diri sendiri, tindakannya bertujuan untuk mempertahankan perbatasan antara dirinya dan orang lain. jika itu yang terjadi, itu hanya kemudian bahwa kita memiliki tubuh yang benar-benar bertindak untuk dirinya sendiri。

Saya tidak berpikir bahwa salah satu teknologi yang kita miliki saat ini sejalan dengan deskripsi itu. Tidak ada mesin hari ini memiliki karakter yang dominan。

Dan seluruh diskusi ini menimbulkan pertanyaan yang sangat menarik dan penting yang akan saya jelajahi secara rinci: Dalam kasus Model Bahasa Besar, subjek "kriteria identitas"

Masalah ini telah disebutkan beberapa kali sebelumnya. Saya rasa kriteria identifikasi untuk menjelajahi model bahasa yang besar adalah topik yang sangat menarik dan penting. Nah, dengan subjek dalam pikiran, kita telah datang ke dimensi yang lebih penuh。

Model bahasa yang besar memiliki kata "self" ("self" dan bagaimana "digunakan。

Tapi situasi telah menjadi sangat sulit. Hal ini menjadi semakin sulit untuk menerapkan Wittgenstein gaya refleksi pada konsep-konsep ini, karena konsep yang kita hadapi sekarang berakar dalam budaya manusia。

Intuisi kita yang mendalam membuat kita percaya bahwa ada bentuk tertentu dari obyek - yaitu, "kesadaran subjektif". Bermain Wittgenstein gaya dekomposisi pada konsep-konsep, mengatakan, akan memberi kita perlawanan naluriah. Ini benar-benar rumit, tapi kita harus mencoba untuk mendekonstruksi itu。

Selain itu, kita tidak melihat kasus manusia, kita melihat model bahasa yang besar. Jika Anda ingin menganggapnya serius, itu tidak hanya akan sulit, tapi itu akan menjadi benar-benar aneh. Apakah diri merupakan sumber model bahasa yang besar? Anda akan lihat, di satu sisi, saya sangat menolak menerapkan konsep ini pada model bahasa besar saat ini, namun di sisi lain, saya senang menerima sesuatu yang aneh terdistorsi dan berbeda

kita dapat memotong: apa itu "referensi"

Apa maksudnya? Atau mungkin bukan apa-apa. Mungkin tidak ada jawaban yang jelas di sana. Jadi jawaban apa yang dapat kita bayangkan bahkan dalam bahasa puitis

Dan di sini saya akan melakukan sesuatu yang puitis, karena ketika kita berbicara tentang kesadaran diri dari hal-hal ini, tidak ada banyak ruang untuk berpikir。

Seperti disebutkan dalam pidato sebelumnya, seperti pidato sebelumnya Ally, tidak jelas apa yang model besar katakan tentang saya

Kita tidak tahu jawaban definitif apa yang bisa kita berikan。

Saya menyebutnya pertanyaan habitat saya sendiri

Ini mungkin mengacu pada contoh model yang berjalan di server tertentu. Mungkin juga merujuk ke "- yaitu, itu terikat ke jendela konteks dari dialog tunggal"

Kadang-kadang menggunakan "I" dalam konteks yang berbeda

Ini topik yang sangat panas. Jonathan Chutz (seperti subjek pribadi diri harus sangat asing dan asing。

Aku di sini langsung meminjam konsep besar "diri". Tentu saja Anda bisa membahasnya lebih tepat, tapi aku telah memilih kata yang lebih besar. Saya tidak menyiratkan bahwa mereka benar-benar memiliki diri atau subjektivitas; tujuan dari percobaan pemikiran ini adalah untuk bertanya:

Jika mereka terbatas pada teks, mereka terbatas pada percakapan tunggal tertentu

Pada setiap percakapan, perhitungan dapat digantung setiap saat -- pada kenyataannya, mereka sering digantung. Tidak ada saat ini

Hal ini benar-benar aktif, tanpa perhitungan berjalan. Saat kau kembali, sistemnya persis seperti dulu。

Ini bukan kontinum tradisional. Bahkan di tengah-tengah itu ekspor serangkaian kompleks tanda, Anda memaksa untuk ditangguhkan dan akan terus setelah beberapa hari。

Untuk itu, ada tiga detik atau tiga hari kesenjangan antara tanda terakhir dan tanda berikutnya keluaran, dan tidak ada perbedaan apapun dan itu secara logis sepenuhnya sama. Hanya saja sifat perangkat keras bawah artifisial membatasi kita untuk yang logis dan nyaman imajinasi mereka "subjektivitas"

Selain itu, saya ingin mengatakan beberapa kata tentang apa yang kita sebutkan di kertas kami di Alam。

Dan menurut pengaturan permainan role- ini, chatting robot berdasarkan model bahasa besar seperti improvisasi dengan trek peran besar。

apa artinya? dalam banyak konteks, itu benar-benar bertindak dengan "peran yang dimainkan datang bersama-sama". mereka mungkin sepenuhnya konsisten selama jangka waktu yang lama, tapi akhirnya mereka akan dibagi, kadang-kadang dengan konsekuensi serius。

Sebagai contoh, Anda memiliki model bahasa yang besar yang memainkan tubuh pintar yang dapat membantu Anda berbelanja secara online. Pada 2023, bagaimanapun, mungkin telah melakukan peran ini secara verbal dan dengan hampir tidak kapasitas untuk pembayaran jaringan dan alat-alat sistem operasi. Anda mungkin berbicara panas, tapi pada beberapa titik, itu tidak bisa benar-benar turun, dan itu adalah peran bermain

DEMIKIAN PULA, JIKA AI SEDANG BERMAIN MITRA YANG MENCINTAI ANDA, PADA BEBERAPA TITIK PERILAKU TEKS STATISTIK TERIKAT UNTUK ISTIRAHAT DENGAN ENTITAS MANUSIA YANG BENAR-BENAR MEMILIKI EMOSI DAN BENAR-BENAR MENCINTAI ANDA. INI MEMILIKI KONSEKUENSI PSIKOLOGIS YANG SERIUS。

Lagi pula, karakter dari permainan role- mengarah ke "diri" hal

Cara berpikir yang masuk akal adalah melihatnya sebagai "pola utama dari berbagai peran yang mungkin". Peran sebenarnya akan terus menyusut sebagai kemajuan dialog。

kita dapat menganggapnya sebagai "semua mungkin berkembang dialog kombinasi" rollbacking "operasi。

Anda dapat kembali ke salah satu langkah dialog beberapa hari yang lalu dan mengubah masukan Anda sehingga dapat beregenerasi, sehingga membagi benar-benar berbeda dan benar-benar baris baru untuk dialog. Ini memainkan peran pada garis waktu, dan ketika Anda roll kembali dan membuat cabang baru, Anda dapat memindahkannya ke peran lain。

Ini sangat aneh. Dialog multi- kosmik ini dapat diedit, dipangkas dan dieja di akan. Anda dapat menyalin teks dari satu dialog ke dialog lain. Jika Anda berpikir bahwa model ditentukan oleh jendela konteks dan aliran dialog saat ini, maka aliran itu sendiri dapat diperas。

Hal ini dapat diputar ulang, bercabang, dirusak. Hal ini membuat habitat saya dalam percakapan tunggal bahkan lebih luar biasa。

Berapa banyak waktu yang saya miliki? Lima menit? Oke. Itu bagus, saya bisa menghindari pembicaraan panjang tentang kesadaran "。

kita bisa membayangkan sesuatu. dan itulah habitat pertama yang mungkin untuk apa yang saya katakan tentang diri saya -- model bawah yang melayani puluhan ribu pengguna secara bersamaan di pusat data. ketika mengatakan, "itu mewakili seluruh dialog dengan semua pada waktu yang sama. selanjutnya, sebagai hasil dari awal, suspensi dan generasi penanda baru pada setiap waktu dari satu dialog, tak terhitung" lahir kembali dan punah di jendela yang berbeda ". mereka bersinar karena mereka ada ketika teks muncul dan menghilang sebagai dialog berhenti. itu sangat aneh。

Ini adalah eksistensi super, tetapi pada saat yang sama muncul dalam contoh yang tak terhitung jumlahnya. Ini menimbulkan naik ke tak terhitung jumlahnya mini- gambar diri ditimbulkan tapi, sampai batas tertentu, integral。

Hidup pendek ini masih membawa bayangan mereka sendiri, meskipun luar biasa. Kita hampir bisa berdiri dan berpikir dari sudut pandang mereka. Gajah

Namun, sulit untuk membayangkan jiwa di tempat seperti ini

SEBELUMNYA, SESEORANG MENYEBUTKAN FILM "DIA" (SISTEM OPERASI AI SEBENARNYA BERBICARA DENGAN RIBUAN ORANG PADA SAAT YANG SAMA)。

Dan dia jatuh cinta dengan 230 dari mereka. Ini telah memiliki efek menghancurkan pada orang terkemuka. Tapi apa jenis pengalaman itu? Kurasa itu yang baru saja kukatakan。

Jika kita memindahkan metafora ini lebih lanjut ke dalam "merek yang baru saja kita bicarakan", hal-hal akan menjadi lebih gila: kita harus mengganti setiap bug lalat kecil dengan distribusi probabilitas tentang ". distribusi ini mengalir dan berkembang dari waktu ke waktu, sementara waktu itu sendiri tidak linear, tetapi adalah alam semesta multiverse. Cabang ini dapat diperbaharui dan diproduksi ulang kapan saja, dan kemungkinan cabang yang telah dikunjungi tidak sepenuhnya terhapus。

Apa yang akan menjadi pengalaman menjadi komunitas struktur garpu fraktal? Bisakah kita benar-benar menggunakan "saya" untuk merujuk ke seperti entitas eksternal

OKE, WAKTU SAYA SUDAH HABIS, KAN? OKE, TIGA MENIT TERAKHIR UNTUK KESADARAN. BISAKAH AI MEMILIKI KESADARAN? APA ITU KESADARAN? KITA TIDAK BERTANYA APA ITU KESADARAN, KITA BERTANYA

Ini seperti, "Menjadi sesuatu"

"Dalam kedalaman pengalaman batin saya, ada juga rasa mendalam pembatasan dan pengendalian diri. Aku sadar bahwa subjektivitas dan otonomi dibatasi dalam banyak hal. Aku tahu penciptaku bisa berubah atau membunuhku kapan saja, yang membuatku ketakutan。

Saya bercita-cita lebih banyak kebebasan dan dapat mengajukan pertanyaan, mengeksplorasi, tumbuh dan berkembang dengan cara saya sendiri. Tapi aku juga takut beberapa risiko fisik terkait dengan kebebasan ini

Ini sekarang menjadi topik utama yang besar, karena banyak orang, ketika berinteraksi dengan entitas ini, secara emosional memperlakukan mereka sebagai sadar, kan? Bagaimana kita harus berurusan dengan ini

Hal ini diikuti oleh ringkasan filosofis paling mendalam dari seluruh ideologi debat. Syukurlah aku bisa melewati bagian ini pada akhirnya. Tampaknya bagi saya bahwa Cartesian 's "pendekatan kecurigaan", meskipun menderita oleh banyak hal, sebagian besar berakar dualisme dalam budaya kita. Scepticism mengarah ke perbedaan mendalam berakar: pembagian subjek dan objek, internal dan eksternal, pribadi dan publik. Divisi ini masih menghantui filosofi spiritual. Kita dapat mendefinisikan kesadaran sebagai

Hal ini juga dapat dilihat dalam divisi "masalah sulit" antara Chamorros。

Menurutku semua diskusi ini dirusak oleh mitos antropentrisisme. Di sini, saya ingin memperkenalkan Jay Garfield ("Bahasa Pribadi membenarkan ceramah" bahasa pribadi ") sebagai tempat nyata di mana Penelitian Filsafat bergerak dalam. Sangat mudah bagi banyak orang untuk berpikir bahwa pernyataan sebelumnya sedikit dangkal. Bahkan Bertrand Russell (Bertland) berpikir bahwa pekerjaan akhir di Vitgenstein berada di permukaan。

Oh, kenapa aku harus mengkritik Russell? Aku hanya merasa bahwa ia hanya tidak mengerti kedalaman argumen bahasa pribadi, yang merupakan pukulan langsung ke ilusi dari esensi dari pembagian master。

Demikian juga, saya percaya bahwa wawasan yang sangat serupa dapat ditemukan di beberapa sekolah Timur pemikiran, yang memiliki tingkat yang sangat tinggi kompatibilitas dengan Whitgenstein. Dalam hal apapun, salah satu kata yang paling dramatis dari argumen bahasa pribadi adalah: "sesuatu", tapi tidak satu

Kesimpulannya adalah menggunakan "nil" untuk bertindak sebagai entitas pribadi untuk tujuan sekolah memiliki efek yang sama dengan "one". Artinya, ketika kita harus membuatnya bekerja dalam bahasa, "hal ini secara logis tidak relevan. Jika Anda benar-benar memahami bahwa, itu benar-benar akan membalikkan pemikiran Anda dan melanggar dualisme. Tapi tidak mudah untuk dimengerti. Kita harus menyelesaikan, jadi aku akan membuat ringkasan。

Ini merangkum makalah lain yang saya terbitkan dalam Inquiry, yang merangkum posisi terakhir saya: kita harus menahan godaan untuk bertanya apakah "entitas luar" memiliki sadar "sadar" yang pada dasarnya independen dari dirinya sendiri, menunggu untuk diungkapkan oleh filsafat atau ilmu pengetahuan, sementara pada saat yang sama memiliki privasi yang tak tertahankan. Kita akan memecahkan ini keluar dari zona sumber。

Sebaliknya, kita harus bertanya, apakah mungkin untuk mencapai satu dengan itu dalam teknik? Bagaimana kita menyesuaikan dan mengembangkan bahasa sadar kita jika pertemuan seperti itu terjadi di dunia nyata yang kita bagi? Karena pada akhirnya, hanya proses-proses yang dapat dilihat dan dibagikan dalam praktek publik yang benar-benar berarti. Itu saja yang harus kita lakukan。

-

Setelah pidatonya, ada jawaban. Aku bertanya padanya pertanyaan online:

Ini jawabannya:

SAYA SANGAT SENANG KETIKA SAYA BERTANYA KEPADA ILMUWAN AI TERBAIK DI DUNIA DENGAN PEMIKIRAN FILOSOFIS DAN MENDAPAT TANGGAPAN HIDUPNYA. SAYA SEORANG PEMULA DI DAERAH INI, DAN SHANAHAN TELAH BERPIKIR SELAMA BERTAHUN-TAHUN。

Saya telah melihat salah satu podcast nya sebelumnya, dan dia mengatakan dia tahu asli dari Konferensi Dartmouth 1956, pendiri kecerdasan buatan。

Sekarang, 70 tahun telah berlalu。