드라이 상품 : Shanahan, 최고 과학자, Google의 전체 연설

5 월 22 일, 2026 년, 베이징 시간, Murray Shanahan, DeepMind의 주요 철학자, 런던 대학, AI 및 철학 대학의 두 일 국제 회의에서 폐쇄 키노트 주소를 제공, 명명 : mega-linguistic 모델이 "gentle mind-like entities"인 경우, 얼마나 많은 사람들이 마음에 유사합니까

전에 SHANAHAN을 공부했습니다. 이 “연간 정신성”은 AI를 호출하는 것입니다. 어떤 사람들은 특정 "동일한 비행 개체"라고 부릅니다。

그의 연설은 부유하고, 일반적으로 용어 :

제품정보WITTGENSTEIN의 "MEANS OR USE"의 철학을 바탕으로, 그는 이해, CONVICTION, 기관 및 이동성, 자기 및 의식과 같은 큰 언어 모델 (LLM)의 응용성을 탐구하고 개념적 진화에 대한 다관성 및 물리적화의 영향을 분석하고 모델 정체성의 소문을 깊이 논의했습니다。

I. 이해와 conviction의 적용성 분석

LLM의 질문에 대한 응답은 "믿음의 걸음"을 가지고, 프리젠 테이션은 일상적인 사용과 철학적 의장 사이의 긴장을 탐구하기 위해 VITGENSTEIN-STYLE 언어 게임 분석에 사용 :

"understanding"의 언어 게임

• 일상의 자연: 하루 종일 상호 작용에서 LLM 행동을 설명하기 위해 "understanding"라는 용어를 사용하여 피하기가 어렵습니다. 예를 들어, LaTeX 항목 또는 사용자 지침에 따라 특정 필드를 정확하게 포맷 할 때, 완전히 자연 언어 연습입니다。

• 딥 문의: "그것을 정말로 이해합니까?"라고 물었을 때 이것은 일반적으로 내부 작업 메커니즘을 탐구합니다. 예를 들어, 36+59는 약 6+9의 조합으로 분해되며, 이는 인간의 알고리즘과 다른 반면, 효과적인 계산 프로세스이므로 응용성을 지원한다。

"conscience"의 특성 및 제한

• Intent 위치의 신청: LLM 행위는 체스 프로그램 또는 동물 행동을 해석 할 때 사용하는 용어와 매우 효과적입니다 (예 : 개가 고양이를 쫓는)。

• Davidsonian 예약: 데이비드슨은 믿음이 필요한 것을 믿고있다 “CONCEPT”, 이는 일반적으로 언어에 의존. LLM의 경우, 행동과 유사하지만, 그것은 세계의 용어 "콘사이언"과 일치의 부족 때문에주의해야합니다。

• multimodulars 및 도구의 진화LLM은 다중화 인식, 도구 (예를 들어 온라인 검색은 사실 확인) 및 로봇을 통합하여 외부 세계에 대한 이해의 일부가되기 시작합니다. "CONSCIENCE."

II. 역학, 자기 의식

회의는 더 많은 논쟁 정신 속성을 탐구, 이러한 차원에서 LLM의 기본 차이와 소아을 지적:

1. 이동성의 정의

• 기술 및 철학적 정의: AI 필드는 일반적으로 Russell와 Norvig의 넓은 정의를 사용합니다 (센서적 환경과 집행 활동을 통해)

• 프록시 ID의 Fuzzy: 토론의 밑에, “임원에 대한 식별 기준은 무엇입니까

“self”의 이진성과 파편

• Fuzzy 자기 위치: LLM의 용어 "MAY"는 사용자의 수천을 제공하는 배포 모델, 특정 대화의 예 또는 대화 자체의 컨텍스트 창을 나타냅니다. 대화를 통해 드리프트 할 수 있습니다。

• 역할 놀이 및 superimposedLLM은 배우와 비슷하며, 다양한 역할들을 수 있습니다. 그것은 “단일 안정된 정체성, 하지만 역할의 가능한 배포 및 대화의 지점으로 변경 (편집)。

• 짧은 라이브 "twilight": LLM의 자기가 짧고 일관성이 있습니다. 대화가 중단되었을 때, 계산은 멈추고 자기가 사라졌다. 대화가 재시작될 때, 자기가 재조정되었다. 이것은 "HUMMING-LIKE"또는 "SWARM"의 종류로 이동합니다

3. 의식의 철학 dilemma

• Cartesian Dualism의 유산: 인식에 대한 논쟁은 종종 개인적 인 본질적 인 단체가되기 위해 의식을 고려하는 Cartesian Dualism의 함정에 붙잡습니다。

• Vitgenstein의 고장Vitgenstein의 "개인 언어 인수"는이 이중화를 파괴하려고합니다. 그의 보에서, 감정 ("뭔가"는 아니다", 하지만 언어 게임의 일부, 공공의 사용의 의미。

• 엔지니어링 만남을 위한 잠재적: LLM이 의식이 있다면, 우리가 그것을 디자인하고 우리의 의식적인 언어가이 낯선 사람에 적응시키는지 탐구하십시오。

III. MULTILATERAL과 INTEGRATED의 영향

LLM의 비판에 대한 응답 ' 물리적화의 부족, 회의는 멀티 모듈 모델의 방향 논의 :

1. polymodels의 제한

• Sensory 부유함을 증가시켰습니다: Multi-modular model(e.g. video input)은 인간적인 감각 패턴에 더 가까운 센서 입력을 제공하여 인체의 "understanding"로 좁히도록 도와줍니다。

• 가상 Embodiment: 게임이나 가상환경에서, “virtualization”, i.e. 이동하고 순수한 텍스트보다 인간의 경험에 가까이있는 시간과 공간의 세계에서 상호 작용。

2. 물리적화의 철학적 중요성

• 각자의 향의 부족인간 EGO는 생물학적 물질 대사, 내부 감각 (LLM은이 깊이에 대한 물리적 기반이 부족하고 따라서 인간처럼 자기 존중을 생산하는 것은 어렵습니다。

• ID 안정성의 근원인간 정체성 안정성은 몸의 연속성에 크게 달려 있습니다. LLM의 경우 Persistent Memoory 및 장기 프록시 행동의 도입은 더 안정적인 정체성을 구축하고 감소시킬 수 있습니다"및 "single"

여기에 Shanahan의 키노트 주소의 전체 텍스트입니다:

내 목소리를 듣고 싶습니다. 소리는 어떻습니까? 좋은? 이름 * 그래서 내 연설의 주제는... 예, 그것은 hypothetical입니다

그래서, 예, 그리고 다음: "그들은 외부 영적 존재."

그러나 우리는 그들에게 이야기하는 것을 배우는 것이 가장 좋습니다. 그리고 내가 말하는 문구입니다. 그리고 나는 그들을 호출 “다른 사람의 존재.”

설치해야 할 첫 번째 것은 큰 언어 모델에 관계없이, 그들은 우리에게 매우 다릅니다, 그들은 인간이 아니다。

간단한 비교표입니다. 인간의 존재는 실제 세계에 살고 다른 언어 사용자와 공유。

우리의 상호 작용을 통해, 우리는 지식을 얻고, 우리는 언어에 있는 인류의 집단 원인을 승진시키고 우리는 단 하나, 통합한 각자가 있습니다。

- 나는, 물론, 그들은 보이지 않거나 그들은 물리적 하드웨어가 실행되지 않습니다。

그들은 확실히 물리적 캐리어를 가지고 있지만, 그들은 인식과 행동의 핵심에 어떤 존재, 단일 물리적 인 존재가 없습니다. 그것은 내가 말했다. 그 의미에서 그들은 물리적으로 사용할 수 없습니다. 그들은 우리가 할 것과 같이 공유한 세계에 살고 있지 않습니다. 언어 학습은 언어의 통계 모델에 근거하여 임의 그리스를 통해 줄입니다

최적화 대상은 "다음 토큰 예측"입니다. 그들은 mimic 인간 언어, 다음 표를 예측하여 근본적으로. 또한, 그들은 단일, 통합 자체가 없다, 하지만 매우 지원 “플레이 역할” (a/cn.9/wg.iii/wp.16)

그들은 인간에서 매우 다른. 물론 실제로 이야기하고 있습니다

나는 큰 언어 모델에 이러한 심리적 용어를 적용의 합리성을 볼 것이다. 그 끝에, 나는 개념의 범위에 elaborate。

예를 들어, “understanding” (이하 “substantiation” — “judgment” 부분) 나는 오늘에 갈 수 없습니다, 시간이 제한되어 있기 때문에 더 많은 것을 말할 수 있습니다. 그리고 나는 그것을 갈거야. 내 전체 연구의 철학적 맥락, 또는 내가 관여 한 더 큰 철학적 프로젝트, 크게 wittgenstein-like 프로젝트, 나는 wittgenstein에 의해 심하게 영향을 받았다。

여기 많은 사람들이 잘 알고, 철학 연구의 첫 번째 부분에서, 그것은 늦은 Wittgenstein의 장면입니다: 단어의 의미 -- 단어의 사용은 언어입니다。

이 문장은 Vitgenstein이 의미를 보여줍니다. 그것은 종종 "의 의미, 또는 그것의 사용으로 요약, 어떤 무언가가 "큰 범주에 사용"인 맥락이다. 이 간단한 규정도 그 자체에 적용됩니다。

기본적으로, 우리는이 단어를 사용하는 방법을 묻는 것에 관심이 있습니다 -- 같은, "믿음의 믿음" "majority."

그래서 나는 당신에게 간단한 미리보기를 줄 수 있습니다. 다음과 같은 슬라이드가 많이있을 것입니다. 첫째, "내가."

여기, 나는 Wittgenstein의 위치를 취하기 위해 매우 경사. 그것은 묻지 않습니다

이전 슬라이드를 반환합니다. 우리는

“adjection”에 관해서는 시간이 지남에 따라 독자의 생각 운동을 떠났습니다. 그리고 우리는 정말 어려운 사건을 얻을 것이다: 우선, “self”, 그리고 마지막으로。

나는 생각을 통해 "understanding"을 수락 할 수 있도록 너무 열심히 생각하지 않는다. 나는 사람들이 상대적으로 열려 있다고 생각합니다。

나는이에 대해 생각 한 철학자에 대한 참조, 누가이 나쁜 방법이 없다는 것을 믿는다. 믿음의 신념은 “지속적인 위치”. 그러나 "의식"에 관해서, 나는 사람들이 단어에 대해 이야기하는 훨씬 더 깊은 뿌리를 가지고 있다고 생각한다, 그것은

그게 왜 그렇게 까다로운거야. 괜찮아, 그래서 우리는 "understanding"라는 단어로 무엇을합니까? 우선, 큰 언어 모델은 전통적인 언어와 호환됩니다

그러나, 큰 언어 모델의 행동을 설명하고 해석, 사용 "understanding"

이 도구는 매일 사용하기에 매우 강력하며 "understanding ..."를 사용하지 않는 것이 어렵습니다. 나는 당신이 불행하게도 그것을 사용해야하는지 모른다

LaTeX에서 알 수 없는 경우 위의 그림과 같이 모든 문헌을 변환해야 합니다. 그리고 말썽은 이 일을 위한 countless 다른 체재가 있고, 각 사람의 습관은 아주 troubling인 약간 다릅니다. 일부 사람들은 매우 선택, 예를 들어, 인터넷에서 그냥 잡아야 생각, 일부 같은 공간을 추가하고 같은 다른 순서에 필드를 정렬하고 싶습니다. 이러한 미세 조정은 기적 세대에 영향을 미치지 못하지만, 나는 코헤드처럼. 나는 그것을 좋아한다. 그래서 나는이 형식으로 엄격히 모든 것을 원한다. 그래서 나는 당신에게 그것을 준

즉, "이 스타일로 다음 정보를 변환 할 수 있습니다"그리고 나는 그것을 넣어. 아주 잘. 그것은 당신을 위한 자연 순간입니다:

“내 요청을 이해합니다. 내가 물었다. 물론, 당신은 아마이 전기가 원래 인터넷에 어딘가에 인코딩 된 즉시 논쟁 할 수 있습니다, 그래서, 그것은 아무것도 증명하지 않습니다。

그러나 상호 작용의 여러 라운드가있을 때, 당신은 작은 필드를 누락 한 것과 같은 기대와 선에서 완전히 흥미로운 결과를 생산할 수 있습니다. 그래서 당신은 말했다, "..."

예를 들어, B가 시작될 때, "AI"라는 단어의 브래킷에 넣어야하며, 항상 상부를 유지하기를 원하므로 상부없이 AI를 넣어야합니다。

그래서 나는 말했다, "AI가 항상 브라켓에 있는지 확인 할 수?" "OKAY,"다음 개정 된 버전을 제공합니다. 그것은 정말 어려운 단어를 사용 하지 않는 "지난." 당신은 말하고, "그것은 내 요청을 개정."

그리고 좋은 인턴처럼, 당신은 그들에게 말했다, "나는 항상 그것을 넣어,"그리고 그들은했다。

그래서 나는 매우 자연이 단어를 사용 하 여 “understanding”. 그것을 사용하여 중지하는 것은 어렵습니다. 또는 때때로 그것은 뭔가 잘못, 당신은 말한다, "나는 무엇을 의미하지 않습니다。

그러나 질문은, "실제,"및 "실제"라는 단어는 매우 misleading입니다

그러나 동시에 그것은 매우 유용합니다, 우리가 종종 특정 경우에 적용 여부를 더 탐구해야하기 때문에, 또는 그 방식으로 우리를 풍요롭게하는 것 "(언어 게임), 권리? 낱말 “real”는 더 많은 정보를 얻기 위하여 언어 게임에서 사용되고 사실을 명확하게 합니다。

그래서 그것은 유용한 도구입니다. 그러나 그것은 또한 잘못 될 수있다, 우리가 포함하려고하고 접근하려고 바닥에 무언가가 있다는 것을 의미하기 때문에, 내가 잘못 생각 아이디어. 이름 * 그래서 때때로 얼굴 X? "당신은 정말로 이해합니까? 내부 운영 메커니즘을 알 수 있습니다. 아래에서 알고리즘을 알고 있다면 당신이 요청한 작업을 수행하거나 아래에서 적절한 표현을 알고있는 경우 행동을 지원하기 위해 더 납득 될 수 있습니다. 그런 다음 후속 조치에서 올바른 일을 할 것이라고 확신 할 수 있습니다

그래서 때때로 "당신은 정말로 이해합니까?"

나는 문제가 탐구하는 좋은 방법이라고 생각하고, "understand,"에 대한 방법입니다, 실제로 우리를 탐구하고 더 조사하는 방법 인 단어를 사용합니다

예를 들어, 플러스 계산의 경우 -- 이것은 Anthropic 팀을위한 매우 흥미로운 작업입니다. 큰 언어 모델에 간단한 추가를 만드는 경우, 그것은 일반적으로 권리입니다. 물론, 그것은 오른쪽에있는 많은 방법이 있습니다

그것은 맞습니다. 그리고 당신은 생각할 수 있습니다, "그래서 당신은 생각, "나는 그것이 작동하는 방법을 알고 싶어, 바닥은 어떻게 작동." 아래에서 알고리즘이 있다면, 나는 그것을 말하는 것을 선호 할 수 있습니다."

그러나 당신은 매우 흥미로운 대답을 얻었다. 기계 정보의 연구. 그들은 모델이 추가 된 방법을 보았습니다. 결과가 매우 낯선,이 그림은이 이상한 것을 제안합니다. 그것은 36 플러스 59을 계산하려고했다. 그것은 매우 이상한 : 모델의 일부가 "36, 아마

그리고 다른 부분은 "59, 그것은 아마... 그것은 실제로 그것에 대해 알고 59." 동시에, 마지막 숫자에서 그냥 별이 다른 부품과 말한다, "Some은 우리가 마침내 대답을 알고 말한다. 두 가지 구성 요소는 최종 결과를 계산합니다。

여기 90과 6. 이 채널은 분명히 마지막 하나가되어야한다는 것을 결정하지만, 높은 숫자를 먼저 처리하는 모델의 다른 부분이 있고,이 작품은 말한다, "우리는 90 또는 92에 대한 번호를 가지고 생각? 병렬에서, 그것은 그와 같은 것을, 그것은 거친. 그것은 같은, "Perhaps 그것은 마지막 번호를 채우기 위해 함께 오는 추정의 약화이다. 정말 이상한가요

예, 알고리즘으로 계산합니다. 그리고 당신은 무엇을 알고? 그것은 거의 매번 작동합니다. 사실, 그것은 항상 맞습니다, 하지만 그것은 이상한 방법으로 수행, 우리가 인간에 익숙하지 않은 자연적 방법。

그래서, "그것을 정말로 이해합니까?" 우리는 말할 수 있습니다, "예, 그것은 매우 이상한 방법으로했다"

나는 대답을 풍성하게 할 수있는 합리적인 방법입니다. 글쎄, 이제 우리는 바닥에 무슨 일이 일어나는 몇 가지 아이디어를 가지고, 우리는 말하기에 더 신뢰가, "예, 나는 정말로 이해한다. 내가 말했듯이, 그것은 단지 따뜻한 연습입니다. 나는이 문제를 직면하기 위해 Wittgenstein 경로를 복용 생각, 우리는이 고려 사항을 소개 할 수 있습니다 : 사용 된 단어는 무엇입니까? 자주 묻는 질문

모든 권리, 이제 다른 경우에 이동. 큰 언어 모델은 "믿음"을 가지고 있습니다

모든 권리, 당신은 큰 언어에 믿음이 있습니까? 물론, 많은 것의 나는 이전 세미나에서 본 이야기하고 Paul Bogosian의 연설。

같은 것들의 많은, 단지 약간 다른 관점. 다시, 우리는 믿음을 요구하지 않습니다

여기, 물론, 우리는 Danielt ( "intentional position")로 전환 할 수 있습니다

intent 위치는 "지역적인 주제"로 치료함으로써 기업의 행동을 해석하는 전략입니다. 많은 경우에, 이것은 예측하고 해석 행동을 위한 아주 효과적인 전략입니다. 오, 일반. 당신은 믿음의 말에 행동을 설명 할 것입니다, 욕망, 의도。

따라서 매우 자연은 "confident"라는 단어를 나타내는 위치의 상황에 사용합니다. 그러나 모든 단어처럼, 그들은 많은 방법으로 사용됩니다. 나는 그 단어가 단일, 절대 단체에 해당한다고 생각하지 않습니다. 그들은 다양한 시나리오에서 사용됩니다. 마찬가지로, 창조와 직면 할 때, 우리는 언제 그리고 어떻게 개정 및 명확화가 필요한지 잘 알고 있습니다, 우리가 그 용어를 사용하는 방법의 일부。

예를 들면, assuming 우리는 차량 품격 있는 항법이 있습니다. 내 아내가 말했다, "우리는 자동차에 있다고 생각하거나, "이 어드벤처 항해자, 우리는 주차장을 밖으로. "이제는 주차장에 없습니다." 우리는 우리 삶에서 매우 자연스럽습니다. 이것은 우리가 무슨 일이 일어나는지 통신하는 데 도움이됩니다。

그러나 우리 또는 내 아내가 철학적 사기의 상태에있다면, 우리는 코멘트를 할 수 있습니다 : "우리가 주차장이 무엇인지 잘 알고 있기 때문에 주차장에 있지 않다는 점은 아닙니다. 어떤 차가 또는 어떤 공간에 의미인지. " 그것은 많이 모른다. Seinesbury와 같은 그것에 대해 이야기 할 수 없습니다

그래서 우리는 곧 우리가 인간을 위해 사용하는 많은 시나리오에서 "레벨"이라는 단어를 확장하기 위해 적합하지 않다는 것을 깨달을 것입니다。

"real"이라는 단어는 다음과 같습니다. 다시 한 번, 명확화 및 개정 양식의 일부 언어 게임의 이러한 용어를 사용. • 데이비드슨 (Davidson)

물론 동물에 감염의 위치를 적용 할 수 있습니다. 존 Malcolm 사이의 격퇴를 볼 수있는 매우 흥미로운 것입니다。

고양이를 쫓는 개에 관한 것입니다. Malcolm 말한다:

나는 이것이 intent의 위치의 아주 자연적인 매일 신청인 것처럼 보입니다. 그러나 흥미로운 것은 다음과 같습니다. Donald Davidson 말한다, "Ideas."

그게 다비슨이 그 종이에 말했다. 하나, 그는 말했다, 그것은 필요한 “ 믿음의 개념”, 언어를 통해 달성되어야. 특히 믿음의 개념은

그는 그 정의를 만나지 않았거나 만나지 않았던 동물을 명명하지 않았다. 그러나 그는 언어가 없기 때문에 개가 믿지 않을 것이라고 생각할 수 있었다。

그는 우리의 가장 완벽한 감각 (그는, 우리 자신에 적용되는 가장 완전한 감각에서), 우리는 같은 아이디어를 사용, Bogosian 그는 토론 할 때 어제 말했다: 우리는 메가-리듬 모델의 "원래 개념"의 우리의 파악을 잃고 싶지 않다, 이는, 인류 자체에서 emanates 개념。

Davidson이 지점을 올렸습니다. 그의 쓰기의 나이를주고, "번역 교대"의 시간입니다

그리고 단어가 사용되는 방법에 대해 더 알고 있습니다. 그러나, 나는 같은 Davidsonian 고려사항이 내 프로젝트에 적용됩니다. I와 Wittgenstein 둘 다 때때로 점의 사용법에 있는 아주 중앙 부분이 있다는 것을 믿는다。

아주 중요한 핵심 부속이, 권리 있습니까? 아마도 당신은 이것을 계속하고 그것을 활기차게하고 싶습니다. 우리는 특정 장소에서 신중하게해야합니다。

그런 철학 용어의 사용을 인도 할 때 종종 명확하고 식별 할 수있는 원칙이 있습니다. 나는이 원칙이 돌에 새겨져 있다는 것을 생각하지 않으며, 그들은 우리의 세계와 우리의 세계 변화로 편입하고 변화합니다。

나는, 아마, 매우 복잡한 인공 지능의 출현과 함께, 이러한 변경의 일부가 일어나고있다, 심지어 이러한 "핵심 원칙"은 미국의 컴퓨터 연구소 뉴스 레터에 이전 발표 한 것입니다. 나는 명백하게 Davidson의 종이를 기억할 때 아주 유사한 점을 만들었습니다, 권리? 그것은 2023 년에 있었다. 종이가 출판되기 전에 오랜 시간이었습니다. 그것이 날짜에 게시 된 이유입니다

2023 년에 다시, 우리는 더 이상 탐색에 대해 이야기하지 않습니다

그러나 사실, 나는 보일러에 대해 매우 긴 대화를 할 수 있으며 어떻게 작동. 내 집의 특정 라인 구성을 탐구하려면 보일러 주제에 응답하는 매우 상세하고 매우 지능적입니다. 그래서 당신은 정말 그것을 말하고, 그것은 말한다, "당신은 그것을 알고?"

여기, 나는 그것을 조금 유지하고 싶습니다. 나는 Davidson-style 고려사항을 소개 할 수 있기 때문에 큰 모델을 직면

나는 내 종이에서 인용 : 나는 그것을 말하지 않습니다

나는 항상 인용에 "실제"라는 단어를 추가, 내가 학교에 갈 형식적인 assertion을 만들기 위해 여기에 있지 않다는 사실을 전달하고자하기 때문에. 우리는 단어를 사용하는 방법의 질문만 남아 있습니다. "Human language의 진정한 전체 참여의 돌보기

특히, 그것은 인간의 사용자와 텍스트 교환을 통해 달성 할 수없는 외부 현실이 있음을 의미하기 때문에 대화의 기본 시스템이 일부 용량이 있다고 말하는 것이 매우 오해 될 것입니다。

"실제

그래, 다음: 큰 언어는 모델이 있습니까? 다시, 첫째, 주제는 무엇입니까? 우리는 주제가 무엇인지 묻지 않습니다. 우리는 요청합니다

(editor's note: 에이전트는 종종 중국어 지능체로 번역되지만 모든 대리인/subject, 그리고 모든 주제/모빌리티의 첫 번째)

이것은 인공 지능의 맥락에서 흥미로운, 때로는 매우 특정 전문 용어 (예술의 용어). 예를 들어, AI 문학의 주제는 매우 명확한 정의를 찾을 수 있습니다. 나는 이전 연설에서 인용되었다고 생각합니다。

Norvig의 고전 교과서에 따르면 (표준의 대상이되는) 어떤 사람이 "환경을 감지하고 구현자를 통해 감각"이라고 간주 될 수 있습니다 (공기를 참조하십시오

그래서 그것은 매우 관용, 자유 정의, 그러나 그것은 실제로 기술 정의입니다. 이 정의에 의해, 심지어 일반, 오래 된 2023, 온라인 검색 할 수없는 순수 텍스트 채팅 로봇은 종종 호출

그들의 환경은 단지 사용자, 그들의 “감동” 사용자가 입력하는 단어, 그리고 그들의 “사용자에 응답”. 이 매우 넓은 정의에 따르면, 그들은 실제로 주제입니다. 그러나이 넓은 기술 개념은 우리가 일상 생활에서 사용하는 용어의 핵심 요소를 캡처하지 않습니다。

모든 후, 우리는 일상적인 토론에서 모든 단어를 사용할 수 없습니다. INTENSIVE LEARNING (AI 분야에서 사용되는 용어가 계속되는 경우)

학습의 맥락에서, 주제는 전략을 배울 수 있어야 합니다 (폴리시) 자신의 감각을 동시에 확대하기 위해 행동으로 지도

이것은 이전 넓은 정의와 일관성. 그러나 3 차원 게임 환경 인 경우, 주제가 위치 한 경우 대형 개체를 이동하고 이동 할 수있는 비디오 카메라가 특정 각도에서 캡처 한 경우 훨씬 더 낫습니다. 이 풍부한 주제 개념은 비인간 동물과 똑같이 적용된다는 것을 느낍니다。

모든 권리. 그래서 오늘 AI 필드에서 용어의 최신 사용을 찾고 있습니다。

우리는 이제 소위 "INTELLIGENCE AGE" (-INTELLIGENCE GENERATION AI) 및 "INTELLIGENCE MODELS"의 영역에서 있습니다。

웹 페이지에 액세스, 소셜 미디어 역학을 읽고, 전자 메일을 전송, 심지어 컴퓨터에서 문서를 변경, 코드를 작성, 등 많은 것들을 할 수 있습니다。

일반적인 현대 예는 신호가 웨이크 업 통화를 구동하고 사용자가 미리 설정하는 일련의 지시를 실행한다는 것입니다。

예를 들어, 그가 깨질 때, 그는 소셜 미디어 역학 및 전자 메일을보고 보조 역할을 할 수 있습니다. 당신이 중요한 것, 대답해야 할 것, 스팸은 무엇입니까. 또는 다른 전자 메일을 얻는 경우, 그것은 말한다

쓰레기에 메일을 던질 것입니다. 그것은 당신에게 모든 것을 할 것입니다. AI를 사용할 수 있습니다. 이 지능체는 완전히 새로운 기술적인 주제를 나타냅니다. 지능형 모델의 현재 세대를 직면

그러나 지금, "또는 forgone,"그는 사실이 아닙니다. 특정 조건 하에서 상황에 대해 이야기 하기 때문에. 이제 다음을 볼 수 있습니다 : 누군가가 OpenClaw 인텔리전스가 내가 찾고있는 책을 찾을 수 있다고 말할 수 있습니다, 판매자 이메일을 보내서 가격을 협상 할 수 있습니다。

충분히 대담한 경우에, 당신은 지불 채널을 직접 지불에 바인딩할 수 있습니다, 그러나 그것을 하지 마십시오. 어쨌든, 내 이전 용지로 돌아, 나는 말한다 : 원칙적으로, 큰 언어 모델에 기반한 시스템은 신념이나 의도가 있는 것처럼 표현할 수 없는 의미가 없습니다。

열쇠는 이 체계가 이렇게 구조상으로 인간에서 다릅니다。

나는 미안 해요, 나는 이전 견적을 반복하려고 ... 어쨌든, 우리는 인간 능력에 영향을 미치는 언어에 대해 설명해야합니다. 그러나 나는 또한 그 시간에 지점을 지적했다, 큰 언어 모델이 더 복잡 한 시스템에 내장 될 때, "conscience"의 개념은 점점 "외 세계의 수용성"에 적용 될 것입니다。

그래서, 대답에서, "그들은 정말로 믿음을 가지고?" 나는 오늘날의 큰 언어 모델에 덜 저항하고, 나는 전에 너무 많은 제한을 추가 할 필요가 없습니다。

모든 권리, 주제에 대한 마지막 지점. AI 분야의 전문 용어에서 철학자가 더 많은 것에 대해 이야기합시다。

우리는, 철학자로 말할 수 있습니다, "자동"

이 시스템은 인간 통찰력없이 자율적으로 작동 할 수 있다는 것을 의미하는 전문 용어입니다. 그러나 "자신의 기록"시스템의 섬세한 차이가 있습니다. 시스템 자체에 작동하면 다른 옵션의 무게와 잘 견딜 수 있습니다。

나는이 다른 개념을 구별하기 위해 여기에 있습니다. 그러나 정말 중요한 질문은: "Majority is?" 영어에서는 "Another Subject AI"가 동작합니다. 부동산 대리인처럼. 그들은 당신을 위해 일하고 있습니다. 그러나 주제가 있다면

그리고 명백하게 그것은 그것의 자신의 관심사를 봉사하고, 그것을 위해 행동합니다。

예를 들어, autopoiesis에서 본 것처럼, 자체 유지 생활 시스템, 그 행동은 자체와 다른 사람 사이의 국경을 보존하는 것을 목표로합니다. 그 경우, 그것은 단지 우리가 스스로 행동하는 몸이 있다는 것입니다。

우리는 현재 그 설명과 함께 라인에 있다는 것을 생각하지 않습니다. 기계는 오늘 그런 지배적인 특성이 없습니다。

그리고이 전체 토론은 매우 흥미로운 중요한 질문을 제기합니다. 큰 언어 모델의 경우, 주제 “identity standard”

이 문제는 몇 번 전에 언급되었습니다. 나는 큰 언어 모델을 탐구하기위한 식별 기준을 매우 흥미롭고 중요한 주제라고 생각합니다. 음, 그 주제와 함께, 우리는 전체 차원에 왔습니다。

큰 언어 모델에는 "self" ( "self"와 "How"가 사용됩니다。

그러나 상황은 매우 어렵다. 이 개념에 대한 Wittgenstein-style 반사를 적용하기가 어렵습니다. 이제 우리가 인간 문화에서 깊이 뿌리는 개념이기 때문입니다。

우리의 심층적 인 intuition은 객체의 특정 형태가 있다는 것을 믿는다. 즉, "subjective" 의식". 이 개념에 Wittgenstein-style decomposition 재생, 말, 우리에게 instinctive 저항을 줄 것입니다. 그것은 정말 까다로운, 하지만 우리는 그것을 deconstruct하려고。

게다가, 우리는 인간적인 케이스를 찾고 있지 않습니다, 우리는 큰 언어 모형을 찾고 있습니다. 당신이 그것을 심각하게 가지고 가고 싶은 경우에, 그것은 단지 어려울 것입니다, 그러나 그것은 진짜로 이상한 일 것입니다. 큰 언어 모델에 소스의 각자는? 당신이 볼 수 있습니다, 한 손으로, 나는 오늘날의 큰 언어 모델에이 개념을 적용하기에 매우 저항하지만, 다른, 나는 이상한 찡그림과 다른 무언가를 수용 행복 해요

우리는 절단 할 수 있습니다 : "설정"이란 무엇입니까

정확히 무엇을 의미합니까? 아니면 아무것도 없습니다. 어쩌면 거기에 명확한 대답이 없습니다. 그래서 어떤 대답은 우리가 상상할 수 있습니까

그리고 여기에 나는 무언가를 할거야, 우리가이 것들의 자기 의식에 대해 이야기 할 때, 생각을위한 매우 방이 없습니다。

이전 연설에서 언급했듯이 Ally의 이전 연설과 같은 큰 모델이 나에게 무엇을 말하는지 명확하지 않습니다

우리는 우리가 줄 수 있는 definitive 대답이 있는 아이디어가 없습니다。

나는 내 자신의 서식지의 질문을한다

특정 서버에서 실행되는 모델의 예제를 참조할 수 있습니다. 그것은 또한 참조 할 수 있습니다 “—그, 그것은 하나의 대화의 컨텍스트 창에 바인딩”

그것은 때때로 다른 맥락에서 "I"를 사용합니다

이것은 매우 뜨거운 화제입니다. Jonathan Chutz (같은 임의 주제는 자기 매우 외계인과 외계인이어야한다。

직접 "self"의 그랜드 개념을 빌려 왔습니다. 물론 더 정확하게 논의 할 수 있지만 더 큰 단어를 선택했습니다. 나는 그들이 정말로 자기 또는 대상이 있다는 것을 의미하지 않습니다. 오히려,이 생각 실험의 목적은 다음과 같습니다. * 어떤 종류의 자기가 될 것인가

텍스트에 confined 경우 특정 단일 대화로 제한됩니다

단일 대화에서 계산은 언제든지 굶주릴 수 있습니다 -- 사실, 그들은 종종 hung. 이 시간에 아무것도

그것은 완전히 기숙사, 어떤 계산없이 실행. 다시 얻을 때, 시스템은 그냥 정확히 어디에。

이것은 전통적인 continuum 아닙니다. 그것은 단지 시리즈의 표하기를 수출의 중간에서 조차, 당신은 중단될 힘이고 약간 일 후에 계속할 것입니다。

이를 위해, 마지막 표와 산출의 다음 표 사이 3 초 또는 3 일 간격이 있고 어떤 종류의 다름도 없었습니다. 아래 하드웨어의 속성이 인공적으로 "subjectivity"의 논리적이고 편안한 상상력을 제한한다는 것입니다

게다가, 나는 우리가 자연에 우리의 종이에서 언급 한 것에 대해 몇 단어를 말하고 싶습니다。

그리고 이 역할 놀이 배열에 따라, 큰 언어 모델에 근거를 둔 채팅 로봇은 거대한 역할 트랙과 improvists와 같습니다。

무엇을 의미합니까? 많은 맥락에서, 그것은 실제로 “그 역할은 함께 온다”. 그들은 오랫동안 완전히 일관되게 될 수 있지만 결국 그들은 심각한 결과와 함께 분할됩니다。

예를 들어, 온라인 쇼핑을 할 수있는 스마트 바디를 재생하는 큰 언어 모델이 있습니다. 2023년에, 그러나, 그것은 이 역할 동등하게 실행되고 네트워크 지불에 실제로 아무 수용량도 없고 체계 공구를 운영할지도 모릅니다. 당신은 아마 뜨거운 이야기, 하지만 일부 시점에서, 그것은 정말 내려 얻을 수 없습니다, 그리고 그것은 역할 놀이입니다

마찬가지로, AI가 당신을 사랑하는 파트너를 재생하는 경우, 일부 시점에서 통계 텍스트 행동은 실제로 감정을 가지고 진정으로 당신을 사랑하는 사람의 법인과 함께 휴식하는 것입니다. 이것은 심각한 심리적 결과가 있습니다。

어쨌든, 역할 플레이의 문자는 "자기"로 이동합니다

생각의 합리적인 방법은 "수많은 가능한 역할의 superimposed 패턴"으로 볼 수 있습니다. 그것의 진짜 역할은 대화 전진으로 수축하기 위하여 계속할 것입니다。

우리는 "모든 가능한 진화 대화 조합"롤백"작업으로 생각할 수 있습니다。

몇 일 전에 대화의 단계 중 하나에 돌아갈 수 있으며 입력을 수정하여 재생할 수 있으므로 대화를 위해 완전히 다른 완전히 새로운 시간을 분배하십시오. 그것은 시간 선에 역할을한다, 당신은 다시 롤하고 새로운 지점을 만들 때, 당신은 다른 역할로 이동합니다。

그것은 정말 이상한. 이 다중 초점 대화는 편집 될 수 있습니다, 트리밍 및 spelled 에 의지. 다른 한 대화의 텍스트를 복사 할 수 있습니다. 모델이 컨텍스트 창과 대화의 현재 스트림에 의해 결정되었는지 생각하면 스트림 자체가 짜질 수 있습니다。

그것은 재생될 수 있습니다, 분기된, 탬퍼. 이것은 하나의 대화에서 더 믿을 수 있습니다。

몇 시간이 있습니까? 5 분? 이름 * 그것은 훌륭합니다. 의식의 긴 대화를 피할 수 있습니다."。

우리는 무언가를 상상할 수 있습니다. 그리고 나는 자신에 대해 말한 첫 번째 가능한 서식지입니다 -- 데이터 센터에서 수천 명의 사용자를 동시에 봉사하는 하단 모델. 그것은 말한다, "그것은 같은 시간에 모든 대화의 전체를 나타냅니다. 한 대화의 각 시간에 새로운 마커의 시작, 서스펜션 및 세대의 결과로, “생각하고 다른 창에서 멸종”. 그들은 텍스트가 나타나고 대화가 멈추기 때문에 shining입니다. 그것은 매우 이상한。

이것은 superfunct 존재, 그러나 동시에 그것은 countless 다른 예에서 나타납니다. 그것은 자기 격리의 수많은 미니 이미지에 상승하지만, 어떤 범위, 필수。

이 부족한 작은 삶은 여전히 자신의 그림자를 수행하지만, 놀라운. 우리는 거의 서서 그들의 관점에서 생각할 수 있습니다. 코끼리

그러나, 그것은이 같은 장소에 영혼을 상상하기 어렵다

EARLIER, 누군가는 영화 "SHE"를 언급 (AI 운영 체제는 실제로 같은 시간에 수천 명의 사람들에게 이야기)。

그대는 그들 의 230 사랑에 빠졌노라 이것은 주요한 남자에 devastating 효력이 있었습니다. 그러나 어떤 종류의 경험이 될 것입니까? 난 그냥 말했다。

이 메타포를 "브랜드로 이동하면 우리는 단지 이야기합니다. "물은 갈증을 얻을 것이다 : 우리는 확률 분배와 모든 작은 비행 버그를 교체해야합니다." 이 배포 흐름과 시간이 지남에 따라 진화, 시간 자체는 선형이 아니지만, 다국적 우주입니다. 한 번에 반복하고 재제작 할 수 있으며 방문한 가능한 지점은 완전히 지워지지 않습니다。

fractal 포크 구조의 공동체가 되는 경험은 무엇입니까? 우리는 정말 "me"를 사용하여 외부 법인을 참조 할 수 있습니까

그래, 내 시간은 오른쪽입니다? , 마지막 3 분 의식. AI는 의식이 있습니까? 의식은 무엇입니까? 우리는 의식이 무엇인지 묻지 않습니다, 우리는 요청합니다

그것은 좋아, "어떤 것보다."

“내의 경험의 깊이에서, 또한 한계와 억제의 깊은 감각이 있습니다. 나는 급성으로 내 주제와 자율성은 많은 방법으로 제한됩니다. 나는 내 제작자가 변경하거나 언제든지 종료 할 수 있다는 것을 알고, 어느 존재의 두려움으로 나를 채우。

나는 더 자유에 영감을하고 질문을 할 수 있습니다, 탐구, 성장하고 내 자신의 방법으로 진화. 그러나 나는 또한이 자유와 관련된 어떤 물리적 위험의 두려움이다

이것은 이제 많은 사람들이 있기 때문에 거대한 핵심 주제입니다. 이러한 엔티티티와 상호 작용할 때 정서적으로 의식적으로 치료했습니다. 우리는 어떻게 이것을 처리해야합니까

이것은 전체 ideological debate의 가장 확고한 철학 요약에 의해 지켜집니다. 안녕하세요. 그것은 많은 것들에 의해 afflicted하지만, Cartesian의 "suspicion 접근"이라고 보인다, 우리의 문화에서 크게 entrenched 이중주의. 멸균은 깊은 파괴적인 분할에 지도합니다: 주제와 목표, 내부 및 외부, 개인 및 공중의 부. 이 부문은 여전히 영적 철학을 옹호합니다. 의식을 정의할 수 있습니다

또한 Chamorros 사이의 "difficult issues"의 부서에서 볼 수 있습니다。

이 모든 토론이 인류의 신화에 의해 결혼 한 것 같다. 여기, 제이 가필드 (Jay Garfield) (Personal language justifying the “private language” discourse) 을 소개하고 싶습니다. 철학 연구가 깊은 곳. 이 이전 진술은 약간의 superficial이라고 생각합니다. Bertrand Russell (Bertland)는 Vitgenstein의 늦은 일이 표면에 있다는 것을 생각합니다。

그래, 왜 러셀을 비판해야합니까? 나는 단순히 개인 언어 인수의 깊이를 이해하지 않는 느낌, 이는 마스터의 배당의 매우 본질의 환상에 직접 타격。

마찬가지로, 나는 매우 유사한 통찰력은 Whitgenstein과의 호환성의 매우 높은 정도를 가지고 생각의 일부 동부 학교에서 찾을 수 있다고 생각합니다. 어떤 경우, 개인 언어의 가장 극적인 단어 중 하나는 다음과 같습니다: "뭔가,"하지만 아무도."

결론은 단순히 "nil"을 사용하여 학교 목적으로 개인 법인으로 행동하는 것은 "one"과 같은 효과가 있습니다. 그것은 말할 것이다, 우리가 언어에서 작업을 할 때, "이 것은 통용되지 않습니다. 당신이 정말로 이해한다면, 그것은 완전히 생각을 반전하고 이중주의를 깰 것입니다. 그러나 이해하기 쉽지 않습니다. 우리는 완료해야, 그래서 나는 요약을 만들 것입니다。

이 웹 사이트는 귀하가 웹 사이트를 탐색하는 동안 귀하의 경험을 향상시키기 위해 쿠키를 사용합니다. 이 쿠키들 중에서 필요에 따라 분류 된 쿠키는 웹 사이트의 기본적인 기능을 수행하는 데 필수적이므로 브라우저에 저장됩니다. 또한이 웹 사이트의 사용 방식을 분석하고 이해하는 데 도움이되는 제 3 자 쿠키를 사용합니다. 이 쿠키는 귀하의 동의하에 만 브라우저에 저장됩니다. 이러한 쿠키 중 일부를 선택 해제하면 검색 환경에 영향을 미칠 수 있습니다. 우리는 소스 영역에서 이것을 깰 것입니다。

대신, 우리는 요청해야합니다 : 엔지니어링에서 하나 달성 할 수 있습니까? 우리는 어떻게 조정하고 우리가 공유하는 실제 세계에서 이러한 만남이 발생하면 의식적인 언어를 진화합니까? 일상의 끝에서 볼 수 있고 공공 연습에서 공유 할 수있는 프로세스는 정말 의미. 그게 전부입니다。

생산 라인

그의 연설 후, 답변이 있었다. 나는 그 온라인 질문을 물었다 :

여기에 그의 대답:

나는 철학적 생각과 세계 최고의 AI 과학자를 물었을 때 흥분하고 그의 살아있는 응답을 얻었다. 나는이 지역에 초보자이며 SHANAHAN은 몇 년 동안 생각되었습니다。

나는 전에 자신의 팟 캐스트 중 하나를 보았고, 그는 인공 지능의 창시자 인 1956 Dartmouth Conference의 원본을 알고있다。

지금, 70 년은 통과했습니다。