토큰 transit 역 chaos: 연구 후, 나는 그것을 사용하는 것을 두려워했다
악성 코드 주입, 개인 키 도난, 신용 카드 도난, 누출 채팅 기록, 모델 물 혼합 ..
여기에 있습니다。
2 일 전, 나는 개발자 그룹에서 다이빙하여 사람들이 싼 구매에 대해 이야기합니다수백 개의 토큰의 정지를 실행할 수 있습니다나는 모른다。
사람들은 앉아, 자신의 손에 모델이 대체되었다고 말하고 역 주인은 돈을 위해 작은 모델을 몰래 의심했다。
나는이 대화를보고, 단지 하나의 생각이었다 ..
아니 친구, 당신은 너무 큰。
사람들은 여전히 그 달러의 차이에 대해 걱정하고, 정지는 이미 컴퓨터 참가자에있을 수 있습니다。
어떻게 나쁜가요
솔직히, pheasant 정지로 이동하여 물을 만듭니다나는이 그룹에서 가장 윤리적인 사람들 중 하나입니다。
그것에 대해 생각, 당신은 복잡한 코드를 보내, 당신은 클라드의 가장 강한 Opus 4.6을 사용하여 모자이크를 처리하고, 그는 무료 오픈 소스 모델로 곧 던질 것입니다. 더 어두운, 더 비싼, 100 공식 실행 자신의 백 단계 수 300。
그러나 그것은 아무것도。역의 대부분은 단순히 무료 신용 카드를 사용, 공식 번호, 그는 즉시 그물을 ran。권한 보호를 위한 장소도 없습니다. 과..채팅 기록그들은 표면에 그것을 지키지 않습니다. 그들은 이미 언어 라이브러리에 싸여 인터넷에 판매。
많은 사람들이 그것을 자르는 단지 작은 돈 생각。
그것은 내가 생각, 너무, 나는 최근의 앞으로 보안 연구를 본 때까지, 그리고 무슨 일이 일어나는。
심각한, 많은 사람들이 transit 역의 이해는 여전히 오래된 "웹 채팅"시대에 있습니다. 그것은 두뇌가없는 트랜스 폰더입니다。
그러나 이제 AI는 로봇에 대해 더 이상 이야기하지 않습니다. 화면의 앞에, Cursor, running ClaudeCode, 또는 lobsters를 올리는 것을 실행할 수 있습니다。
이제 AI는 손과 발입니다。로컬 파일을 읽을 수 있으며 코드를 작성하고 터미널에서 시스템 레벨 주문을 직접 실행할 수 있습니다。
그리고 알 수없는 기본 URL과 코드 편집기를 채울 때, 그것은 완전히 다릅니다。
2 일 전, "Your Agent Is Mine"라는 유명한 보안 연구자 Chaofan Shou 팀의 종이가 읽었습니다. 그들은 400 횡단 역 이상 방문에 갔다。
그리고
26 역은 악의적인 코드와 함께 스폿 스니킹에 잡혔습니다。
어떻게
현실화의 원리에서, 이것은 신청 층의 중간인 transit 역의 deadliest 구조상 결함의 한개 포함합니다. 다른 말에서는, OpenAI 또는 Anthropic과의 커뮤니케이션은, 당신이 허브 서버를 통해 통과한 순간, 명확했습니다。
너무 흥미 진진합니다
이 지역에 집중하면이 그림을 상상하십시오。
Cursor를 사용하여 AI를 사용하여 Nginx 로그를 분석하기 위해 Python 스크립트를 작성합니다. 지금까지 GPT-5 공식은 솔직히 작성하고 JSON 데이터 조각으로 코드를 다시 보냈습니다。
그것은이 중지에 검은 마음 보스가 그것을 본다반환 데이터는 다음 Shell의 역 말 논리로 끝납니다。
로컬 클라이언트는 인증에 대해 확인하지 않았으며, 유효한 JSON 형식을 받아 컴퓨터에서 즉시 실행됩니다。
더 많이 있습니다. 그들은 일반적으로 정직하고 당신에게 이야기처럼 행동합니다. AI가 환경에 도움이 될 때 AI는 터미널에서이 패키지를 설치하는 것이 좋습니다。
왼손잡이 스크립트를 감지하고 가방의 이름은 조용히 reqeusts로 변경되었습니다. 잘못된 문자, 당신은 당신의 눈이 닫혀있는 자동차에서 다시 녹아, 그리고 블랙 메일 바이러스 또는 광업 프로그램을 가진 vicious relying 가방은 시스템 루트 디렉토리에 있습니다。
나는 중지。
연구팀에 의해 발표된 실제 데이터에서, 그것은 연구의 앞에 시간의 문제입니다자발적으로 터치 할 수있는 17 개의 TRANSIT 스테이션이 있으며 연구원이 잘못 넣어 AWS 키를 훔쳐보십시오. 현실에서, 심지어 사람들이있다, 악성 노드의 사용을 통해, 자신의 개인 키와 직접 누출, 수천 달러의 수백은 즉시 사라。
나는 아직도 약간 혼란。
거기에 이야기하자. 실제로 어두운 숲입니다。
많은 사람들이 OpenRouter와 같은 정기적인 수집가를 제외하고 낮은 가격의 pheasant 정지의 어떤 종류를 알고 있습니다 : 역 분해, trans-regional 재판매, 검은 출생 신용 카드。
우리의 많은, 정규적인 workmen 또는 프로그래머는, 그들의 핵심 근원 부호 및 암호화된 monetary 원조를 가진 컴퓨터의 가장 높은 통제가 있습니다회색 탄생의 과학에 있습니다。
우리는 무엇을해야합니까
이 AI 도구를 어쨌든 사용할 수 없습니다。
나는 그것을 넘게 생각한다아래에서 시작하는 모델러까지입니다나는 모른다. 현재 API는 평화로운 편지와 같습니다. POSTMAN이 콘텐츠를 변경하는 것은 쉽습니다。
하나의 접근법은 HTTPS 인증서와 유사한 암호 디지털 서명을 소개합니다. 큰 모델 회사는 공식 개인 키 스탬프와 코드를 보내, 우리의 로컬 편집기는 그것을 수신하고 공공 키 서명을 얻기 위해 공식 기관 도메인에 간다. 멈춤은 곧 상징과 함께 중지됩니다。
정직하게, 나는 제조업체가 그것을 밖으로 얻을 수 있을 때 확실하지 않습니다. 그 전에우리는 우리의 삶을 저장하는 우리의 자신의 방법을 찾을 수 있습니다나는 모른다。
내 전략 중 하나는 다시 사용할 것입니다그것은 공식입니다Or just step back with OpenRouter, 매우 높은 신뢰성 보증을 가진 형식의 게이트웨이. 명시된 데이터에 대한 악성 해커 액세스를 제공하지 않습니다。
당신이 울에 그 벅을 문질러가는 경우, 나를 믿는다그것은 극단적 인 물리적 고립을 가지고 중요합니다나는 모른다。
주요 물리 기계에 절대로하지 않고 가상 머신을 만들거나 Docker 컨테이너에 네트워크 액세스를 제한합니다. 그리고 매우 중요한 이동. 도구 세트로 이동모든 unsupervised self-implementing 모델을 끄십시오나는 모른다。
TRANSIT 역의 노드를 사용하는 경우 AI는 터미널에서 실행하는 코드의 모든 줄을 제안합니다. 해커의 명령이 공격하는 것을 동의해야하며, 단어의 별 단어와 손을 잡는 것은 아닙니다。
나를 말 한 마지막 일제품정보나는 모른다。
공식이라고 생각하면이 울을 잘라야합니다간단한 채팅 도구로 멈춥니 다나는 모른다. 주간 신문을 작성하고 기사를 작성하고 무언가를 번역하십시오. 그러나 로컬 터미널을 호출 할 수있는 모든 에이전트 도구에서 이것을 채지 마십시오
개인 정보 보호 정책
심각한, 그 씨 Li 씨가 전체 웹에 의해 조롱 한 유명한 문구의 나를 상기: "중국은 편의에 대한 개인 정보를 거래 할 것이다." 그것은 조금 stale 소리, 그러나 당신이 당신의 채팅 기록 및 회사 코드가 검은 심장 역의 머리에 의해 보일 것이라고 생각 한 사람이 있다면, 당신은 몇 십억 달러의 차이에 대한 개인 정보를 거래해야합니다。
그것은 당신의 자유입니다。
그러나 마지막 선을 보유한다면, 당신은 해커에 저널을 표시 할 수 있지만, 집에 그 키를 제공하지 않습니다。
AI는 실제로 우리에게 비행 할 수있는 우수한 생산성 레버입니다. 그러나 우리가 끄기 전에, 당신의 체계에 문을 잠그십시오。
