Phỏng vấn Giám đốc điều hành Micron: “Bộ nhớ” là nút cổ chai bị bỏ quên của AI và tình trạng thiếu nguồn cung có thể kéo dài đến sau năm 2026

Tác giả gốc: Li Jia

Nguồn gốc: Wall Street News

"Cuộc cạnh tranh AI không chỉ là cuộc cạnh tranh về sức mạnh điện toán mà còn là cuộc cạnh tranh về lưu trữ." Giám đốc điều hành Micron Technology Sanjay Mehrotra đã đưa ra nhận định này.

Trong tập podcast A Bit Personal ngày 5 tháng 6, Sanjay đã có một cuộc phỏng vấn sâu hiếm hoi được ghi hình tại nhà riêng của anh ấy. Ngoài những hiểu biết thông thường về ngành, cuộc trò chuyện cá nhân này còn cho phép anh chủ động nói về kinh nghiệm trưởng thành, ảnh hưởng của gia đình và những lựa chọn nghề nghiệp của mình.

AI vẫn đang ở giai đoạn đầu, đây là một trong những nhận định cốt lõi của Sanjay.

Theo quan điểm của ông, khi các mô hình lớn, Agent AI và các ứng dụng lý luận tiếp tục phát triển, AI không chỉ đòi hỏi sức mạnh tính toán mạnh hơn mà còn cả "khả năng bộ nhớ" mạnh hơn.

Cửa sổ ngữ cảnh dài hơn, kích thước mô hình lớn hơn và mức tiêu thụ Mã thông báo ngày càng tăng đều thúc đẩy yêu cầu về bộ nhớ tiếp tục tăng.

Bản chất của AI là dữ liệu và dữ liệu không thể tách rời khỏi bộ nhớ, do đó, bộ nhớ sẽ trở thành một trong những cơ sở hạ tầng quan trọng nhất trong quá trình nâng cao khả năng của AI.

Đồng thời, phía cung ứng cũng chưa được chuẩn bị đầy đủ. Sanjay chỉ ra rằng những gì ngành công nghiệp lưu trữ hiện phải đối mặt không phải là sự mất cân đối giữa cung và cầu trong ngắn hạn mà là những hạn chế về cơ cấu nguồn cung. Các sản phẩm lưu trữ tiên tiến yêu cầu nhiều tấm bán dẫn hơn và thường phải mất từ ​​3 đến 4 năm để xây dựng một nhà máy mới và quá trình tăng cường năng lực sản xuất sau đó cũng dài như nhau.

Quan trọng hơn, khi các nút công nghệ tiến bộ, mức tăng công suất lưu trữ trên mỗi tấm bán dẫn sẽ giảm dần. Ông đánh giá rằng tình trạng nguồn cung thắt chặt trong ngành dự kiến ​​sẽ tiếp tục kéo dài đến sau năm 2026.

Khi giải thích lý do tại sao công nghệ lưu trữ đã bị đánh giá thấp trong thời gian dài, Sanjay nói thẳng: “Mọi người thường hiểu sai về bộ nhớ và không biết việc tạo ra bộ nhớ khó đến mức nào”. Từ vật lý, hóa học đến khoa học vật liệu, để đảm bảo rằng mỗi nghìn tỷ bit hoạt động chính xác trong sản xuất hàng loạt quy mô lớn, độ khó kỹ thuật đằng sau nó là cực kỳ cao. Ông tin rằng cuộc cạnh tranh AI cũng là cuộc cạnh tranh về lưu trữ, vốn đã bị thị trường bỏ qua trong một thời gian dài.

Từ góc độ dài hạn hơn, Sanjay tin rằng logic cơ bản của sự thành công của doanh nghiệp và cá nhân không thay đổi. Cho dù thúc đẩy kế hoạch đầu tư 200 tỷ USD hay dẫn dắt Micron vượt qua các chu kỳ của ngành lưu trữ,những từ khóa mà ông nhấn mạnh nhiều lần là khả năng phục hồi, kỷ luật và chủ nghĩa lâu dài. Đầu tư phải dựa trên dữ liệu và nguyên tắc cơ bản. Các nhà lãnh đạo không chỉ phải nhìn rõ xu hướng của ngành mà còn phải có hiểu biết sâu sắc về các chi tiết kỹ thuật.

Như anh đã học được từ cha mình, thành công đòi hỏi cả sự kiên cường, kiên trì và khả năng nắm bắt cơ hội vào những thời điểm quan trọng.

Những điểm cốt lõi của cuộc phỏng vấn với Giám đốc điều hành Micron Technology Sanjay Mehrotra như sau:

Bộ lưu trữ là AI Nút thắt cổ chai cơ bản đã bị đánh giá thấp và quá trình sản xuất của nó khó khăn và giá trị chiến lược vượt xa sự công nhận của thị trường. AI đang mở rộng từ “cuộc chạy đua sức mạnh máy tính” sang “cuộc đua lưu trữ”. Việc mở rộng quy mô mô hình, kéo dài cửa sổ ngữ cảnh và mức tiêu thụ Token tăng vọt đã khiến AI không chỉ dựa vào sức mạnh tính toán mạnh hơn mà còn dựa vào “khả năng bộ nhớ” mạnh hơn. Nếu không có đủ dung lượng lưu trữ và băng thông thì sức mạnh tính toán dù có mạnh đến đâu cũng không thể giải phóng được.

Những hạn chế về mặt cơ cấu từ phía nguồn cung xác định rằng tình trạng thiếu kho dự trữ không phải là một biến động ngắn hạn mà là một trạng thái dài hạn. Các sản phẩm lưu trữ nâng cao tiêu thụ nhiều tấm bán dẫn hơn và phải mất từ ​​3 đến 4 năm để xây dựng một nhà máy mới và quá trình tăng cường năng lực sản xuất cũng kéo dài tương tự. Đồng thời, tiến bộ về nút công nghệ đã dẫn đến giảm mức tăng trưởng sản lượng trên mỗi tấm bán dẫn. Trong bối cảnh cung và cầu không cân đối, nguồn cung khan hiếm sẽ tiếp tục kéo dài ít nhất cho đến năm 2026.

Mọi người luôn đánh giá thấp độ khó của việc sản xuất bộ nhớ, nhưng đây chính xác là con hào sâu nhất của ngành. Từ vật lý và hóa học đến khoa học vật liệu, từ thiết kế đến sản xuất hàng loạt để đảm bảo hàng nghìn tỷ bit không có lỗi, độ phức tạp kỹ thuật là cực kỳ cao. Việc sản xuất chip nhớ đã khó như bất kỳ lĩnh vực bán dẫn nào và thậm chí còn khó hơn về nhiều mặt.

Thành công đến từ sự kiên cường, kỷ luật và tính lâu dài chứ không phải sự phán xét ngắn hạn. Cho dù thúc đẩy khoản đầu tư 200 tỷ USD hay điều hướng những biến động mang tính chu kỳ của ngành lưu trữ, các nhà lãnh đạo cần xem xét cả xu hướng của ngành và các chi tiết kỹ thuật. Giống như bố tôi, người không chịu bỏ cuộc dù bị từ chối visa ba lần, thành công đòi hỏi cả sự kiên cường bền bỉ và khả năng nắm bắt cơ hội ở những thời điểm quan trọng.

Lưu trữ đang trở thành xương sống của AI

Khi nói về vị thế lịch sử hiện tại của ngành lưu trữ, Sanjay nói thẳng: "Tôi đã làm việc trong ngành này hơn 45 năm Đây là khoảnh khắc thú vị nhất mà tôi từng trải qua trong toàn ngành."

Ông giải thích thêm về tầm quan trọng chiến lược của việc lưu trữ đối với AI:

"Không có chất bán dẫn, sẽ không có AI. Và lưu trữ là xương sống của AI và hỗ trợ AI. "Nền tảng quan trọng cho sự phát triển liên tục".

Theo quan điểm của ông, vai trò của lưu trữ không còn chỉ là một thành phần trong thiết bị mà còn trực tiếp mang "trí thông minh": "Ngày nay, lưu trữ không chỉ cho phép thiết bị thực hiện điều đó. chạy, nó đang hỗ trợ chính 'trí thông minh' trong AI và giúp trí tuệ nhân tạo trở nên thông minh hơn."

Khi quy mô của các mô hình mở rộng, nhu cầu suy luận bùng nổ và tác nhân AI (Agent) Với sự gia tăng nhanh chóng của AI (AI), logic của sự tăng trưởng trong yêu cầu lưu trữ là rất rõ ràng theo quan điểm của Sanjay: "Khi các mô hình ngày càng lớn hơn và khi các yêu cầu suy luận tiếp tục phát triển, và AI chuyển từ đào tạo sang suy luận và từ trung tâm dữ liệu sang biên, nhu cầu lưu trữ sẽ ngày càng cao hơn và cao hơn - nó đòi hỏi công suất lớn hơn, hiệu suất cao hơn và mức tiêu thụ điện năng thấp hơn."

Ông cũng đề cập cụ thể đến sự phụ thuộc của kinh tế mã thông báo vào việc lưu trữ: "Khi bạn nhìn vào kinh tế học mã thông báo, nó cũng phụ thuộc rất nhiều vào lưu trữ. Khi mức sử dụng mã thông báo tăng lên, cửa sổ ngữ cảnh sẽ dài hơn và KV Nhu cầu về bộ nhớ đệm tăng lên và bản thân mô hình cũng ngày càng lớn hơn. AI không chỉ đòi hỏi khả năng tính toán mà còn cả khả năng “ghi nhớ”. ”

Nguồn cung thắt chặt sẽ tiếp tục cho đến sau năm 2026

Đối với vấn đề cung cầu mà thị trường quan tâm nhất, Sanjay đã đưa ra nhận định rõ ràng:Sự thắt chặt nguồn cung trong toàn ngành sẽ tiếp tục cho đến sau năm 2026 và sẽ kéo dài trong một thời gian dài.

Ông giải thích những hạn chế về cơ cấu ở phía cung: "Phải mất một thời gian dài để xây dựng một nhà máy sản xuất bánh wafer. Từ khi động thổ đến khi cho ra mẻ bánh bán dẫn đầu tiên, thường phải mất từ ​​​​ba đến bốn năm. Sau đó, chúng tôi phải tiếp tục leo lên và tăng dần sản lượng."

Quan trọng hơn, khó khăn kỹ thuật gia tăng đang làm giảm hiệu suất đầu ra của tấm wafer đơn vị: "Sự cải thiện về hiệu quả sản xuất do mỗi thế hệ công nghệ mới mang lại chính là phần mà mỗi tấm wafer có thể mang lại. Mức tăng đang giảm."

Sanjay tiết lộ rằng Micron đã dự đoán xu hướng này ngay từ khoảng năm 2021.

Vào thời điểm đó, bộ nhớ băng thông cao (HBM) chiếm chưa đến 1% trong toàn bộ ngành lưu trữ, nhưng họ nhận thấy rằng các thế hệ HBM trong tương lai sẽ tiêu thụ rất nhiều silicon và có tác động lớn đến mô hình cung ứng: “Vì vậy, ngay từ năm 2021, chúng tôi đã nói rằng ngành này cần các nhà máy mới được xây dựng từ đầu. Chỉ là không ai thực sự dự đoán AI Nó sẽ bùng phát với tốc độ nhanh như vậy." Sanjay không trực tiếp loại trừ mối lo ngại của thị trường về việc "tái dư thừa sau khi nguồn cung bắt kịp", nhưng ông nhấn mạnh rằng AI vẫn đang ở giai đoạn đầu và tăng trưởng cơ cấu dài hạn về phía cầu là cơ sở cho sự tự tin của nó: "Từ phía cầu, điều này vẫn đang ở giai đoạn rất sớm. Chúng tôi tin rằng AI vẫn còn một chặng đường dài phía trước."

2000 Logic cơ bản của khoản đầu tư hàng tỷ đô la: Kỷ luật

Thông báo của Micron đầu tư 200 tỷ đô la vào việc xây dựng hệ thống sản xuất bộ lưu trữ ở Hoa Kỳ là một trong những quyết định về vốn gây chú ý nhất trong ngành bán dẫn trong những năm gần đây. Về logic cơ bản của quyết định này, Sanjay nhiều lần nhấn mạnh từ "kỷ luật":

"Đầu tư không bao giờ được thực hiện một cách mù quáng, nó phải có kỷ luật và dựa trên dữ liệu. Bạn phải hiểu công nghệ, hiểu ứng dụng và hiểu những ứng dụng này sẽ đi về đâu. Bạn cũng cần phải gần gũi với khách hàng của mình. Hợp tác để hiểu họ sẽ đi đâu trong tương lai và vai trò của Micron trong đó."

Ông giải thích thêm về kỷ luật ở cấp độ thực thi: "Ngày nay, chúng tôi đang đầu tư xây dựng một số nhà máy mới từ đầu. Bước đầu tiên là đặt nhà máy và cơ sở hạ tầng lên hàng đầu. Sau khi các nhà máy này hoàn thành, chúng tôi vẫn duy trì kỷ luật khi lắp đặt thiết bị và thiết lập năng lực sản xuất thực tế - liên tục đánh giá dự báo nhu cầu, đánh giá tiến bộ công nghệ có thể mang lại mức tăng trưởng như thế nào và đánh giá nhu cầu sản phẩm sẽ thay đổi như thế nào."

Khi được hỏi liệu anh có từng nghi ngờ bản thân hay không, Sang nói. Câu trả lời của Jay rất đơn giản:

"Chúng tôi không nghi ngờ gì về bản thân. Chúng tôi hoàn toàn tin tưởng vào cơ hội lưu trữ và ngày nay, điều đó đã rất rõ ràng. Tất nhiên, trong hoạt động kinh doanh của chúng tôi, điều quan trọng luôn là duy trì khả năng thích ứng và linh hoạt."