Chạy một mô hình AI mà không cần kết nối internet nghe có vẻ tuyệt vời nhưng thường đòi hỏi phần cứng mạnh mẽ và đắt tiền. Tuy nhiên, điều này không phải lúc nào cũng đúng: mô hình R1 của DeepSeek là một lựa chọn hữu ích cho các thiết bị cấu hình thấp hơn—và nó cũng ngạc nhiên là dễ cài đặt.
Chạy AI Chatbot Cục Bộ Nghĩa Là Gì?
Khi bạn sử dụng các chatbot AI trực tuyến như ChatGPT, các yêu cầu của bạn được xử lý trên máy chủ của OpenAI, nghĩa là thiết bị của bạn không phải thực hiện công việc nặng nhọc. Bạn cần kết nối internet liên tục để giao tiếp với các chatbot AI, và bạn không bao giờ kiểm soát hoàn toàn dữ liệu của mình. Các mô hình ngôn ngữ lớn (LLM) cung cấp sức mạnh cho các chatbot AI, như ChatGPT, Gemini, Claude, v.v., đòi hỏi rất nhiều tài nguyên để chạy vì chúng phụ thuộc vào GPU với VRAM lớn. Đó là lý do tại sao hầu hết các mô hình AI đều dựa trên đám mây.
Một AI chatbot cục bộ được cài đặt trực tiếp trên thiết bị của bạn, giống như bất kỳ phần mềm nào khác. Điều đó có nghĩa là bạn không cần kết nối internet liên tục để sử dụng AI chatbot và có thể gửi yêu cầu bất cứ lúc nào. DeepSeek-R1 là một LLM cục bộ có thể được cài đặt trên nhiều thiết bị. Mô hình 7B (bảy tỷ tham số) đã được chắt lọc của nó là một phiên bản nhỏ hơn, được tối ưu hóa, hoạt động tốt trên phần cứng tầm trung, cho phép tôi tạo phản hồi AI mà không cần xử lý đám mây. Nói một cách đơn giản, điều này có nghĩa là phản hồi nhanh hơn, quyền riêng tư tốt hơn và kiểm soát hoàn toàn dữ liệu của tôi.
Cách Tôi Cài Đặt DeepSeek-R1 Trên Laptop
Chạy DeepSeek-R1 trên thiết bị của bạn khá đơn giản, nhưng hãy nhớ rằng bạn đang sử dụng một phiên bản ít mạnh hơn so với chatbot AI dựa trên web của DeepSeek. Chatbot AI của DeepSeek sử dụng khoảng 671 tỷ tham số, trong khi DeepSeek-R1 có khoảng 7 tỷ.
Bạn có thể tải xuống và sử dụng DeepSeek-R1 trên máy tính của mình bằng cách làm theo các bước sau:
DeepSeek-R1 hoạt động trong cửa sổ Terminal sau khi cài đặt Ollama
- Truy cập website của Ollama và tải xuống phiên bản mới nhất. Sau đó, cài đặt nó trên thiết bị của bạn như bất kỳ ứng dụng nào khác.
- Mở Terminal và gõ lệnh sau:
ollama run deepseek-r1:7b
Lệnh này sẽ tải xuống mô hình DeepSeek-R1 7B về máy tính của bạn, cho phép bạn nhập các truy vấn vào Terminal và nhận phản hồi. Nếu bạn gặp vấn đề về hiệu suất hoặc sự cố, hãy thử sử dụng một mô hình ít đòi hỏi hơn bằng cách thay thế 7b bằng 1.5b trong lệnh trên.
Trong khi mô hình hoạt động hoàn hảo trong Terminal, nếu bạn muốn một giao diện người dùng đầy đủ tính năng với định dạng văn bản phù hợp như ChatGPT, bạn cũng có thể sử dụng một ứng dụng như Chatbox.
DeepSeek Chạy Cục Bộ: Không Hoàn Hảo—Nhưng Hiệu Quả
Như đã đề cập trước đó, các phản hồi sẽ không tốt (hoặc nhanh!) bằng những phản hồi từ chatbot AI trực tuyến của DeepSeek vì nó sử dụng một mô hình mạnh hơn và xử lý mọi thứ trên đám mây. Nhưng hãy xem các mô hình nhỏ hơn hoạt động tốt như thế nào.
Giải Quyết Bài Toán
Để kiểm tra hiệu suất của mô hình tham số 7B, tôi đã đưa cho nó một phương trình và yêu cầu nó giải tích phân. Tôi khá hài lòng với cách nó hoạt động, đặc biệt là vì các mô hình cơ bản thường gặp khó khăn với toán học.
Tôi phải thừa nhận đây không phải là câu hỏi phức tạp nhất, nhưng đó chính xác là lý do tại sao việc chạy một LLM cục bộ lại rất hữu ích. Đó là việc có một công cụ sẵn sàng để xử lý các truy vấn đơn giản ngay tại chỗ thay vì phụ thuộc vào đám mây cho mọi thứ.
Gỡ Lỗi Mã Nguồn
Một trong những công dụng tốt nhất mà tôi tìm thấy khi chạy DeepSeek-R1 cục bộ là cách nó giúp ích cho các dự án AI của tôi. Nó đặc biệt hữu ích vì tôi thường viết code trên các chuyến bay mà không có kết nối internet, và tôi rất dựa vào LLM để gỡ lỗi. Để kiểm tra xem nó hoạt động tốt như thế nào, tôi đã cung cấp cho nó đoạn code này với một lỗi ngớ ngẩn được cố ý thêm vào.
X = np.<span>array</span>([<span>1</span>, <span>2</span>, <span>3</span>, <span>4</span>, <span>5</span>]).reshape(<span>-1</span>, <span>1</span>) y = np.<span>array</span>([<span>2</span>, <span>4</span>, <span>6</span>, <span>8</span>, <span>10</span>]) <p>model = LinearRegression() <span>model</span><span>.fit</span>(<span>X</span>, <span>y</span>) </p><p>new_X = np.<span>array</span>([<span>6</span>, <span>7</span>, <span>8</span>]) prediction = model.predict(new_X)</p>
DeepSeek-R1 sửa lỗi và đề xuất giải pháp cho đoạn mã Python
Nó xử lý mã nguồn một cách dễ dàng, nhưng hãy nhớ rằng tôi đang chạy nó trên một chiếc M1 MacBook Air chỉ với 8GB Unified Memory (Unified Memory được chia sẻ giữa CPU, GPU và các phần khác của SoC).
Với một IDE đang mở và nhiều tab trình duyệt đang chạy, hiệu suất của MacBook của tôi bị ảnh hưởng nghiêm trọng—tôi phải buộc đóng mọi thứ để máy phản hồi trở lại. Nếu bạn có 16GB RAM hoặc thậm chí là một GPU tầm trung, bạn có thể sẽ không gặp phải những vấn đề này.
Tôi cũng đã thử nghiệm nó với các codebase lớn hơn, nhưng nó bị kẹt trong một vòng lặp suy nghĩ, vì vậy tôi sẽ không dựa vào nó để thay thế hoàn toàn các mô hình mạnh hơn. Tuy nhiên, nó vẫn hữu ích để nhanh chóng tạo ra các đoạn code nhỏ.
Giải Các Câu Đố
Tôi cũng tò mò muốn xem mô hình này xử lý các câu đố và suy luận logic tốt như thế nào, vì vậy tôi đã thử nghiệm nó với bài toán Monty Hall, nó đã giải quyết dễ dàng, nhưng tôi thực sự bắt đầu đánh giá cao DeepSeek vì một lý do khác.
DeepSeek-R1 giải quyết và giải thích chi tiết bài toán Monty Hall
Như được hiển thị trong ảnh chụp màn hình, nó không chỉ đưa ra câu trả lời—nó còn hướng dẫn bạn toàn bộ quá trình suy nghĩ, giải thích cách nó đi đến giải pháp. Điều này làm rõ rằng nó đang suy luận qua vấn đề chứ không chỉ đơn thuần là nhớ lại một câu trả lời đã được huấn luyện.
Công Việc Nghiên Cứu
Một trong những hạn chế lớn nhất của việc chạy một LLM cục bộ là giới hạn kiến thức (outdated knowledge cutoff) của nó. Vì nó không thể truy cập internet, việc tìm kiếm thông tin đáng tin cậy về các sự kiện gần đây có thể là một thách thức. Hạn chế này đã rõ ràng trong quá trình thử nghiệm của tôi, nhưng nó còn tồi tệ hơn khi tôi yêu cầu một cái nhìn tổng quan ngắn gọn về chiếc iPhone đời đầu—nó tạo ra một phản hồi vừa không chính xác vừa vô tình hài hước.
Chiếc iPhone đầu tiên rõ ràng không ra mắt với iOS 5, cũng không ra mắt sau “iPhone 3” không tồn tại. Nó gần như sai mọi thứ. Tôi đã thử nghiệm nó với một vài câu hỏi cơ bản khác, nhưng sự không chính xác vẫn tiếp diễn.
Sau khi DeepSeek gặp sự cố rò rỉ dữ liệu, việc biết rằng tôi có thể chạy mô hình này cục bộ mà không phải lo lắng về việc dữ liệu của mình bị lộ ra thật yên tâm. Mặc dù nó không hoàn hảo, việc có một trợ lý AI ngoại tuyến là một lợi thế lớn. Tôi rất muốn thấy nhiều mô hình như thế này được tích hợp vào các thiết bị tiêu dùng như điện thoại thông minh, đặc biệt là sau sự thất vọng của tôi với Apple Intelligence.
Chắc chắn rằng việc sở hữu một mô hình AI cục bộ như DeepSeek-R1 mang lại sự tiện lợi và bảo mật đáng kể cho người dùng cá nhân và các nhà phát triển. Dù vẫn còn những hạn chế về hiệu suất và khả năng cập nhật kiến thức, tiềm năng của AI chạy trên thiết bị cá nhân là rất lớn, mở ra hướng đi mới cho trải nghiệm công nghệ riêng tư và hiệu quả. Hãy thử cài đặt và trải nghiệm DeepSeek-R1 để tự mình khám phá những lợi ích mà nó mang lại!
