LM Studio cho Mac 0.3.28 Phần mềm chạy DeepSeek trên Mac

LM Studio for Mac là ứng dụng cá nhân dành cho máy tính để bàn, giúp bạn phát triển và thử nghiệm mô hình trí tuệ nhân tạo LLM (Large language model - Mô hình ngôn ngữ lớn) cục bộ trên máy tính như Deepseek.

Download LM Studio for Mac

LM Studio là một phần mềm mã nguồn mở, cho phép người dùng tải, lưu trữ và thử nghiệm các mô hình ngôn ngữ lớn (LLM) trên máy tính của mình. Đây là ứng dụng đa nền tảng với giao diện thân thiện với người dùng, phù hợp cho cả người mới bắt đầu và người dùng nâng cao.

Với phần mềm LM Studio cho Mac, những nhà nghiên cứu có thể khám phá AI tạo sinh, nhà phát triển có thể xây dựng các ứng dụng sáng tạo và những người đam mê có thể tìm hiểu về tiềm năng của LLM.

Với LM Studio, người dùng có thể:

• Chạy các mô hình LLM trên máy tính xách tay hoàn toàn ngoại tuyến.
• Chat với các tài liệu địa phương (mới trong phiên bản 0.3).
• Sử dụng các Model thông qua giao diện trò chuyện trong ứng dụng hoặc máy chủ cục bộ tương thích với OpenAI.
• Tải xuống bất kỳ tệp Model tương thích nào từ kho lưu trữ Hugging Face.
• Khám phá các LLM mới và đáng chú ý ngay bên trong trang Discover của LM Studio.

Tính năng chính của phần mềm LM Studio cho Mac

• Một ứng dụng máy tính để bàn để chạy LLM cục bộ.
• Giao diện trò chuyện quen thuộc.
• Chức năng tìm kiếm và tải xuống (qua Hugging Face).
• Một máy chủ cục bộ có thể lắng nghe giống như OpenAI.
• Hệ thống quản lý mô hình và cấu hình cục bộ.

Yêu cầu thiết bị:

• Chip: Apple Silicon (M1/M2/M3/M4)
• Yêu cầu macOS 13.4 trở lên
• Đối với các mẫu MLX, cần có macOS 14.0 trở lên
• Khuyến nghị RAM 16GB trở lên

Cách cài đặt DeepSeek trên Mac bằng LM Studio

LM Studio cho phép bạn tải xuống và chạy các mô hình AI mà không cần phải viết mã. Các bước cài đặt DeepSeek trên Mac thông qua phần mềm này như sau:

• Bước 1: Tải LM Studio - Truy cập nút "Tải về" trong bài viết này để download LM Studio rồi cài đặt trên máy Mac.
• Bước 2: Khởi chạy LM Studio và đi tới "Model Catalog".
• Bước 3: Tìm "DeepSeek R1". Tại đây có một số phiên bản. Chọn model bạn mong muốn (ví dụ như DeepSeek R1 Distill (Llama 8B)) rồi nhấp vào Download.
• Bước 4: Chạy DeepSeek R1 - Sau khi tải xuống, hãy chuyển đến tab "Local Models" và nhấp vào "Run".
• Bước 5: Bắt đầu chat! DeepSeek R1 hiện đã sẵn sàng để sử dụng trong LM Studio.

Lưu ý:

• Bạn vẫn có thể sử dụng LM Studio trên máy Mac 8GB, nhưng chỉ nên sử dụng các mẫu máy nhỏ hơn và có kích thước ngữ cảnh khiêm tốn.
• Máy Mac chạy chip Intel hiện không được hỗ trợ.

Cập nhật LM Studio

LM Studio 0.3.28

LM Studio 0.3.28 cho Mac hiện đã có phiên bản ổn định. Bạn có thể cập nhật trong ứng dụng hoặc tải xuống phiên bản mới nhất thông qua nút Tải về trong bài viết này.

Bộ chọn biến thể mô hình trong My Models

Khi tải xuống một mô hình do nhân viên chọn lọc, bạn thường có thể chọn giữa nhiều biến thể của mô hình đó. Ví dụ: có thể chọn một biến thể MLX và một biến thể GGUF của cùng một mô hình, hoặc giữa các lượng tử hóa khác nhau (ví dụ: 4-bit, 6-bit hoặc 8-bit).

Bắt đầu từ phiên bản 0.3.28, giờ đây bạn có thể nhanh chóng chọn biến thể nào sẽ được sử dụng theo mặc định khi tải mô hình, trong ứng dụng, lệnh gọi API hoặc bằng CLI.

Cách này áp dụng cho bất kỳ model.yaml nào có nhiều nguồn, bao gồm cả các mô hình bạn tự tạo.

Cải thiện ước tính sử dụng RAM/VRAM

Cải thiện đáng kể việc ước tính mức sử dụng RAM/VRAM trong các trường hợp sau:

• Quantize hỗn hợp
• Các mô hình có nhãn tham số không chính xác trong siêu dữ liệu
• Các mô hình không biến áp

Đánh bóng giao diện người dùng Misc UI

Đã sửa nhiều lỗi UI nhấp nháy trên trang My Models và sửa lỗi số lượng tham số mô hình không hiển thị đối với một số mô hình.