Tôi có một người bạn sở hữu một ~$5K PC.

• GPU 5090
• CPU 16 nhân
• RAM 64GB
Chủ lực thực sự. Và anh ấy chủ yếu dùng nó để chơi OSRS.
Nhưng này, tôi không phải người phán xét cách mọi người tiêu tiền.
Tuy nhiên, tôi đã nghĩ về việc có bao nhiêu phần cứng quanh chúng ta đang bị bỏ không, dù là Mini PC, thiết bị biên, hay GPU tiêu dùng.
@nunet_global đang cố gắng tận dụng phần dung lượng dư thừa đó trong hạ tầng đã có sẵn.
Không thay thế đám mây. Chỉ đơn giản là sử dụng những gì đã có. Dưới đây là một cái nhìn tổng quan nhanh ↓
1️⃣ Nó hoạt động như thế nào
Điều làm tôi thấy thú vị hơn là đây không chỉ là câu chuyện "thuê GPU dư của bạn".
Nó liên quan nhiều hơn đến việc điều phối.
Điểm mấu chốt không chỉ là tìm phần cứng nhàn rỗi. Mà là xác định nơi nào workload nên chạy ngay từ đầu. Một số công việc cần phải gần nguồn dữ liệu, trong khi những công việc khác đủ nhẹ để chạy tại chỗ.
Ý tưởng là biến phần cứng hiện có thành một hệ thống phối hợp thay vì nhiều máy móc rời rạc.
2️⃣ NuNet hợp tác với AL'MA
Điều hay là họ đã thử nghiệm trong một hệ thống thực tế, nơi Energy369 Agents, lớp quản lý năng lượng tại chỗ của tòa nhà, xử lý logic năng lượng địa phương trong khi NuNet điều phối cách chia workload giữa các thiết bị tại chỗ và đám mây.
Trong thử nghiệm:
- Các quyết định về năng lượng được xử lý tại chỗ
- Các workload AI chạy tại chỗ trên phần cứng tiêu dùng, từ Raspberry Pi đến GPU
- Các workload nặng hơn chạy trên đám mây
3️⃣ Bằng chứng rộng hơn
Điều này không chỉ dành cho các tòa nhà.
NuNet còn được một đối tác trung tâm dữ liệu sử dụng để kiểm tra căng thẳng phần cứng trước khi triển khai.
4️⃣ Tại sao điều này quan trọng
Với tôi, đây không phải là biến mọi nhà thành trung tâm dữ liệu.
Đây là cho phép hệ thống tính toán và năng lượng hoạt động gần hơn với nơi hạ tầng đã có.
Trong thực tế, điều đó có nghĩa là:
- Độ trễ thấp hơn
- Độ bền cao hơn
- Ít phụ thuộc vào hạ tầng tập trung
Đây là hạ tầng thực sự giải quyết một vấn đề thực tế, và đó chính là ý tôi khi nói về tiện ích trong thế giới thực.