-
Kerangka kerja LoRA BitNet dari Tether memungkinkan pelatihan model AI di berbagai perangkat seperti ponsel pintar, GPU, dan perangkat konsumen.
-
Sistem ini mengurangi penggunaan memori dan meningkatkan kinerja, dengan kebutuhan VRAM hingga 77,8% lebih rendah.
-
Pengguna dapat menyempurnakan model hingga 13 miliar parameter di perangkat mobile, memperluas kemampuan AI edge.
Tether mengumumkan kerangka kerja AI baru melalui platform QVAC Fabric-nya, memungkinkan pelatihan BitNet LoRA lintas platform di perangkat konsumen. Pembaruan ini memungkinkan model dengan miliaran parameter berjalan di ponsel pintar dan GPU. CEO Paolo Ardoino berbagi perkembangan ini, menyoroti pengurangan biaya dan akses yang lebih luas ke alat AI.
Pelatihan AI Lintas Platform Memperluas Akses
Pembaruan QVAC Fabric memperkenalkan dukungan lintas platform untuk penyempurnaan BitNet LoRA. Ini memungkinkan model AI berjalan di berbagai perangkat keras dan sistem operasi.
Yang menarik, kerangka kerja ini mendukung GPU dari AMD, Intel, dan Apple, termasuk chipset mobile. Ia juga menggunakan backend Vulkan dan Metal untuk kompatibilitas.
Menurut Tether, ini adalah pertama kalinya BitNet LoRA bekerja di berbagai perangkat seperti ini. Akibatnya, pengguna dapat melatih model di perangkat keras sehari-hari.
Peningkatan Kinerja di Perangkat Konsumen
Sistem ini mengurangi kebutuhan memori dan komputasi dengan menggabungkan teknik BitNet dan LoRA. BitNet mengompresi bobot model menjadi nilai yang disederhanakan, sementara LoRA membatasi parameter yang dapat dilatih.
Bersama-sama, metode ini secara signifikan menurunkan kebutuhan perangkat keras. Misalnya, inferensi GPU berjalan dua hingga sebelas kali lebih cepat daripada CPU di perangkat mobile.
Selain itu, penggunaan memori menurun tajam dibandingkan model presisi penuh. Benchmark menunjukkan penggunaan VRAM hingga 77,8% lebih sedikit dibandingkan sistem sejenis.
Tether juga menunjukkan penyempurnaan model di ponsel pintar. Pengujian menunjukkan model dengan 125 juta parameter dilatih dalam hitungan menit di perangkat seperti Samsung S25.
Perangkat Mobile dan Edge Menangani Model Lebih Besar
Kerangka kerja ini memungkinkan model yang lebih besar berjalan di perangkat edge. Tether melaporkan keberhasilan penyempurnaan model hingga 13 miliar parameter di iPhone 16.
Selain itu, sistem ini mendukung GPU mobile seperti Adreno, Mali, dan Apple Bionic. Ini memperluas pengembangan AI di luar perangkat keras khusus.
Menurut Paolo Ardoino, pengembangan AI sering bergantung pada infrastruktur mahal. Ia mengatakan kerangka kerja ini mengalihkan kemampuan ke perangkat lokal.
Tether menambahkan bahwa sistem ini mengurangi ketergantungan pada platform terpusat. Ini juga memungkinkan pengguna melatih dan memproses data langsung di perangkat mereka.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
Artikel Terkait
Belanja pertama sebesar 300.000 dolar AS yang terkait dengan Super PAC milik Tether mengarah ke perusahaan yang didirikan bersama oleh CEO, diduga terjadi penyaluran kepentingan
Komite Aksi Politik super yang terkait dengan Tether mengajukan dokumen ke Komisi Pemilihan Federal AS, yang menunjukkan bahwa pengeluaran pertamanya sebesar 300.000 dolar AS mengalir ke Nxum Group yang didirikan oleh CEO Tether Amerika, Bo Hines, untuk membeli iklan kampanye bagi kandidat Partai Republik dari Georgia, Clay Fuller, sehingga memicu tuduhan adanya aliran kepentingan.
GateNews04-12 13:17
Tether Meluncurkan SDK AI Lokal Open-Source
Paolo Ardoino, CEO Tether, mengkritik AI terpusat dan mengadvokasi desentralisasi melalui QVAC SDK, yang memungkinkan penerapan model AI secara lokal. Perubahan ini meningkatkan privasi data dan kontrol pengguna, menempatkan Tether pada titik temu antara blockchain dan AI, serta menantang perusahaan teknologi dominan.
Coinfomania04-11 06:05
CEO Tether: USDT menyumbang 7,8% volume transaksi HIP-3 di Hyperliquid
Berita Gerbang, 10 April, CEO Tether Paolo Ardoino memposting bahwa adopsi USDT di Hyperliquid sedang tumbuh dengan cepat. Data menunjukkan bahwa dalam waktu kurang dari tiga bulan, USDT meningkat dari hampir tanpa pangsa di Hyperliquid menjadi menempati
GateNews04-10 14:09
Tether meluncurkan toolkit AI open-source QVAC SDK, yang berfokus pada modul dasar kecerdasan buatan umum
Tim QVAC di bawah Tether meluncurkan QVAC SDK, yaitu sebuah kit pengembangan AI lintas platform sumber terbuka yang bertujuan untuk membangun ekosistem cerdas masa depan dan mendukung berbagai perangkat. QVAC dianggap sebagai kerangka cerdas generasi baru, dengan fitur modular dan kemampuan perluasan tanpa batas, untuk beradaptasi dengan perkembangan di masa depan.
GateNews04-09 12:11
