Tether Data Meluncurkan Kerangka Kerja Inferensi dan Penyempurnaan QVAC Fabric LLM untuk Model AI Modern

Departemen Perusahaan Jasa Keuangan Tether Dengan fokus pada promosi kebebasan, transparansi, dan inovasi melalui teknologi, Tether Data mengumumkan peluncuran QVAC Fabric LLM, sebuah kerangka kerja runtime inferensi dan fine-tuning model bahasa besar (LLM) yang komprehensif. Sistem baru ini memungkinkan pengguna untuk mengeksekusi, melatih, dan menyesuaikan model bahasa besar langsung pada perangkat keras standar, termasuk GPU konsumen, laptop, dan bahkan ponsel pintar, sehingga menghilangkan ketergantungan sebelumnya pada server cloud kelas atas atau pengaturan NVIDIA khusus.

Kain QVAC LLM redefiInferensi dan penyempurnaan LLM berkinerja tinggi, yang sebelumnya hanya dapat diakses oleh organisasi dengan infrastruktur mahal, merupakan sistem terpadu, portabel, dan sangat skalabel pertama yang mampu menjalankan inferensi LLM secara penuh, adaptasi LoRA, dan penyempurnaan instruksi di seluruh sistem operasi seluler (iOS dan Android), serta semua lingkungan laptop, desktop, dan server umum (Windows, macOS, Linux). Hal ini memungkinkan pengembang dan organisasi untuk membangun, menerapkan, menjalankan, dan mempersonalisasi AI secara mandiri, tanpa bergantung pada cloud, ketergantungan pada vendor, atau risiko data sensitif yang hilang dari perangkat.

Inovasi penting dalam rilis ini adalah kemampuan untuk menyempurnakan model pada GPU seluler, seperti Qualcomm Adreno dan ARM Mali, yang menandai kerangka kerja siap produksi pertama yang memungkinkan pelatihan LLM modern pada perangkat keras sekelas ponsel pintar. Kemajuan ini memfasilitasi AI personal yang dapat belajar langsung dari pengguna di perangkat mereka, menjaga privasi, beroperasi secara offline, dan mendukung generasi baru aplikasi AI on-device yang tangguh.

QVAC Fabric LLM juga memperluas llamaEkosistem .cpp dengan menambahkan dukungan penyempurnaan untuk model kontemporer seperti LLama3, Qwen3, dan Gemma3, yang sebelumnya tidak didukung. Model-model ini kini dapat disempurnakan melalui alur kerja yang konsisten dan mudah di semua platform perangkat keras.

Dengan memungkinkan pelatihan pada beragam GPU, termasuk AMD, Intel, NVIDIA, Apple Silicon, dan chip seluler, QVAC Fabric LLM menantang anggapan lama bahwa pengembangan AI tingkat lanjut memerlukan perangkat keras khusus dari satu vendor. GPU konsumen kini layak untuk tugas-tugas AI yang signifikan, dan perangkat seluler menjadi platform pelatihan yang sah, memperluas lanskap pengembangan AI.

Bagi perusahaan, kerangka kerja ini menawarkan keuntungan strategis. Organisasi dapat menyempurnakan model AI secara internal pada perangkat keras yang aman, sehingga menghilangkan kebutuhan untuk mengekspos data sensitif ke penyedia cloud eksternal. Pendekatan ini mendukung privasi, kepatuhan regulasi, dan efisiensi biaya sekaligus memungkinkan penerapan model AI yang disesuaikan dengan kebutuhan internal. QVAC Fabric LLM mengalihkan penyempurnaan dari klaster GPU terpusat ke ekosistem perangkat yang lebih luas yang telah dikelola oleh perusahaan, menjadikan AI canggih lebih mudah diakses dan aman.

Tether Data Merilis QVAC Fabric LLM Sebagai Open-Source, Memungkinkan Kustomisasi AI Terdesentralisasi

Tether Data telah menyediakan QVAC Fabric LLM sebagai perangkat lunak sumber terbuka di bawah lisensi Apache 2.0, disertai biner multi-platform dan adaptor siap pakai di Hugging Face. Kerangka kerja ini memungkinkan pengembang untuk mulai menyempurnakan model hanya dengan beberapa perintah, mengurangi hambatan kustomisasi AI yang sebelumnya sulit diatasi.

QVAC Fabric LLM menandai langkah praktis menuju AI yang terdesentralisasi dan dikelola pengguna. Meskipun sebagian besar industri masih memprioritaskan solusi berbasis cloud, Tether Data berfokus pada penerapan personalisasi tingkat lanjut langsung pada perangkat keras edge lokal. Pendekatan ini mendukung kesinambungan operasional di wilayah dengan jaringan latensi tinggi, seperti pasar negara berkembang, sekaligus menawarkan platform AI yang mengutamakan privasi, tangguh, dan skalabel yang mampu beroperasi secara independen dari infrastruktur terpusat.