AI Avatar Chat — Proof of Concept

Tiga pendekatan arsitektur avatar sebagai baseline dengan mekanika obrolan yang sama, lalu enam pustaka sungguhan diadu di atasnya — yang disewa per menit melawan yang dijalankan di mesin sendiri. Tab dikelompokkan menurut itu.

Pustaka

LongCat-Video-Avatar 1.5 — avatar yang bobotnya bisa Anda miliki

Sembilan dari sepuluh pilihan di dokumentasi menagih Anda tiap bulan. Yang ini tidak. Model dari Meituan, berlisensi MIT, bobotnya terbuka: beri satu foto acuan dan sepotong audio, dan ia menghasilkan video orang itu berbicara. Tidak ada yang meninggalkan jaringan Anda, dan tidak ada meteran yang berjalan.

Halaman ini riset, bukan demo

Model ini tidak pernah dijalankan untuk PoC ini. Server tempat aplikasi ini di-hosting memakai dua RTX 3060 12 GB — setengah dari jalur termurah yang pernah dilaporkan berhasil. Menyalakan dua GPU sekaligus pun tidak menolong: paralelisme yang dipakainya membelah urutan, bukan bobotnya, jadi tiap kartu tetap harus memuat model utuh.

Semua angka di halaman ini dikutip dari repo, kartu model, dan utas isu mereka per 2026-09-07 — bukan dari stopwatch di sini. Bandingkan dengan /navtalk, yang latensi dan biayanya benar-benar diukur. Membedakan keduanya adalah inti dari apa yang membuat aplikasi ini berguna.

Bentuknya berbeda dari /navtalk, dan itu yang paling sering tertukar

NavTalk · percakapan hidup

suara Anda → GPU mereka → wajah menjawab
± 200 ms · terukur

Menyahut. Itu yang membuat avatar terasa hidup, dan itu yang Anda bayar per menit.

LongCat · video pra-render

foto + audio → GPU Anda → berkas .mp4
hitungan menit · dikutip

Tidak menyahut. Disiapkan di muka, lalu diputar. Cocok untuk presenter, pengumuman, atau materi pelatihan.

Karena itu LongCat bukan pengganti rute /navtalk. Ia mengganti sisi lain dari penyedia yang sama — bagian yang membuatkan video, bukan bagian yang mengobrol. Melihat “gratis, MIT” lalu menyimpulkan biaya percakapan bisa dicoret adalah kesalahan yang mahal.

Apakah GPU Anda sanggup?

Tidak muat

Berkas DiT terkuantisasi INT8-nya saja 15,9 GB, jadi bobotnya tidak masuk ke satu kartu. Ada laporan seseorang memaksanya di 8 GB dengan menukar blok bolak-balik ke RAM, tapi itu peretasan pribadi, bukan jalur yang didukung — dan sangat lambat.

Lisensi
MIT · bobot terbuka
Ukuran model
13,6 miliar parameter
Encoder audio
Whisper-large-v3
Langkah inferensi
8 (hasil distilasi)
Keluaran
480p atau 720p
Total unduhan
± 75 GB

Kapan membeli lebih murah daripada menyewa?

Pembandingnya adalah tarif video sintetis NavTalk, $0.10 per menit — bukan tarif percakapannya, karena keduanya mengerjakan hal yang berbeda.

Sewa per bulan

$30.00

Sewa per tahun

$360

Kartu impas setelah

66.7 bulan

Pada volume itu menyewa masih jauh lebih murah. Kartunya baru terbayar setelah waktu yang lebih panjang daripada umur pakai wajar sebuah GPU.

Yang belum masuk: listrik, tempat menaruhnya, dan orang yang merawatnya. Juga waktu komputasinya sendiri — dokumentasi mereka menyebut video dihasilkan dalam hitungan menit, dan satu-satunya tolok ukur publik di kartu 24 GB diperdebatkan di utasnya sendiri. Jadi anggap throughput sebagai hal yang harus diukur, bukan diasumsikan.

Kalau mau mencobanya sungguhan

  1. 1Siapkan satu kartu 24 GB ke atas, atau sewa per jam di penyedia GPU cloud. Ini langkah yang menentukan; sisanya rutin.
  2. 2Unduh bobotnya dari Hugging Face — meituan-longcat/LongCat-Video-Avatar-1.5, sekitar 75 GB.
  3. 3Pasang PyTorch 2.6 + CUDA 12.4 dan FlashAttention-2 sesuai README-nya.
  4. 4Jalankan dengan --model_type avatar-v1.5 --use_distill; tambahkan --use_int8 kalau VRAM-nya pas-pasan.
  5. 5Beri satu foto menghadap kamera dan satu berkas audio, lalu ukur berapa lama satu klip benar-benar jadi. Angka itulah yang tidak dimiliki halaman ini.

Sumber: github.com/meituan-longcat/LongCat-Video (repo, isu, dan README) dan kartu modelnya di Hugging Face. Halaman ini satu-satunya di aplikasi yang menautkan ke luar — karena untuk menilai sebuah pustaka, Anda memang harus bisa sampai ke sana.