Lompat ke konten
Herlambang Awn@herlambangawn

Kamu komen LAPTOP di video tanggal 17 Nov 2026

Kimi K3 (2,78 triliun parameter) di laptop, tanpa GPU

gratis, tapi lambat

kimi-k3-in-c adalah mesin inferensi Kimi K3 yang ditulis dalam bahasa C99 portabel, tanpa GPU dan tanpa framework. Checkpoint 1,56 TB tetap di disk, hanya 16 dari 896 pakar yang aktif per lapisan, dan sisanya dialirkan dari drive, sehingga memori puncaknya sekitar 8,24 GB. Ini bukti bahwa model sebesar itu muat di laptop, bukan chatbot yang cepat.

Buka kimi-k3-in-c di GitHubRepo resminya. Lisensi Apache-2.0, sekitar 12,3 ribu bintang per 17 Nov 2026.

Cara pasang

Ikuti berurutan dari atas.

1. Cek syarat dulu

Gerbangnya adalah penyimpanan: checkpoint 1,56 TB, jadi siapkan sekitar 1,7 TB ruang kosong (idealnya di disk lokal yang cepat). RAM 8 GB ke atas, CPU dengan AVX2 dan FMA (x86-64) atau NEON (arm64), GCC 9 atau Clang 10 ke atas, GNU make, dan Python 3.9 ke atas untuk alat unduh.

2. Clone, build, dan jalankan tes

Langkah ini tidak butuh checkpoint, jaringan, atau Python, dan memakan waktu sekitar satu menit.

git clone https://github.com/FareedKhan-dev/kimi-k3-in-c.git
cd kimi-k3-in-c
make -j
make test

3. Unduh model

Ikuti bagian unduh dan pengemasan model di README proyek (alat bantunya memakai Python). Ini langkah yang memakan ruang dan waktu paling banyak.

4. Jalankan dengan preset laptop

Contoh dari README: menjawab satu kalimat pendek. Di laptop 8 GB, README mencatat sekitar 26,5 sampai 32,7 detik per token.

./bin/k3 ~/k3model --trunk ~/k3trunk --preset laptop --tok ~/k3model --prompt "The capital of France is" --gen 8 --incremental

Sebelum pakai

  • Ini demo riset yang membuktikan model muat, bukan chatbot yang cepat. Di laptop biasa, README mencatat sekitar 26,5 detik per token (potongan kata) pada drive NVMe cepat, bukan per kata persis.
  • Semua angka (1,56 TB, 8,24 GB RAM puncak, 16 dari 896 pakar, keluaran identik di semua ukuran RAM) berasal dari README proyeknya sendiri dan belum diuji independen.
  • Dengan RAM lebih besar jawabannya sama persis, hanya lebih cepat.
  • Tampilan di video hanya ilustrasi.
Sisa 2 dari 3 slotMau dibimbing belajar AI dari nol?Rp1.999.000Diskon 75%Rp499.000Lihat detailLihat link dari video lain