Thinking Machines Lab Hadirkan Inkling sebagai Alternatif AI Open-Weight AS bagi Perusahaan

Business119 Views

Thinking Machines Lab, startup San Francisco yang didirikan mantan CTO OpenAI Mira Murati, merilis model AI generatif Inkling. Model ini menjadi pesaing baru dalam segmen open-weight yang selama ini didominasi pengembang asal China. Inkling menggunakan arsitektur mixture-of-experts dengan total 975 miliar parameter dan 41 miliar parameter aktif saat inferensi. Model mendukung konteks hingga satu juta token serta dilatih pada 45 triliun token yang mencakup teks, citra, audio, dan video.

Peluncuran Inkling dilakukan setelah Thinking Machines memperkenalkan platform Tinker pada Oktober 2025. Tinker memungkinkan pengembang menyesuaikan model melalui API. Inkling dapat di-fine-tune melalui Tinker dengan panjang konteks 64.000 atau 256.000 token. Model ini juga tersedia melalui penyedia inferensi seperti Together AI, Fireworks, Modal, Databricks, dan Baseten.

Dalam benchmark yang dirilis perusahaan, Inkling mencatat skor 77,6 persen pada SWE-Bench Verified. Angka tersebut berada di bawah DeepSeek V4 Pro dan GLM 5.2, namun lebih tinggi daripada Nvidia Nemotron 3 Ultra. Pada metrik lain seperti MCP Atlas dan BrowseComp, Inkling menunjukkan performa kompetitif. Thinking Machines menekankan bahwa hasil benchmark Inkling menggunakan harness bash-only, berbeda dengan metode pelaporan pesaing.

Fitur reasoning-effort yang dapat diatur antara 0,2 hingga 0,99 memberikan fleksibilitas bagi pengembang untuk menyeimbangkan kualitas output dengan jumlah token yang dihasilkan. Pengaturan ini berpotensi menurunkan biaya operasional pada beban kerja tertentu. Selain versi utama, Thinking Machines juga memperkenalkan Inkling-Small yang memiliki 276 miliar parameter total. Versi lebih kecil ini direncanakan dirilis setelah pengujian selesai.

Dari perspektif enterprise, kehadiran Inkling menawarkan opsi diversifikasi rantai pasok teknologi di tengah ketegangan geopolitik antara Amerika Serikat dan China. Banyak organisasi Barat menghadapi hambatan regulasi ketika mempertimbangkan model asal China, sehingga Inkling dapat mempercepat adopsi di sektor yang memerlukan kepatuhan ketat terhadap kebijakan data lokal. Selain itu, integrasi multimodal Inkling membuka peluang penerapan di industri yang membutuhkan pemrosesan dokumen kompleks dan otomasi alur kerja berbasis agen, meskipun biaya infrastruktur GPU tetap menjadi pertimbangan utama.

Untuk menjalankan checkpoint BF16, diperlukan kluster GPU dengan minimal 2 TB VRAM agregat, setara delapan Nvidia B300 atau 16 H200. Versi kuantisasi NVFP4 menurunkan kebutuhan menjadi 600 GB, yang dapat dijalankan pada empat B300 atau delapan H200. Thinking Machines juga menyediakan bobot penuh di Hugging Face serta dukungan untuk berbagai framework inferensi termasuk vLLM dan SGLang.

Dari sisi tata kelola, Thinking Machines melatih Inkling untuk meningkatkan ketahanan terhadap sensor dan mengikuti instruksi dengan baik. Model mencatat skor 98,6 persen pada pengujian StrongREJECT. Namun, perusahaan disarankan melakukan pengujian ulang setelah fine-tuning karena proses tersebut berpotensi melemahkan filter keamanan bawaan. Inkling-Small diperkirakan menjadi pilihan lebih realistis bagi organisasi yang ingin menyeimbangkan performa dengan biaya dan latensi.

Secara keseluruhan, Inkling memperluas pilihan model open-weight yang dikembangkan di Amerika Serikat. Keberadaannya mendorong kompetisi sehat sekaligus memberikan alternatif bagi perusahaan yang memprioritaskan kedaulatan data dan integrasi infrastruktur mandiri.