Lewati ke konten
Back to InsightsAI Architecture

Mercury Flux: Lapisan Routing AI di Balik Agen Perdagangan Kami

By James Huang2 September 2026·Updated 4 Sep 20268 min read

Berikut adalah pertanyaan yang akan dihadapi setiap perusahaan yang menerapkan agen AI dalam waktu dua belas bulan: ketika Anda memiliki lima agen yang berjalan — asisten belanja, manajer katalog, analis, penulis naskah, bot dukungan — model mana yang digunakan masing-masing?

Jawaban default adalah model mana pun yang disukai tim yang membangunnya. Lima aplikasi, lima pilihan model yang dikodekan keras, lima salinan kunci API yang sama dalam lima file .env, lima tagihan yang tidak terlihat. Ketika penyedia mengalami gangguan, lima aplikasi gagal secara independen. Ketika keuangan bertanya berapa biaya AI per lini produk, tidak ada yang bisa menjawab.

Kami menolak untuk menerima arsitektur itu, jadi kami membangun lapisan yang memperbaikinya. Ini adalah cerita tentang Mercury Flux — mesin pengarah model kami — dan agen perdagangan yang berjalan di atasnya. Ini juga merupakan pratinjau tentang bagaimana kami menerapkan AI agens untuk klien perusahaan.

TL;DR: Menghardcode model ke dalam setiap aplikasi AI adalah seperti menghardcode kata sandi ke dalam kode sumber.Mercury Flux adalah lapisan pengarah AI yang berada di antara setiap agen dan setiap penyedia model — Gemini, GLM, Grok, Kimi, salah satunya: setiap aplikasi mengautentikasi dengan kuncinya sendiri, mendapatkan tabel rutenya sendiri (tipe tugas → model → rantai cadangan), dan melaporkan penggunaan tokennya sendiri. Agen perdagangan kami — asisten belanja yang berhadapan dengan pelanggan dan agen pedagang back-office di mana setiap penulisan menunggu persetujuan manusia — berjalan di tumpukan ini dengan biaya sekitar $0.07 per juta token yang dicampur, sekitar 2% dari biaya API ritel. Tumpukan yang sama mendukung pipeline SEO dan GEO di balik pekerjaan visibilitas AI kami. Router yang menentukan modelnya. Aplikasi tidak pernah tahu. Itulah intinya.

Saya James, CEO dari Mercury Technology Solutions. Kami membangun jembatan AI-ke-manusia untuk perusahaan, dan kami menjalankan armada agen kami sendiri pada skala yang membuat keputusan arsitektur menjadi tidak opsional — sekitar 18 miliar token per bulan. Flux adalah mesin routing yang menjaga agar itu terjangkau, dapat diamati, dan terkendali. Hari ini saya akan menunjukkan kepada Anda apa yang dilakukannya, dan mengapa agen perdagangan adalah pelanggan nyata pertamanya.

Masalah: Penyebaran Model

Tumpukan aplikasi AI tahun 2026 memiliki lapisan yang hilang, dan sebagian besar tim merasakannya tanpa dapat menamakannya.

Anda memiliki penyedia model — yang sangat baik, semakin banyak: Google, OpenAI, Anthropic, dan gelombang penantang yang kuat. Anda memiliki kerangka kerja agen. Yang hilang adalah bagian yang memutuskan model mana, untuk beban kerja mana, dengan biaya berapa, dengan fallback apa, ditagih kepada siapa.

Tanpa lapisan itu, setiap aplikasi menjadi keputusan routingnya sendiri, dibuat sekali, oleh seorang pengembang, dalam kode. Konsekuensinya terakumulasi dengan tenang:

  • Kebutaan biaya.Lima aplikasi, lima akun penyedia, tidak ada tampilan yang terpadu. Tidak ada yang bisa mengatakan berapa biaya asisten belanja dibandingkan dengan bot dukungan.
  • Penyebaran kunci.Setiap aplikasi menyimpan kunci penyedia mentah. Memutar satu berarti berburu di setiap repositori. Satu kebocoran adalah kebocoran akun penuh.
  • Tidak ada failover.Penyedia mengalami sore yang buruk, dan setiap aplikasi yang mengkodekannya mati bersamanya.
  • Kunci model.Mengalihkan beban kerja ke model yang lebih baik atau lebih murah berarti menyentuh kode aplikasi — jadi itu tidak terjadi, dan Anda membayar lebih selamanya.

Bukan berarti modelnya tidak cukup baik; tetapi arsitekturnya tidak memiliki kemampuan untuk memilih.

Fluks Merkuri: Lapisan yang Memilih

Fluks adalah lapisan tipis dan tanpa ampun antara agen Anda dan penyedia model. Desainnya muat dalam satu paragraf:

Setiap aplikasi mengautentikasi ke Fluks dengan kuncinya sendiri — tidak pernah dengan kunci penyedia. Setiap permintaan membawa nama rute alih-alih nama model: alat-loop untuk pekerjaan pemanggilan alat, teks-panjang untuk draf, analisis untuk penalaran mendalam. Flux menyelesaikan rute terhadap tabel aplikasi itu — rantai terurut seperti Grok untuk disiplin alat, GLM sebagai cadangan — menambahkan kredensial penyedia yang sebenarnya, dan meneruskan panggilan. Setiap permintaan dicatat dengan akuntansi token per-aplikasi, per-rute. Penyedia mengalami gangguan, Flux beralih. Model mengubah harga, Anda mengedit tabel. Aplikasi tidak pernah menyadarinya.

Pikirkan ini sebagai panel listrik untuk AI: satu umpan dari utilitas (penyedia), pemutus untuk setiap sirkuit (aplikasi), dan meteran di setiap jalur. Anda tidak perlu mengubah kabel rumah untuk mematikan lampu.

Ekonomi berasal dari routing itu sendiri. Loop alat berjalan pada model AI yang dipilih untuk disiplin pemanggilan fungsi. Generasi bentuk panjang berjalan di mana biaya per token terendah. Penalaran yang sulit mendapatkan model perbatasan hanya ketika tugas benar-benar membutuhkannya. Di seluruh armada kami — agen perdagangan, saluran konten SEO, audit GEO yang kami kirim ke klien perusahaan — ini terakumulasi menjadi tarif $0,07 per juta yang terintegrasi: dua urutan besaran di bawah biaya volume LLM yang sama pada harga ritel premium. Keputusan routing dibuat sekali, dalam tabel, alih-alih tidak pernah, dalam kode.

Sepuluh Penyewa Pertama: Agen Perdagangan

Beban kerja produksi pertama Flux adalah sepasang agen perdagangan yang kami bangun untuk penerapan ritel, berdasarkan cetak biru referensi terbuka yang kami perkuat dan perluas dengan runtime kami sendiri.

Agen belanja adalah yang berhadapan dengan pelanggan. Ia mencari katalog, membandingkan opsi, merencanakan pembelian, mengisi keranjang, dan menjawab pertanyaan tentang pesanan dan kebijakan — dengan ingatan tentang apa yang dikatakan pelanggan. Ini adalah jawaban toko terhadap pergeseran yang sedang terjadi saat ini: pembeli yang dulunya bertanya kepada Google tentang "tenda dua orang terbaik" semakin sering bertanya langsung kepada ChatGPT, Perplexity, atau Gemini dan mengharapkan asisten toko lebih tajam daripada hasil pencarian. Ia cepat, sabar, dan tidak pernah lelah dengan "mana di antara dua ini yang lebih baik untuk balkon kecil?"

Agen pedagang adalah yang berada di belakang layar. Ia menjelaskan kinerja, memelihara daftar, bertindak berdasarkan peringatan inventaris, menyesuaikan harga, menyusun kampanye. Dan inilah bagian yang penting bagi perusahaan: setiap tulisan yang dibuatnya adalah yang direncanakan, bukan yang dieksekusi. Perubahan harga, pengisian ulang, pengeditan daftar — masing-masing muncul sebagai perubahan yang diusulkan yang menunggu persetujuan manusia melalui permukaan persetujuan. Agen mengusulkan; operator memutuskan.

Arsitektur keamanan di bawahnya adalah bagian yang paling kami banggakan, karena ini adalah bagian yang tidak pernah ditunjukkan dalam demo:

  • Gerbang asal.Keranjang hanya menerima produk yang alat katalog sebenarnya mengembalikan sesi ini. Model tidak dapat mengkhayalkan pembelian.
  • Pengaman saat penerapan.Pergerakan harga terlalu dalam, pengisian kembali terlalu besar, bidang yang dilindungi tersentuh — perubahan ditolak terlepas dari siapa yang menyetujuinya.
  • Konteks yang dibatasi.Teks pihak ketiga yang dibaca agen telah disanitasi dan dibatasi sehingga deskripsi produk yang berbahaya tidak dapat menyuntikkan instruksi. Agen membaca web; web tidak dapat membaca agen.

Ini adalah jembatan AI-ke-manusia yang kami bangun untuk mencari nafkah: AI melakukan pekerjaan, manusia menyetujui tulisan.Bukan chatbot yang dipasang pada etalase — sebuah sistem di mana otonomi dan akuntabilitas dipisahkan berdasarkan desain.

Apa yang Dibeli Routing untuk Kami: Perbandingan Langsung

Karena Flux memisahkan routing dari kode aplikasi, kami menjalankan beban kerja agen belanja yang sama melalui dua model berbeda dengan mengedit satu baris konfigurasi. Perbedaannya sangat menentukan.

Satu model — kuat dalam prosa — gagal dalam kontrak alat: panggilan keterampilan yang salah format, pencarian yang berulang, tidak ada pembelian yang selesai. Yang lainnya menangani skema enum yang sama dengan bersih, memuat instruksi operasinya pada percobaan pertama, dan menyelesaikan alur pencarian-ke-keranjang sepenuhnya — sementara mematuhi dengan benar aturan dalam manual keterampilannya yang mengatakan penelitian mengubah temuan saat ini sebelum menulis ke keranjang. Agen yang sama, gerbang yang sama, prompt yang sama. Hanya modelnya yang berbeda, dan model adalah hal yang tepat yang memungkinkan lapisan routing untuk Anda ubah.

Kalikan satu perbandingan itu dengan setiap beban kerja, setiap klien, setiap kuartal. Model terus meningkat dan mengubah harga; tim yang dapat mengubah rute dalam hitungan detik akan selalu mengungguli tim yang menjadwalkan refactor untuk sprint berikutnya. Flux mengubah pilihan model dari komitmen arsitektur menjadi satu baris konfigurasi.

Mengapa Ini Penting untuk Perusahaan

Jika Anda menerapkan AI agenik — perdagangan atau lainnya — tiga implikasi:

  1. Routing model per-aplikasi adalah taruhan dasar. Beban kerja menentukan model AI: disiplin alat untuk agen, konteks panjang murah untuk konten, perbatasan hanya untuk penilaian. Lapisan routing menjadikan ini sebagai kebijakan, bukan kecelakaan per-aplikasi.
  2. Kunci dan biaya harus berada di satu tempat. Aplikasi mengautentikasi ke router; hanya router yang memegang kredensial penyedia. Metabolisme token diukur per aplikasi, per rute — jadi "berapa biaya AI per lini produk?" menjadi pertanyaan, bukan audit forensik. Anggap ini sebagai infrastruktur transformasi digital inti, bukan alat pemasaran.
  3. Otonomi membutuhkan gerbang persetujuan. Agen yang menulis ke sistem produksi — keranjang, katalog, harga — membutuhkan perubahan bertahap dan persetujuan manusia sebagai fitur arsitektural, bukan saran prompt. Cetak biru perdagangan yang kami jalankan membuktikan bahwa itu berfungsi di bawah beban pemanggilan alat yang nyata.

43% prospek yang terjatuh melalui celah AI-ke-manusia? Mereka jatuh karena perusahaan menerapkan sistem semua-manusia (lambat) atau semua-AI (tanpa akuntabilitas). Jembatan adalah otonomi bertahap: mesin yang bekerja, manusia yang menyetujui, dan lapisan routing yang menjaga semuanya tetap terjangkau untuk benar-benar diterapkan — apakah beban kerjanya adalah perdagangan, SEO, atau program GEO yang membuat merek dapat dikutip ketika AI menjawab.

Itu adalah Fluks Merkurius. Satu router. Setiap agen. Modelnya sendiri, tagihannya sendiri, pemutusnya sendiri.

Solusi Teknologi Merkurius: Percepat Digitalitas.