Vercel AI Gateway kini mendukung budget per-user. Kontrol biaya pada level pengguna membantu tim mencegah satu akun menghabiskan anggaran bersama, terutama ketika aplikasi menyediakan fitur agent atau generative AI kepada banyak pengguna.
Analisis untuk developer
const response = await gateway.run({
userId: session.user.id,
budgetPolicy: { dailyCents: 250 },
prompt
});Implementasi perlu diuji pada workload nyata. Perhatikan biaya, latency, compatibility, observability, keamanan data, rate limit, dan rollback sebelum digunakan di production.
Kesimpulan
Pembaruan ini membuka peluang baru, tetapi keputusan teknis tetap harus didasarkan pada evaluasi, dokumentasi, dan kontrol operasional yang jelas.
Sumber asli:
https://vercel.com/changelog/set-per-user-budgets-on-ai-gateway