Multi-Tenant AI Platform

masalah

Sebuah klinik atau salon menginginkan asisten yang menjawab pelanggan di web, Telegram, dan WhatsApp dari datanya sendiri. Setiap bisnis harus sepenuhnya terpisah dari yang lain.

pendekatan

• Sistem dibagi dua. Aplikasi Laravel menjadi system of record untuk tenant, cabang, katalog, booking, keluhan, FAQ, dan broadcast. Layanan Python terpisah menjalankan agen penalaran dan tidak menyimpan state sendiri.
• Agen hanya menjangkau data bisnis dengan memanggil balik Laravel lewat endpoint tool yang ditandatangani dengan HMAC, sehingga setiap jawaban melewati pemeriksaan tenant dan peran yang sama dengan aplikasi web.
• Retrieval berjalan di atas vector database. Sebelum memilih, saya membuat tool kecil untuk membandingkan dua kandidat pada dokumen yang sama.
• Guardrail menjaga asisten tetap pada topik dan menolak hal di luar lingkup bisnis, dan jawaban di-stream ke pelanggan selagi dihasilkan.

hasil

• Produk in-house pertama perusahaan, dirancang dan dibangun oleh satu engineer.
• Satu asisten per bisnis di web, Telegram, dan WhatsApp, dengan tenant yang terisolasi satu sama lain.
• Automated test dan laporan evaluasi di sisi PHP maupun Python.