3.Alur Kerja Perutean
Di dalam sebuah pola perutean, agen perute dapat melakukan klasifikasi menggunakan LLM untuk dapat menginterpretasikan maksud dan kategori dari sebuah kueri. Setelah itu agen dapat mengarahkan masukan ke tugas atau ke bagian agen hilir khusus.
Alur kerja ini menggunakan sistem alur kerja routing yang lebih efisien. Di mana di dalam alur kerja ini tentu digunakan dalam skenario di mana agen harus dibuat dengan cepat melakukan klasifikasi maksud dari input, domain, atau jenis suatu tugas.
Dan kemudian agen mendelegasikan permintaan itu ke dalam sub agen, alat, dan alur kerja yang khusus. Ini akan sangat berguna untuk kemampuan agen. Contoh agen yang berfungsi sebagai asisten umum. Ada juga sebagai agen yang berfungsi sebagai pintu masuk perusahaan. Dan ada juga agen antarmuka AI yang langsung berhadapan dengan user dan melakukan pekerjaan yang mencakup berbagai domain.
Dan perutean ini akan lebih efektif dalam tugas ketika:
- Pemrosesan Data: Data yang telah dimasukkan harus terlebih dahulu diproses atau dinormalisasi. Pemrosesan dilakukan sebelum memasuki alur kerja yang lebih dikhususkan.
- Proses penilaian atau triase: Melakukan penilaian permintaan untuk berbagai tugas. Contohnya adalah pencarian, peringkasan, perhitungan, dan pemesanan.
- Tindakan Agen: Agen harus bertindak di dalam sistem sebagai pusat penghubung percakapan. Selain itu agen juga harus dapat mendelegasikan tugas kepada agen-agen khusus dalam layanan mikro.
- Memahami berbagai tipe input: Contohnya adalah input gambar, teks, kueri, terstruktur, dan tidak terstruktur akan memerlukan penanganan yang khusus.
Jenis alur kerja ini memang sangat umum sekali digunakan di dalam copilot domain khusus, bot untuk dukungan pelanggan, router di dalam layanan perusahaan, hingga agen yang multimodel. Dan pastinya penjadwalannya yang cerdas akan menentukan efisiensi dan kualitas dalam perilaku agen.
4.Alur Kerja Paralelisasi
Untuk alur kerja paralelisasi itu melibatkan atau melakukan pemecahan tugas yang menjadi sub-sub tugas yang independen. Sub tugas ini dapat juga ditangani secara bersamaan oleh beberapa panggilan yang dilakukan agen LLM.
Setelah itu output akan dikumpulkan dan selanjutnya akan disintesis secara terprogram ke dalam sebuah hasil.
Tentu saja workflow ini digunakan ketika suatu tugas dapat dibagi menjadi beberapa subtugas yang independen. Dan dapat diproses secara bersama-sama, sehingga akan menaikkan efisiensi secara bersamaan.
Dan ini metode workflow yang sangat ampuh digunakan dalam ruang lingkup permasalahan yang memiliki banyak sekali data. Selain itu juga efektif dalam ruang lingkup kerja berorientasi batch, atau multi perspektif. Di mana dalam hal ini agen harus melakukan analisis kemudian menghasilkan konten di berbagai input.
Dan metode paralelisasi ini biasanya sangat efektif ketika:
- Pengulangan: Suatu tugas dapat melibatkan pengulangan dalam proses penalaran yang sama di berbagai item. Contohnya seperti meringkas berbagai dokumen, atau bisa juga mengevaluasi daftar pilihan.
- Subtugas: Di dalam workflow, subtugas tidak akan bergantung pada hasil yang masih sementara satu dan yang lainnya. Dan hal ini dapat memungkinkan subtugas berjalan secara paralel tanpa koordinasi.
- Mengurangi Latensi: Anda dalam hal ini perlu melakukan pengurangan latensi untuk sebuah permintaan yang bervolume dan berfrekuensi tinggi. Tentu saja melalui eksekusi di dalam LLM secara bersamaan.
- Berbagi Perspektif dan hipotesis: Dalam berbagi tugas, hipotesis dan perspektif dieksplorasi secara paralel. Hal ini dilakukan untuk mendorong keragaman, kreativitas, dan kekuatan.
- Workflow: Alur kerja sistem paralelisasi pada umumnya sering digunakan di dalam agen pemrosesan mesin survei, peringkas batch, brainstorming multi-agen, pemrosesan dokumen, hingga tugas pelabelan dan klasifikasi yang dapat dibuat skalanya. Dan penalaran paralel yang cepat menjadi keunggulan kinerja.
