Semasa menilai dan melaksanakan alat automasi AI, banyak pasukan perusahaan menghadapi masalah yang sama: semakin terperinci pakej kemahiran AI, semakin tinggi penggunaan token dalam perbualan, lalu meningkatkan kos pengkomputeran dan kelewatan respons.
Apabila dua atau lebih set kemahiran profesional, peraturan dan templat digabungkan dalam satu arahan (prompt) atau fail statik, setiap interaksi membazirkan ruang tetingkap konteks. Memecahkan dan menyusun semula pakej besar menjadi aliran kerja (Workflow / Agentic Multi-step Pattern) boleh menjimatkan sehingga 80–90% penggunaan token perusahaan.
1. Ancaman tersembunyi pakej besar: pembaziran token dan prestasi menurun
Pereka modul kemahiran sering menggunakan pendekatan monolitik, menggabungkan pengetahuan latar, kriteria semakan, pengendalian pengecualian dan format output. Ini menyebabkan tiga kekangan:
- Kos tetap yang tinggi: Walaupun pengguna hanya bertanya soalan kecil, sistem perlu membaca semula keseluruhan penerangan kemahiran pada setiap respons.
- Gangguan konteks: Maklumat berlebihan mengalihkan perhatian model, menyebabkan butiran terlepas atau peraturan tertentu tidak dipatuhi.
- Pengumpulan maklumat tidak berguna: Dalam perbualan panjang, proses perantaraan yang berjela daripada langkah terdahulu terus berada dalam konteks, membazirkan sumber pengkomputeran dan token.
2. Bagaimanakah aliran kerja menjimatkan 80–90% token?
Idea utamanya ialah membahagikan rantaian tugas kompleks kepada nod bebas yang masing-masing mempunyai satu tanggungjawab, kemudian menyelaraskannya melalui pengurusan keadaan.
1. Pemuatan mengikut keperluan dan penghalaan dinamik
Aliran kerja bermula dengan penghala yang sangat kecil. Apabila pengguna menghantar permintaan, penghala memanggil hanya modul kemahiran minimum yang diperlukan oleh nod semasa, tanpa memuatkan semua bahan ke dalam memori serentak.
2. Penyerahan keadaan menggantikan penyimpanan keseluruhan teks
Perbualan tradisional membawa keseluruhan sejarah mesej ke pengiraan seterusnya. Semasa bertukar langkah, aliran kerja hanya menyerahkan keadaan penting berstruktur, seperti data JSON atau ringkasan padat. Menapis lebih 90% butiran perbualan yang tidak diperlukan mengecilkan tetingkap konteks dengan ketara.
3. Reka bentuk modular dan penggunaan semula komponen
Pakej kemahiran besar dipecahkan kepada komponen bebas seperti pengekstrakan data, analisis logik dan penjanaan format. Komponen khusus hanya diaktifkan apabila syarat tertentu dicetuskan, supaya setiap unit sumber pengkomputeran digunakan pada kerja yang memerlukannya.
3. Perbandingan pendekatan tradisional dengan aliran kerja
| Kriteria | Arahan monolitik | Seni bina aliran kerja |
|---|---|---|
| Penggunaan token | Memuatkan seluruh konteks pada setiap interaksi; penggunaan sangat tinggi | Pemuatan dinamik mengikut langkah, menjimatkan 80–90% token |
| Kelajuan respons | Input besar meningkatkan masa ke token pertama (TTFT) | Nod ringan mempercepat respons dan pelaksanaan |
| Pematuhan arahan | Lebihan maklumat boleh menyebabkan peraturan penting terlepas | Setiap nod memfokus satu tugas, dengan ketepatan menghampiri 100% |
| Penyelenggaraan dan peluasan | Perubahan satu peraturan boleh menjejaskan keseluruhan perbualan | Modul bebas memudahkan pelarasan dan peluasan setiap langkah |
Penutup: daripada kejuruteraan prompt kepada aliran kerja ejen
Apabila aplikasi AI semakin matang, kawalan kos yang teliti dan kestabilan sistem menjadi dua kunci pelaksanaan perusahaan pada skala besar.
Beralih daripada memasukkan semua pengetahuan ke dalam prompt besar kepada aliran kerja modular boleh memberikan kelebihan kos beberapa kali ganda, sambil membina sistem AI yang memberikan respons lebih pantas dan penaakulan yang lebih tersusun.