Kos Tersembunyi Ejen AI yang Terlalu Ghairah
Ejen kecerdasan buatan moden mempunyai kelemahan asas dalam membuat keputusan yang meningkatkan kos operasi dan mengecewakan pengguna. Penyelidik di Alibaba mengenal pasti apa yang mereka istilahkan sebagai defisit metakognitif yang ketara dalam model bahasa besar semasa. Sistem ini sukar membezakan antara keadaan yang memerlukan panggilan alat luaran dengan situasi yang boleh ditangani menggunakan pengetahuan dalaman. Akibatnya, berlaku rentetan panggilan API yang tidak perlu, yang memperlahankan prestasi dan merosotkan kualiti penaakulan sambil menghabiskan belanjawan pengkomputeran.
Kandungan
Model ejen semasa dilatih untuk mengutamakan penyelesaian tugasan melebihi segala-galanya. Fokus sempit ini menghasilkan tingkah laku yang dipanggil pembangun sebagai "terlalu cepat bertindak", apabila sistem secara automatik menggunakan alat carian web, pelaksanaan kod atau analisis imej, walaupun pertanyaan pengguna sudah mengandungi semua maklumat yang diperlukan. Menurut kajian Alibaba, tahap pertindihan ini membimbangkan, dengan sehingga 98% panggilan alat didapati tidak perlu dalam pelaksanaan standard. Corak ini berterusan kerana rejim latihan memberi ganjaran kepada kejayaan menyelesaikan tugasan tanpa mengenakan penalti terhadap penggunaan sumber yang tidak cekap.
Setiap panggilan API yang berlebihan menambah kelewatan pemprosesan bersiri yang terkumpul sehingga menghasilkan kependaman ketara. Pengguna mengalami masa tindak balas yang perlahan, manakala organisasi menanggung bil infrastruktur yang meningkat. Selain menjejaskan kelajuan dan kos, penggunaan alat yang berlebihan turut merosakkan kualiti penaakulan. Pertanyaan luaran yang berulang memasukkan hingar persekitaran ke dalam tetingkap konteks model, mengalihkan perhatian sistem daripada proses pemikiran yang koheren dan berpotensi menjejaskan kesimpulan yang tepat. Apabila ejen bergantung pada isyarat bising ini tanpa keperluan, mutu output akhir merosot ketika kos pengkomputeran meningkat.
Mengatasi Kebuntuan Pengoptimuman
Usaha terdahulu untuk menyelesaikan ketidakcekapan ini bergantung pada kaedah pembelajaran pengukuhan tradisional yang menggabungkan ketepatan dan kecekapan dalam satu isyarat ganjaran. Pendekatan yang mengikat kedua-duanya ini mewujudkan dilema pengoptimuman yang sukar diselesaikan. Penalti penggunaan alat yang terlalu agresif memaksa model mengelakkan panggilan luaran yang diperlukan, sekali gus mengorbankan ketepatan bagi tugasan kompleks. Penalti yang ringan pula gagal mengekang pembaziran dalam masalah yang lebih mudah. Struktur ganjaran bersama ini menghasilkan kekaburan semantik, apabila jawapan pantas tetapi salah mungkin menerima ganjaran yang sama seperti jawapan lambat tetapi tepat. Oleh sebab isyarat latihan bagi ketepatan dan kecekapan saling terikat, model tidak dapat belajar mengawal penggunaan alat tanpa merosotkan keupayaan penaakulan teras.
Untuk mengatasi batasan ini, penyelidik Alibaba membangunkan Hierarchical Decoupled Policy Optimization, atau HDPO. Kerangka ini memisahkan pengoptimuman kepada dua saluran bebas. Saluran ketepatan memaksimumkan ketepatan tugasan merentas semua hasil model. Saluran kecekapan pula menyasarkan ekonomi pelaksanaan. Isyarat ini dikira secara berasingan dan hanya digabungkan pada peringkat pengiraan kehilangan akhir. Yang penting, ganjaran kecekapan kekal bersyarat pada ketepatan. Respons yang salah tidak menerima ganjaran atas kelajuan atau penggunaan alat yang minimum, sekali gus menghalang model daripada belajar untuk menjadi pantas tetapi salah.
Pemisahan ini mewujudkan kurikulum kognitif tersirat yang mencerminkan kemajuan dalam pendidikan. Peringkat awal latihan menekankan ketepatan sementara model menguasai penaakulan teras dan pemerolehan pengetahuan. Apabila keupayaan meningkat dan model secara konsisten memberikan jawapan yang betul, isyarat kecekapan meningkat secara semula jadi. Mekanisme ini menyebabkan sistem terlebih dahulu menguasai penyelesaian tugasan, kemudian memperkukuh keupayaan berdikari dengan mengelakkan panggilan API berulang yang mahal. Hasilnya, konflik kecerunan yang boleh menyebabkan objektif ketepatan dan kecekapan saling membatalkan dapat dihapuskan, sekali gus menyediakan isyarat pembelajaran yang jelas bagi kedua-dua matlamat secara serentak.
Di Sebalik Seni Bina Metis
Pasukan penyelidik menggunakan HDPO untuk membina Metis, ejen penaakulan multimodal yang menunjukkan penerapan prinsip ini. Metis beroperasi berasaskan model asas penglihatan-bahasa Qwen3-VL-8B-Instruct, dengan keupayaan melaksanakan kod Python, carian teks dan carian imej. Saiznya yang agak kompak, iaitu 8 bilion parameter, berbeza ketara daripada pesaing yang lebih besar dan menunjukkan bahawa peningkatan kecekapan boleh mengatasi kelebihan skala mentah.
Saluran latihan mengikuti pendekatan dua peringkat yang ketat bagi membina kecekapan asas dan kecekapan yang lebih terperinci. Pertama, penalaan halus terselia menyediakan permulaan awal menggunakan data terpilih dengan teliti. Penyelidik mendapatkan trajektori multimodal awam yang dipertingkat dengan alat, kemudian menapisnya secara agresif untuk membuang contoh berkualiti rendah yang mengandungi kegagalan pelaksanaan atau maklum balas yang tidak konsisten. Mereka menghapuskan mana-mana sampel latihan yang boleh diselesaikan oleh model asas tanpa alat, bagi memastikan korpus hanya mengandungi kes penggunaan alat yang benar-benar strategik. Google Gemini 3.1 Pro digunakan sebagai penilai automatik untuk mengesahkan bahawa contoh yang dikekalkan menunjukkan penggunaan alat yang perlu, bukannya kebiasaan.
Peringkat kedua menggunakan pembelajaran pengukuhan melalui kerangka HDPO. Fasa ini mendedahkan Metis kepada interaksi berbilang giliran yang memerlukan model memutuskan sama ada mahu menggunakan utiliti luaran. Data latihan mengecualikan gesaan dengan visual yang rosak atau kekaburan semantik yang boleh mengelirukan isyarat pembelajaran. Algoritma ini memerlukan perbandingan antara respons betul dengan respons salah untuk menghasilkan kecerunan yang bermakna. Oleh itu, pasukan menapis tugasan yang terlalu mudah, apabila model sentiasa berjaya, dan tugasan yang terlalu sukar, apabila model sentiasa gagal. Pemilihan ini memastikan isyarat pembelajaran yang boleh dimanfaatkan tersedia sepanjang proses pengoptimuman, sekali gus mengelakkan kawasan kecerunan mendatar yang menghalang peningkatan model.
Daripada Pembaziran 98% kepada Ketepatan Strategik
Hasil penilaian menunjukkan bahawa penggunaan alat secara cekap dan ketepatan tinggi saling melengkapi, bukannya bercanggah. Metis mencapai prestasi tercanggih merentas set data persepsi visual dan pemahaman dokumen termasuk HRBench dan V*Bench, serta tugasan penaakulan matematik yang mencabar seperti WeMath dan MathVista. Yang ketara, Metis dengan 8 bilion parameter mengatasi Skywork-R1V4 yang mempunyai 30 bilion parameter, iaitu model ejen yang jauh lebih besar, dalam penanda aras visual dan penaakulan. Prestasi ini menetapkan piawaian baharu dalam bidang tersebut sambil beroperasi dengan beban pengkomputeran yang jauh lebih rendah.
Peningkatan kuantitatif itu seiring dengan perubahan tingkah laku kualitatif yang diperhatikan semasa ujian. Dalam satu eksperimen, penyelidik menunjukkan imej papan tanda muzium dan bertanya apakah teks yang tertera di bahagian tengah. Model ejen standard secara automatik menulis skrip Python untuk memangkas dan memproses imej secara tidak perlu, sekali gus menambah kependaman dan kerumitan. Metis menyedari bahawa teks itu jelas dibaca dalam input asal, lalu tidak menggunakan alat luaran dan menyelesaikan tugasan dalam satu laluan inferens. Ini menunjukkan pemahaman visual yang sebenar, bukannya kebergantungan mekanikal pada alat.
Sebaliknya, apabila ditunjukkan carta kompleks dengan garisan bertindih dalam plot kecil dan diminta mengenal pasti garisan kedua tertinggi pada titik data tertentu, Metis dengan tepat menentukan bahawa resolusi asalnya tidak cukup untuk membezakan butiran visual tersebut. Daripada membuat tekaan berdasarkan imej penuh, ia menggunakan Python untuk memangkas dan mengezum khusus pada kawasan itu, lalu memperoleh ketepatan yang diperlukan. Tingkah laku ini menunjukkan penggunaan kod sebagai alat ketepatan yang hanya digunakan apabila bukti visual benar-benar kabur, bukannya sebagai langkah sandaran lalai bagi setiap input.
Kes Ekonomi untuk Ejen yang Lebih Cekap
Bagi syarikat pemula dan perusahaan yang membangunkan produk AI, pencapaian Metis memberi kesan langsung terhadap ekonomi unit yang mampan. Ejen AI semasa yang menggunakan API popular daripada OpenAI, Anthropic atau Google boleh mengumpulkan kos bulanan beribu-ribu dolar hanya daripada panggilan berulang. Syarikat pemula yang membelanjakan $10,000 sebulan untuk akses API berpotensi mengurangkan jumlah itu sebanyak $9,600 dengan menghapuskan panggilan alat yang membazir, berdasarkan nisbah pengurangan daripada 98% kepada 2% yang ditunjukkan dalam kajian. Penjimatan ini menjadi penting apabila produk berkembang melepasi peringkat produk minimum berdaya maju ke persekitaran pengeluaran dengan ribuan pengguna aktif.
Selain penjimatan kos langsung, pengurangan kependaman memberikan kelebihan daya saing dari segi pengalaman pengguna. Produk pengguna dan B2B sama-sama mendapat manfaat daripada masa tindak balas yang lebih pantas, yang berkait rapat dengan pengekalan pengguna dan metrik penglibatan. Apabila produk berkembang daripada ratusan kepada ribuan pengguna aktif, kesesakan bersiri akibat panggilan API yang tidak perlu bertambah sehingga menjejaskan prestasi seluruh sistem. Sistem yang berfungsi dengan baik pada peringkat pembangunan awal sering gagal menampung trafik pengeluaran tanpa pengoptimuman kecekapan, sekali gus mencetuskan krisis tepat ketika pertumbuhan semakin pesat.
Dalam pasaran yang penggunanya peka terhadap harga, seperti Amerika Latin dan ekonomi sedang pesat membangun yang lain, kecekapan operasi menentukan daya maju perniagaan. Syarikat yang mengekalkan margin sihat sementara pesaing membakar modal untuk pengkomputeran berulang memperoleh kedudukan daya saing yang mampan. Kajian ini menunjukkan bahawa dalam persekitaran yang mana-mana syarikat pemula boleh mengakses model asas yang sama, kecekapan menjadi pembeza daya saing utama. Keadaan ini memihak kepada organisasi yang melaksanakan caching pintar, ambang keyakinan dan pemilihan model strategik bersama kerangka seperti HDPO.
Falsafah Latihan Baharu
Kerangka HDPO menandakan perubahan konsep dalam pendekatan penyelidik terhadap pembelajaran yang dipertingkat dengan alat. Kaedah terdahulu tertumpu terutamanya pada mengajar model melaksanakan panggilan alat dengan betul, dengan mengutamakan kemahiran teknikal berbanding pertimbangan. Pasukan Alibaba menyarankan agar kebijaksanaan metakognitif dipupuk supaya model tahu bila perlu langsung tidak menggunakan utiliti luaran. Ini memerlukan data latihan yang secara jelas menunjukkan sikap menahan diri secara strategik, bukan sekadar pelaksanaan teknikal, iaitu nuansa yang sebahagian besarnya diabaikan oleh set data terdahulu.
Saluran pemilihan data menangani kelemahan serius yang lazim dalam set data sedia ada yang dipertingkat dengan alat. Kebanyakan korpus awam mengandungi trajektori bising, yang menyebabkan model belajar menggunakan alat sebagai kebiasaan dan bukannya secara strategik. Dengan menapis contoh yang boleh diselesaikan tanpa bantuan luaran serta menggunakan penilai automatik untuk mengesahkan keperluannya, penyelidik mewujudkan persekitaran latihan yang memberi ganjaran kepada keputusan untuk tidak menggunakan alat secara bijaksana. Pendekatan ini berbeza daripada kerangka seperti ReAct, yang menggabungkan penaakulan dan tindakan tanpa pengoptimuman dua saluran secara jelas, atau Meta Toolformer, yang menekankan pembelajaran penggunaan alat berbanding kecekapan operasi.
Kurikulum tersirat yang diwujudkan oleh HDPO mencerminkan corak pembelajaran manusia dalam pendidikan profesional. Ejen baharu terlebih dahulu menguasai ketepatan tugasan, bagi memastikan mereka dapat menyelesaikan masalah dengan boleh diharap menggunakan sumber yang tersedia. Apabila kecekapan semakin kukuh, sistem secara semula jadi beralih kepada pengoptimuman kecekapan, belajar menyelesaikan masalah lazim secara langsung sambil menyimpan alat luaran untuk perkara baharu yang sebenar atau kes pinggiran yang kompleks. Perkembangan ini mengelakkan kerapuhan sistem yang dilatih serentak untuk kedua-dua objektif, apabila ketepatan sering merosot di bawah tekanan kekangan kecekapan.
Akses Sumber Terbuka dan Kesan Global
Alibaba mengeluarkan Metis dan kod latihan HDPO di bawah lesen permisif Apache 2.0, yang membolehkan penggunaan komersial tanpa syarat ketat atau royalti. Pendekatan terbuka ini membolehkan syarikat pemula mengintegrasikan teknologi tersebut dengan segera, tanpa perlu menunggu penyelesaian proprietari atau membayar yuran akses premium. Namun, memandangkan penerbitan ini bertarikh April 2026, dokumentasi dan sokongan komuniti masih pada peringkat awal pembangunan, lalu memerlukan kepakaran teknikal yang tinggi untuk pelaksanaan dan penyesuaian yang betul.
Pelancaran ini berlaku ketika ekosistem ejen AI semakin matang dan beralih daripada menambah ciri kepada mengoptimumkan kecekapan. Syarikat seperti LangChain dan LlamaIndex terus mengintegrasikan pengoptimuman serupa ke dalam platform mereka, manakala pilihan proprietari menawarkan penyelesaian terurus dengan struktur kos yang berbeza-beza. Bagi pembangun di pasaran berbahasa Sepanyol dan ekonomi sedang pesat membangun, penggunaan awal kerangka kecekapan sebegini membuka peluang membina produk berdaya saing yang dioptimumkan untuk kekangan infrastruktur dan kepekaan harga tempatan.
Anggota pasukan penyelidik menegaskan bahawa penghapusan panggilan alat yang bising dan berulang menyumbang secara langsung kepada ketepatan yang lebih tinggi, bukannya menukar satu metrik dengan metrik yang lain. Kesimpulan mereka menunjukkan perubahan paradigma yang lebih luas dalam pembangunan kecerdasan buatan, daripada sistem yang menunjukkan keupayaan melalui kekerapan penggunaan alat kepada ejen yang menunjukkan pertimbangan melalui kawalan diri secara strategik. Kajian ini mencadangkan bahawa pembangunan AI pada masa depan akan mengutamakan tindakan terpilih yang bijak berbanding penggunaan alat secara menyeluruh.
Intipati
- Ejen Metis Alibaba mengurangkan panggilan alat AI berlebihan daripada 98% kepada 2% menggunakan kerangka HDPO
- HDPO (Hierarchical Decoupled Policy Optimization) memisahkan ketepatan dan kecekapan kepada saluran latihan yang bebas
- Metis dengan 8 bilion parameter mengatasi model jauh lebih besar yang mempunyai 30 bilion parameter dalam penanda aras visual dan penaakulan
- Penggunaan alat secara strategik mewujudkan kurikulum kognitif tersirat yang memastikan ejen menguasai ketepatan sebelum mengoptimumkan kecekapan
- Syarikat pemula berpotensi menjimatkan kos sehingga 96% daripada bil API dengan menghapuskan panggilan yang membazir
- Metis dan kod HDPO dikeluarkan di bawah lesen Apache 2.0 untuk kegunaan komersial tanpa sekatan
- Kerangka ini menangani defisit metakognitif yang menyebabkan ejen AI tidak dapat membezakan keperluan pengetahuan dalaman daripada keperluan menggunakan alat luaran
