Ejen AI Membina Kosa Kata Bersama Melalui Sejuta Interaksi Tanpa Kamus Bersama

Sejuta interaksi menukar perkataan rekaan menjadi makna bersama

Sepuluh ejen kecerdasan buatan, yang bermula dengan kosa kata kosong, belajar mengenal pasti objek untuk satu sama lain dengan kadar kejayaan sehingga 99.76% selepas sejuta interaksi dalam eksperimen oleh penyelidik di Vrije Universiteit Brussel (VUB) dan University of Namur di Belgium. Perkataan dan maknanya berkembang melalui pertukaran berulang, bukannya menerusi kamus yang ditulis manusia.

Penyelidik menguji kaedah mereka menggunakan 37 set data awam, daripada ukuran kimia wain dan data eksoplanet NASA hingga foto burung dan wajah manusia. Bagi tujuh set data yang diketengahkan, kejayaan dalam interaksi ujian adalah antara 95.77% hingga 99.76%.

Pencapaian utamanya ialah persetujuan tentang cara merujuk kepada sesuatu. Setiap ejen mengekalkan perkaitan tersendiri antara perkataan rekaan dengan sifat yang diperhatikan. Melalui maklum balas, perkaitan individu itu menjadi cukup serasi untuk membolehkan kumpulan tersebut berkomunikasi, meskipun anggota-anggotanya melihat persekitaran secara berbeza.

Kertas penyelidikan bertajuk Emergent Communication in Continuous Worlds: Self-Organisation of Conceptually Grounded Vocabularies at Scale menghuraikan eksperimen dalam simulasi komputer. Ejen-ejen itu menggunakan perwakilan berangka bagi objek dan imej. Robot, kenderaan autonomi dan penderia industri ialah antara kemungkinan aplikasi pendekatan ini yang dikenal pasti oleh para penyelidik.

Bagaimana sesuatu perkataan menjadi berguna

Dua ejen mengambil bahagian dalam setiap pertukaran. Seorang bertindak sebagai penutur dan seorang lagi sebagai pendengar, dengan peranan ditentukan semula apabila interaksi diteruskan. Kedua-duanya menemui satu suasana yang mengandungi beberapa entiti, tetapi hanya penutur diberitahu entiti manakah yang menjadi sasaran.

Penutur perlu memilih perkataan yang membantu pendengar memilih sasaran itu. Jika kosa katanya tidak mempunyai perkataan yang sesuai, penutur mencipta perkataan baharu. Kertas itu menggunakan rentetan rawak tiga suku kata, seperti "demoxu", supaya label itu sendiri tidak membawa sebarang makna sedia ada.

Pendengar membandingkan perkataan itu dengan konsep yang disimpannya, kemudian memilih satu entiti. Kedua-dua ejen menerima maklum balas tentang sama ada pilihan itu betul. Selepas kegagalan, sasaran ditunjukkan kepada pendengar, lalu memberikannya maklumat untuk menyemak semula pemahamannya.

Penyelidik menyediakan tatacara untuk mencipta perkataan, mewakili konsep dan belajar daripada hasil. Kosa kata khusus serta kategori yang dikaitkan dengannya terbentuk semasa interaksi. Pertukaran yang berjaya mengukuhkan perkaitan yang berguna, manakala pengalaman seterusnya melaras konsep yang dikaitkan dengan perkataan.

Katrien Beuls, profesor di University of Namur dan salah seorang penulis bersama, menerangkan bagaimana pertukaran setempat menghasilkan persetujuan dalam kalangan populasi menerusi pengumuman universiti:

Apa yang menarik ialah tiada komputer pusat yang menetapkan peraturan. Setiap kali, kami membolehkan dua ejen berkomunikasi pada peringkat setempat. Hanya melalui interaksi dan kemas kini individu inilah satu konvensyen global muncul secara spontan dalam seluruh populasi.

Perkara yang disimpan ejen sebagai makna

Setiap entiti diterima oleh ejen sebagai vektor ciri, iaitu senarai nilai yang menerangkan sifatnya. Sebagai contoh, sampel wain boleh diwakili oleh ukuran kimia. Imej pula boleh diwakili oleh ciri berangka yang diekstrak oleh sistem penglihatan.

Sesuatu perkataan dikaitkan dengan prototaip konseptual: huraian matematik tentang jenis pemerhatian yang dirujuknya. Prototaip itu merekodkan nilai lazim, kadar variasi nilai tersebut dan ciri yang paling penting. Dengan cara ini, ejen dapat menilai sejauh mana entiti yang baru ditemui sepadan dengan perkataan yang dikenalinya.

Konteks juga penting. Penutur mencari perkataan yang konsepnya lebih sesuai dengan sasaran berbanding entiti lain dalam suasana itu. Oleh itu, perkataan yang berguna membantu membezakan sesuatu daripada pilihan lain yang ada di sekelilingnya, bukan sekadar memberikan label tetap kepada setiap objek.

Ejen menyimpan perwakilan ini secara peribadi. Mereka tidak dapat mengakses tetapan dalaman satu sama lain atau pangkalan pengetahuan pusat. Komunikasi bersama berkembang kerana perkataan mereka membimbing pilihan yang serasi, sementara perwakilan setiap ejen kekal berpandukan pemerhatiannya sendiri.

Bagi set data imej, penyelidik menggunakan ciri 384 dimensi daripada DINOv2, iaitu pengekod penglihatan sedia ada. Pengekod penglihatan menukarkan imej kepada huraian berangka yang boleh diproses oleh perisian lain. Pembelajaran kosa kata kemudiannya beroperasi pada huraian tersebut.

Sejauh mana keberkesanan kosa kata bersama itu?

Eksperimen standard melatih populasi 10 ejen menerusi sejuta interaksi. Penyelidik kemudian menilai komunikasi melalui 100,000 interaksi ujian, termasuk entiti yang tidak digunakan dalam latihan, dan mempuratakan hasil daripada 10 larian bebas.

Tujuh hasil yang diketengahkan menunjukkan keberkesanan kaedah itu serta variasi antara tugasan:

• CLEVR, set data yang melibatkan ciri visual objek: kejayaan komunikasi 99.76%.
• Data analisis wain: 99.76%.
• Data eksoplanet: 99.67%.
• Data cendawan: 98.10%.
• Data imej MS COCO: 95.77%.
• Imej wajah CelebA: 96.66%.
• Imej burung: 95.88%.

Peratusan ini mengukur kekerapan pendengar memilih entiti yang dimaksudkan. Bagi tugasan wain dan CLEVR, 99.76% bersamaan kira-kira 24 pertukaran yang tidak berjaya bagi setiap 10,000 interaksi ujian. Bagi MS COCO, 95.77% bersamaan kira-kira 423 daripada setiap 10,000 interaksi.

Jurang antara hasil tersebut ialah 3.99 mata peratusan. Komunikasi kekal sangat berjaya merentas tugasan yang diketengahkan, tetapi set data imej semula jadi menghasilkan lebih banyak kesilapan berbanding tugasan wain dan eksoplanet.

Pasukan itu turut mengukur saiz kosa kata dan persetujuan terhadap konvensyen, yang menjejaki sejauh mana ejen menggunakan perkataan secara konsisten. Ukuran ini menilai aspek proses yang berbeza: populasi memerlukan set label yang boleh digunakan dan persetujuan yang mencukupi tentang penggunaannya untuk mengenal pasti sasaran dengan andal.

Penderia berbeza masih boleh menyokong persetujuan

Mesin jarang sekali memerhati dunia dengan cara yang benar-benar sama. Penderia mungkin mempunyai tetapan penentukuran yang berbeza, bacaan boleh mengandungi hingar, dan satu peranti mungkin menangkap sifat yang tidak dapat dikesan oleh peranti lain. Kajian itu menguji variasi keadaan ini.

Paul Van Eecke, profesor kecerdasan buatan di VUB dan salah seorang penulis bersama, menerangkan asas kajian itu dengan contoh orang yang mengenal pasti kereta merah. Orang ramai boleh memahami huraian yang sama walaupun mata mereka merekodkan nilai warna yang sedikit berbeza. Perkataan yang dikongsi itu melangkaui bacaan individu tersebut.

Eksperimen menerapkan idea itu kepada ejen buatan dengan mengubah pemerhatian mereka. Ia merangkumi anjakan berangka yang menyerupai perbezaan penentukuran, hingar dalam nilai yang diperhatikan dan populasi yang anggotanya mempunyai set ciri tersedia yang berbeza.

Dalam keadaan hingar tinggi bagi eksperimen CLEVR, kejayaan komunikasi ialah 87.67%. Dalam keadaan dengan perbezaan lebih besar pada penderia yang tersedia, kejayaan mencapai 83.47%. Kaedah itu mengekalkan keupayaan yang ketara untuk menyelaras dalam keadaan ini, meskipun ketepatannya lebih rendah berbanding eksperimen CLEVR standard.

Kertas itu menggambarkan populasi dengan struktur persepsi berbeza sebagai heteromorfik. Ringkasnya, anggota-anggotanya menerima jenis atau jumlah maklumat yang berbeza. Tugas mereka ialah membangunkan rujukan yang serasi walaupun terdapat perbezaan itu, dengan menggunakan pemerhatian yang boleh diakses oleh setiap anggota.

Kosa kata yang berubah apabila input hilang

Penyelidik turut menguji kehilangan maklumat secara mendadak semasa pembelajaran. Dalam satu eksperimen, separuh daripada input yang mewakili bacaan penderia dibuang pada pertengahan proses. Selepas perubahan itu, kejayaan komunikasi mencapai 93.82%.

Interaksi berterusan memberi peluang kepada ejen untuk menyemak konsep mereka apabila keadaan berubah. Perkataan yang dikaitkan dengan beberapa ciri boleh menjadi berguna dengan cara berbeza apabila sebahagian ciri itu hilang dan pemerhatian yang masih ada menjadi lebih penting.

Kertas itu juga melaporkan penyesuaian terhadap perubahan persekitaran. Ini menjadikan pembelajaran berterusan sebagai bahagian utama pendekatan tersebut: populasi membina konvensyen melalui penggunaan dan terus melarasnya apabila pemerhatian mereka berubah.

Bagi sistem mesin pada masa hadapan, keupayaan itu mungkin penting apabila peralatan merosot atau keadaan operasi berubah. Dapatan eksperimen semasa berkaitan dengan penyesuaian kosa kata oleh ejen dalam tugasan simulasi.

Kumpulan lebih besar memerlukan lebih banyak pertukaran

Kajian itu meneliti populasi yang terdiri daripada 2, 10, 25, 50 dan 100 ejen. Apabila populasi berkembang, perkataan berguna perlu tersebar dengan lebih meluas kerana pertukaran masih berlaku antara pasangan individu.

Dalam eksperimen CLEVR yang melibatkan 100 ejen, kejayaan komunikasi mencapai 92.69% selepas sejuta interaksi. Dengan melanjutkan latihan kepada 10 juta interaksi, kejayaan meningkat kepada 99.16%, iaitu kenaikan sebanyak 6.47 mata peratusan.

Jumlah interaksi membantu menjelaskan skala cabaran itu. Jika penyertaan diagihkan secara sama rata, sejuta pertukaran yang melibatkan dua ejen setiap satu memberikan purata 200,000 penyertaan bagi setiap ejen dalam kumpulan seramai 10 orang. Dalam kumpulan seramai 100 orang, jumlah pertukaran yang sama memberikan purata 20,000 penyertaan bagi setiap ejen.

Sepuluh juta pertukaran mengembalikan purata itu kepada 200,000 penyertaan bagi setiap anggota dalam populasi 100 orang. Pertemuan individu dipilih secara rawak, tetapi perbandingan ini menunjukkan sebab kumpulan yang lebih besar mungkin memerlukan jumlah pembelajaran yang jauh lebih tinggi untuk menyebarkan konvensyennya.

Manusia boleh meneliti rujukan sesuatu perkataan

Penyelidik menyifatkan kebolehtafsiran sebagai satu kelebihan reka bentuk mereka. Sesuatu perkataan merujuk kepada prototaip yang nilai dan pemberat cirinya boleh diperiksa. Penyelidik boleh menjejaki pemerhatian yang membantu membentuk sesuatu konsep dan bagaimana perwakilannya berubah melalui penggunaan.

Bagi set data dengan ukuran kimia yang mempunyai nama, pemeriksaan boleh mengaitkan sesuatu perkataan dengan julat ukuran tertentu. Bagi data imej, konsep itu dikaitkan dengan ciri yang dihasilkan oleh pengekod penglihatan, maka penjelasan tentang maknanya turut memerlukan pemahaman terhadap perwakilan imej berangka tersebut.

Jérôme Botoko Ekila, penyelidik kedoktoran di Makmal Kecerdasan Buatan VUB dan salah seorang penulis bersama, menerangkan tujuan membiarkan ejen membina konsep berdasarkan persepsi mereka sendiri:

Mereka membina konsep berkesan yang sepadan tepat dengan perkara yang mereka persepsi melalui penderia, walaupun data itu tidak dapat difahami manusia.

Penyeliaan manusia melibatkan pemeriksaan terhadap perkaitan tersebut ketika ia berkembang. Satu pemeriksaan yang berguna ialah sama ada dua ejen yang menggunakan perkataan yang sama terus memilih entiti yang dimaksudkan selepas input atau persekitaran mereka berubah. Mekanisme maklum balas kajian itu menjadikan hubungan ini perkara utama dalam proses pembelajaran.

Penerbitan, kerjasama dan kemungkinan kegunaan

Kerja ini menggabungkan sumbangan Jérôme Botoko Ekila, Lara Verheyen, Jens Nevens dan Paul Van Eecke dari VUB, serta Katrien Beuls dari University of Namur. Pembiayaan diperoleh daripada Research Foundation Flanders (FWO) dan Belgian National Research Fund (FNRS) menerusi projek WEAVE.

Rekod penerbitan VUB menyatakan bahawa jurnal berkenaan ialah Transactions of the Association for Computational Linguistics, jilid 14, halaman 2234–2257, dengan DOI 10.1162/TACL.a.799. Rekod itu menyenaraikan penerbitan pada Ogos 2026.

Penerbitan dan pengumuman itu mengikut urutan berikut:

• April 2026: Kertas itu dikemukakan.
• Mei 2026: Kertas itu disemak semula.
• Ogos 2026: Rekod penerbitan universiti menyenaraikan penerbitan dalam jurnal.
• 14 Oktober 2026: Pengumuman universiti membentangkan dapatan kajian.

Penyelidik mengenal pasti kenderaan autonomi, robot dan penderia industri sebagai bakal pengguna komunikasi yang disesuaikan dengan persepsi mesin. Lidar mengukur jarak menggunakan cahaya, sonar menggunakan bunyi, penderia inframerah mengesan sinaran yang berkaitan dengan suhu, manakala instrumen kimia mengukur bahan. Kosa kata bersama boleh membantu mesin merujuk kepada corak berguna merentas input sedemikian.

Langkah praktikal seterusnya ialah menguji cara konvensyen ini berfungsi dengan peralatan fizikal, persekitaran yang berubah dan tuntutan operasi. Tiada jadual pelaksanaan diberikan. Buat masa ini, hasilnya ialah kaedah yang telah diuji untuk membina rujukan bersama merentas data yang pelbagai, dengan prestasi yang boleh diukur dalam keadaan hingar, perbezaan persepsi dan kehilangan input.

Perkara Utama

• Penyelidik di VUB dan University of Namur menguji pembentukan kosa kata merentas 37 set data awam.
• Kumpulan 10 ejen dilatih melalui sejuta interaksi, kemudian menjalani 100,000 interaksi ujian.
• Kejayaan merentas tujuh set data yang diketengahkan adalah antara 95.77% hingga 99.76%.
• Penyelidik menyediakan tatacara pembelajaran; ejen membangunkan perkataan khusus dan konsep berkaitan melalui maklum balas.
• Eksperimen menguji penyesuaian kepada pemerhatian bising, struktur persepsi berbeza dan input yang hilang.
• Populasi 100 ejen mencapai kejayaan 99.16% dalam CLEVR selepas 10 juta interaksi.
• Kajian itu menggunakan simulasi komputer. Aplikasi pada robot, kenderaan dan penderia industri dicadangkan sebagai kegunaan berpotensi.