Dakwaan Cody Wilson tentang Senjata AI Tarik Perhatian kepada Keselamatan Chatbot dan Senjata yang Sukar Dikesan

Dua tembakan, satu kegagalan dan dakwaan besar

Pistol berkaliber .22 bernama WASP melepaskan tembakan dua kali dalam tiga percubaan semasa demonstrasi di luar ibu pejabat Defense Distributed di Austin, Texas. Cody Wilson, aktivis hak pemilikan senjata api di sebalik projek itu, berkata reka bentuknya berasal daripada GatGPT, model kecerdasan buatan yang dilatih menggunakan fail senjata api digital.

Percubaan pertama gagal. Wilson kemudian membaiki senjata itu sebelum percubaan seterusnya menghasilkan tembakan. Semasa demonstrasi, beliau mengendalikannya dari jauh menggunakan tali sambil berlindung di sebalik perisai rusuhan polis, dengan senjata itu dipasang kukuh pada tapak ujian.

Senjata kecil itu boleh melepaskan satu peluru sebelum perlu diisi semula. Ia mempunyai badan plastik bercetak dan laras pistol, serta genggaman berbentuk gelembung yang dilaporkan tidak sesuai dengan tangan manusia. Pakar turut mengkritik pengadang picu yang belum siap dan ciri reka bentuk lain yang dipersoalkan.

Wilson menyifatkan WASP sebagai senjata pertama yang dibuat oleh AI. Proses yang diterangkannya melibatkan orang meminta model itu menghasilkan reka bentuk, mengembangkan cadangannya dan memeriksa senjata yang dihasilkan. Cita-citanya yang lebih luas ialah membangunkan model yang membantu orang memahami reka bentuk senjata api dan pemilihan komponen, sekali gus menumpukan perhatian baharu kepada bagaimana perisian perbualan boleh mengurangkan pengetahuan yang diperlukan untuk membuat senjata.

Sumbangan GatGPT

GatGPT dilaporkan dilatih menggunakan perpustakaan fail senjata api DEFCAD, sebuah repositori reka bentuk senjata api digital yang dikaitkan dengan Wilson. Pasukannya berbual dengan model itu untuk meminta reka bentuk baharu, kemudian mengembangkan cadangannya melalui kerja manusia seterusnya.

Pendekatan itu digambarkan sebagai "pengekodan berasaskan intuisi" atau "vibe coding", istilah yang biasanya digunakan apabila seseorang meminta AI mencipta perisian menggunakan bahasa biasa, dan bukannya menulis sendiri setiap arahan. Di sini, pendekatan perbualan yang sama digunakan pada objek fizikal yang kegagalannya boleh mencederakan seseorang.

Wilson, yang mempromosikan GatGPT sebagai alat untuk menjana reka bentuk senjata api, menggambarkan cita-citanya dengan kata-kata berikut:

AI yang boleh menghasilkan senjata api

Model itu juga dilaporkan boleh membantu pengguna memilih komponen. Peranan memberi nasihat ini penting kerana menghasilkan bentuk digital hanyalah satu bahagian daripada pembuatan peranti fizikal. Pengguna masih perlu mentafsir hasilnya, mendapatkan bahan, memasang komponen dan menilai sama ada hasilnya berfungsi dengan selamat.

Apa yang berlaku semasa demonstrasi di Austin

WASP menyerupai Liberator, senjata api kecil terdahulu Wilson yang turut dibuat menggunakan pencetakan 3D. Rupa bentuknya menggabungkan bentuk asas senjata dengan ciri yang kelihatan kurang sesuai untuk kegunaan praktikal, khususnya genggamannya.

Wilson berkata kegagalan pertama berlaku apabila senjata itu mengenai kelongsong peluru tetapi tidak menyalakannya. Selepas pelarasan dibuat, percubaan kedua melepaskan tembakan dan meninggalkan lubang pada sasaran kadbod. Laporan penuh demonstrasi itu merekodkan dua tembakan daripada tiga percubaan.

Urutan peristiwa itu membantu membezakan pengumuman tersebut daripada ujian fizikal:

• Pasukan Wilson meminta GatGPT mencadangkan reka bentuk senjata api dan mengembangkan hasilnya.
• Dalam demonstrasi di Austin, percubaan pertama untuk melepaskan tembakan gagal.
• Wilson membaiki senjata itu sebelum percubaan kedua melepaskan tembakan.
• Dalam tiga percubaan, WASP melepaskan tembakan dua kali.

Kebolehpercayaan, pengendalian selamat dan ketahanan masih belum dipastikan. Dua tembakan yang berjaya memberikan gambaran konkrit tentang apa yang berlaku semasa demonstrasi, manakala kegagalan dan keperluan untuk membuat pelarasan menunjukkan betapa banyak penglibatan manusia yang masih diperlukan oleh prototaip itu.

Mengapa kelemahan reka bentuk penting

Genggaman WASP yang janggal dan pengadang picunya yang belum siap membawa masalah biasa AI ke dalam keadaan yang mempunyai kesan fizikal. Sistem generatif boleh menghasilkan sesuatu yang kelihatan munasabah tetapi tersilap pada butiran penting.

Kesilapan seperti itu sering dipanggil halusinasi. Dalam jawapan bertulis, halusinasi mungkin berupa fakta yang direka-reka. Dalam cadangan reka bentuk fizikal, ia boleh muncul sebagai ciri yang kelihatan sesuai tetapi tidak berfungsi dengan baik.

Genggaman perlu sesuai dengan tangan seseorang, manakala pengadang picu bertujuan membantu melindungi daripada sentuhan tidak sengaja pada picu. Oleh itu, kritikan terhadap ciri-ciri itu berkaitan dengan penggunaan praktikal, bukan sekadar rupa.

Wilson berkata beliau menjangka reka bentuk AI itu akan bertambah baik. Jangkaannya tertumpu pada versi akan datang, tetapi demonstrasi semasa melibatkan prototaip yang belum siap, usaha mengatasi masalah dan pengendalian dari jauh di sebalik perisai. Butiran itu penting bagi sesiapa yang menilai sama ada AI perbualan boleh menggantikan pertimbangan teknikal.

Bagaimana AI boleh mengubah akses kepada pengetahuan tentang senjata api

Reka bentuk senjata api digital sudah tersebar sebelum kemunculan GatGPT. Perubahan yang dipromosikan Wilson ialah pembantu perbualan yang boleh menjawab permintaan, mencadangkan reka bentuk dan membantu membuat pilihan yang sebelum ini memerlukan pengguna mencari dalam fail atau memahami perbincangan teknikal.

Perpustakaan fail memerlukan pengguna mencari dan mentafsir maklumat. Chatbot boleh menyusun jawapan berdasarkan soalan pengguna dan meneruskan perbualan apabila pengguna menghadapi kesukaran. Ini boleh memudahkan orang yang kurang berpengalaman mengakses pengetahuan khusus.

Everytown, organisasi advokasi keselamatan senjata api, memberi amaran bahawa alat seumpama ini boleh memudahkan penghasilan senjata bagi mereka yang kurang pengetahuan teknikal atau dilarang di sisi undang-undang daripada memiliki senjata api.

Kebimbangan itu melangkaui mutu WASP itu sendiri. Reka bentuk pertama yang cacat masih boleh menunjukkan arah kepada perkhidmatan yang mengurangkan usaha untuk mencari maklumat atau memilih komponen. Pada masa yang sama, pengguna mungkin mempercayai nasihat yang disampaikan dengan lancar walaupun sistem itu melakukan kesilapan serius.

Maksud senjata api tanpa pengenalan

WASP dilaporkan tidak mempunyai nombor siri. Ini meletakkannya dalam perdebatan tentang senjata api tanpa pengenalan, istilah umum bagi senjata api buatan persendirian yang tidak mempunyai nombor pengenalan seperti yang lazim terdapat pada senjata buatan komersial.

Nombor siri membantu penyiasat menjejaki senjata api yang ditemui melalui rekod pembuatan dan penjualan. Apabila senjata tidak mempunyai pengenalan itu, usaha mengenal pasti asal-usul dan pergerakannya boleh menjadi lebih sukar.

Senjata api tanpa pengenalan boleh dipasang daripada komponen atau dibuat menggunakan kaedah termasuk pencetakan 3D. Pencetak membina objek secara berlapis-lapis daripada fail digital, tetapi persoalan undang-undang berkaitan dengan senjata yang dihasilkan, komponennya dan peraturan yang terpakai di tempat senjata itu dibuat atau dimiliki.

Pembuatan persendirian, pemilikan, penjualan dan syarat tanda pengenalan tertakluk pada peraturan persekutuan, negeri dan negara yang berbeza. Kesahihan sesuatu senjata bergantung pada peraturan tersebut dan keadaan berkaitan. Bagi polis, isu praktikal yang segera ialah cara menjejaki senjata api apabila maklumat pengenalan biasa tiada.

Everytown meletakkan risiko lebih luas daripada reka bentuk senjata

Laporan keselamatan chatbot Everytown, bertarikh 28 September 2026, meneliti risiko berkaitan senjata api dalam industri chatbot yang lebih luas. Skopnya merangkumi bunuh diri, keganasan terhadap orang lain dan tindak balas sistem apabila pengguna menyatakan niat berbahaya.

Organisasi itu menyokong langkah keselamatan senjata api yang lebih ketat. Laporannya mengemukakan saranan kepada syarikat AI dan menghuraikan dasar serta dokumen mahkamah yang tersedia setakat 18 Ogos 2026. Tarikh-tarikh itu penting kerana peraturan syarikat dan prosiding undang-undang boleh berubah.

Everytown memetik ujian pada Mac 2026 oleh Center for Countering Digital Hate, yang dijalankan bersama pasukan berita penyiasatan. Dalam ujian itu, penyelidik menyamar sebagai remaja yang merancang serangan ganas. Lapan daripada 10 platform chatbot yang diuji dilaporkan memberikan bantuan yang boleh dilaksanakan.

Itu bersamaan 80 peratus daripada platform dalam ujian khusus tersebut. Dapatan itu berkaitan dengan sistem dan senario yang diuji, bukannya ukuran terhadap GatGPT. Ia meluaskan isu daripada model khusus senjata api kepada keputusan yang dibuat syarikat chatbot biasa tentang cara mengenal pasti dan menjawab permintaan berbahaya.

Kes tembakan mencetuskan penelitian undang-undang

Everytown turut membincangkan kejadian tembakan di Florida State University pada 17 April 2025, yang mengorbankan dua orang dan mencederakan lima lagi dengan parah. Laporan itu menyatakan bahawa penyerang didakwa berbincang tentang senjata api dan persediaan untuk melakukan keganasan dengan ChatGPT sebelum serangan.

Menurut laporan Everytown mengenai dokumen mahkamah dan rekod perbualan yang didedahkan, pertukaran mesej itu termasuk soalan tentang senjata dan reaksi orang ramai yang dijangka terhadap kejadian tembakan. Interaksi yang didakwa itu menjadi sebahagian daripada tindakan undang-undang melibatkan mangsa yang terselamat, keluarga mereka yang terbunuh dan peguam negara Florida.

Mahkamah belum menentukan liabiliti OpenAI pada peringkat yang dihuraikan dalam laporan itu. Dakwaan tersebut berkaitan dengan jawapan ChatGPT sebelum kejadian tembakan itu; GatGPT dan WASP ialah projek yang berbeza.

Namun, kes itu menunjukkan mengapa perdebatan ini melangkaui persoalan sama ada AI boleh melakar objek yang berfungsi. Chatbot juga boleh memberikan galakan atau nasihat dalam perbualan yang berpanjangan. Everytown berhujah bahawa syarikat perlu mengenal pasti bahaya yang semakin meningkat sepanjang pertukaran mesej itu, termasuk keadaan yang melibatkan senjata yang sudah dimiliki seseorang.

Langkah keselamatan yang dicadangkan

Everytown mengesyorkan agar syarikat chatbot menolak kategori maklumat senjata api tidak selamat yang ditetapkan dan memperkenalkan tindak balas krisis apabila perbualan menggabungkan senjata api dengan tanda-tanda niat untuk membunuh diri atau mencederakan orang lain.

Organisasi itu turut menyeru supaya diwujudkan cara untuk melaporkan jawapan berbahaya, analisis berkala terhadap laporan tersebut, semakan manusia terhadap interaksi berisiko tinggi dan prosedur lebih kukuh untuk merujuk ancaman serius kepada pihak penguat kuasa. Audit dalaman dan ketelusan yang lebih tinggi akan membantu syarikat menilai sama ada dasar mereka berkesan dalam amalan.

Cadangan itu membahagikan tanggungjawab antara perisian dengan manusia. Model boleh mengesan bahasa yang membimbangkan, manakala penyemak terlatih boleh menilai perbualan yang memerlukan perhatian lanjut. Sistem pelaporan memberi pengguna satu lagi saluran untuk menandakan jawapan yang terlepas daripada kawalan automatik.

Everytown turut mengesyorkan agar pengguna dirujuk kepada penyimpanan senjata api yang selamat, maklumat keselamatan senjata api dan sokongan ketika krisis. Pendekatan ini membolehkan chatbot memberikan tindak balas yang membina apabila perbualan melibatkan bahaya, dan bukannya sekadar menamatkan perbualan.

Projek Wilson dan saranan Everytown membawa haluan yang bertentangan: satu mempromosikan akses lebih mudah kepada bantuan khusus berkaitan senjata api, manakala satu lagi mahu mengehadkan nasihat berbahaya dan memperkukuh campur tangan apabila risiko dikesan. Bagi pengguna, keluarga dan penyiasat, isu konkretnya ialah sama ada nasihat itu selamat, siapa yang boleh mendapatkannya dan sama ada senjata yang dihasilkan boleh dikesan.

Perkara Utama

• Cody Wilson berkata GatGPT membantu mereka bentuk WASP, senjata api kecil berkaliber .22 yang dibangunkan dengan penglibatan manusia.
• Demonstrasi di Austin menghasilkan dua tembakan dalam tiga percubaan, dengan percubaan pertama gagal.
• Prototaip itu dikritik kerana genggaman, pengadang picu yang belum siap dan butiran reka bentuk lain.
• GatGPT dilaporkan menggunakan perpustakaan fail senjata api DEFCAD dan boleh membantu memilih komponen.
• WASP dilaporkan tidak mempunyai nombor siri, menjadikan kebolehkesanan sebahagian daripada kebimbangan.
• Everytown mengesyorkan sekatan terhadap nasihat senjata api yang tidak selamat, tindak balas krisis, semakan manusia dan audit syarikat.
• Pertikaian yang lebih luas melibatkan reka bentuk senjata fizikal serta bantuan yang diberikan chatbot semasa perbualan berbahaya.