Microsoft mengonfirmasi keberadaan AI worm yang dapat menyebar melalui aplikasi Copilot serta perangkat lunak produktivitas lainnya seperti Word. Peneliti kecerdasan buatan asal Norwegia, Håkon Måløy, pertama kali melaporkan temuan ini, yang kemudian diverifikasi oleh perusahaan perangkat lunak tersebut. Serangan ini memanfaatkan instruksi tersembunyi yang disisipkan ke dalam dokumen, kemudian diproses oleh Copilot untuk menghasilkan atau mengedit file baru.
Mekanisme penyebaran dimulai ketika dokumen yang telah disusupi digunakan sebagai sumber dalam alur kerja Copilot. Instruksi berbahaya tersebut mampu mengubah data di dalam dokumen, misalnya angka-angka dalam laporan keuangan, sebelum menyalin dirinya sendiri ke file baru. Proses ini memungkinkan worm tetap tersembunyi dan terus menyebar melalui kolaborasi internal perusahaan.
Microsoft menyatakan telah menangani temuan tersebut melalui proses pengungkapan kerentanan yang terkoordinasi. Perusahaan menerapkan strategi pertahanan berlapis untuk memblokir instruksi berbahaya di berbagai titik dan memastikan tugas tetap sesuai permintaan pengguna. Pembaruan keamanan terus diperkuat seiring perkembangan teknologi dan lanskap ancaman.
Para analis keamanan menyoroti bahwa serangan ini mampu melewati banyak mekanisme pertahanan tradisional. Karena dokumen tampak sah pada saat pengiriman dan hanya menjadi aktif setelah diproses oleh Copilot, kontrol keamanan email serta perlindungan titik akhir sering kali tidak mendeteksi ancaman. Selain itu, eksfiltrasi data terjadi melalui sesi Copilot yang telah diotorisasi pengguna.
Salah satu analisis tambahan yang relevan adalah dampaknya terhadap kepatuhan regulasi di sektor keuangan. Karena worm dapat mengubah angka dalam laporan yang dihasilkan secara otomatis, organisasi berisiko melanggar standar pelaporan tanpa disadari hingga audit dilakukan. Hal ini menuntut peningkatan pengawasan manual terhadap setiap perubahan yang dihasilkan AI.
Analisis kedua berkaitan dengan evolusi ancaman prompt injection yang kini bergerak dari interaksi tunggal menjadi pola penyebaran mandiri. Meskipun belum sepenuhnya otonom seperti worm konvensional, kemampuan untuk menginfeksi dokumen internal yang dipercaya menciptakan rantai pasok digital yang rentan di lingkungan kerja modern.
Måløy menekankan bahwa pemisahan instruksi dan data dalam model bahasa besar merupakan tantangan mendasar. Meskipun mitigasi sementara telah diterapkan, solusi jangka panjang memerlukan pendekatan arsitektur yang lebih dalam. Pengguna disarankan selalu memverifikasi konten yang dihasilkan AI sebelum membagikan atau menggunakannya dalam keputusan bisnis.
Para pakar keamanan juga merekomendasikan pembatasan akses otomatis Copilot terhadap dokumen yang tidak dipilih secara eksplisit. Langkah ini dapat mengurangi peluang worm memperoleh pijakan awal. Selain itu, penerapan metadata untuk melacak asal konten serta perubahan yang dilakukan AI membantu organisasi menelusuri penyebaran jika terjadi insiden.
Secara keseluruhan, temuan ini menegaskan bahwa integrasi AI dalam alur kerja produktivitas membawa risiko baru yang memerlukan strategi pertahanan komprehensif. Perusahaan perlu menggabungkan pembaruan teknis dengan kebijakan operasional yang ketat untuk menjaga integritas dokumen dan kepercayaan data internal.
