AI Worm dan Risiko Baru bagi Robot serta Mobil Otonom

Upstream memperingatkan AI worm berpotensi mengancam robot, kendaraan otonom, dan drone. Namun, penyebaran nyata ant perangkat belum dibuktikan dan tetap membutuhkan celah akses.

ai-worm-risiko-robot-mobil-otonom

AI worm yang mampu menyesuaikan diri dan menyebar ke perangkat pintar berpotensi menjadi ancaman bagi robot, kendaraan otonom, hingga drone. Giuseppe Serio, VP Market Development di Upstream, mengingatkan bahwa kemampuan kecerdasan buatan untuk mengenali lingkungan perangkat dapat membuat serangan siber lebih mudah diperluas dan lebih sulit ditangani.

Peringatan itu muncul setelah Frontier Red Team Anthropic mengamati model AI kecil yang dapat mereplikasi diri sebagai “AI worm” di perangkat seperti Android TV box dan oven pintar. Namun, riset tersebut masih bersifat eksperimental. Belum ada demonstrasi worm yang menyebar di antara perangkat-perangkat nyata.

Menurut Serio, hal baru dalam perkembangan ini bukanlah konsep worm atau botnet, yang telah dikenal selama puluhan tahun. Perbedaannya terletak pada kemampuan AI untuk beradaptasi dengan berbagai perangkat dengan campur tangan manusia yang lebih sedikit.

AI dapat membantu serangan beradaptasi

Dalam serangan konvensional, pelaku perlu mengembangkan atau menyesuaikan alat agar bekerja di sistem yang berbeda. AI berpotensi mengambil alih sebagian proses itu: mengenali cara perangkat beroperasi, perangkat lunak yang digunakan, serta cara menjalankan instruksi.

“AI semakin bisa mengambil alih sebagian pekerjaan itu, mencari tahu bagaimana sebuah perangkat beroperasi, perangkat lunak apa yang dijalankannya, dan bagaimana mengeksekusinya,” kata Serio kepada Tom’s Guide.

Kemampuan tersebut dapat membuat serangan lebih mudah diperluas ke banyak perangkat yang memiliki kombinasi perangkat keras dan perangkat lunak berbeda. Meski demikian, AI tidak serta-merta mampu menerobos pertahanan. Penyerang tetap memerlukan jalan masuk, misalnya melalui kerentanan, antarmuka yang terekspos, atau konfigurasi keamanan yang lemah.

Serio juga menekankan keterbatasan eksperimen Anthropic. Model yang diuji masih lambat, memerlukan sumber daya besar, dan bekerja dalam kondisi yang disederhanakan. Karena itu, temuan tersebut belum membuktikan bahwa AI worm sudah dapat menyebar secara mandiri di dunia nyata.

Mengapa robot dan kendaraan otonom menjadi perhatian?

Risiko terhadap Physical AI—perangkat yang mengandalkan kecerdasan buatan untuk beroperasi di dunia nyata—dinilai makin relevan. Robot, kendaraan terhubung, dan drone menggunakan komputasi onboard untuk menjalankan fungsi seperti persepsi, navigasi, pengambilan keputusan, dan operasi lainnya.

Sistem di perangkat-perangkat itu tidak seragam. Ada yang memakai computer vision, machine learning, atau algoritma kontrol khusus, sementara sistem robotik yang lebih baru mungkin menggunakan vision-language-action models. Keragaman tersebut menjadi tantangan keamanan sekaligus membuka peluang bagi AI untuk membantu menyesuaikan serangan dengan lingkungan yang berbeda.

Namun, kemampuan beradaptasi bukan berarti worm dapat berpindah begitu saja dari satu mesin ke mesin lain. Penyerang tetap membutuhkan akses awal, hak yang cukup untuk menjalankan perangkat lunak, serta jalur menuju perangkat lain. Tingkat risikonya bergantung pada arsitektur sistem, kontrol keamanan, dan konektivitas armada.

Serio mencontohkan kelompok robot gudang yang menggunakan jaringan dan infrastruktur manajemen bersama. Kondisi itu dapat memberi peluang bagi penyerang untuk bergerak antarsistem jika berhasil memperoleh akses. Sebaliknya, pada kendaraan terhubung, pemisahan fungsi kritis dan kontrol terhadap eksekusi perangkat lunak dapat membuat serangan lebih sulit.

Dampak bisa menyentuh kinerja dan keselamatan

Ancaman pada Physical AI tidak hanya berkaitan dengan penggunaan sumber daya komputasi tanpa izin. Komputasi yang sama juga dapat menopang fungsi yang memengaruhi cara sebuah mesin beroperasi. Bergantung pada arsitekturnya, kompromi dapat mengganggu ketersediaan atau kinerja, bahkan membuka risiko keselamatan fisik.

Jika worm berjalan di robot atau kendaraan otonom, dampaknya bisa berupa penurunan performa dan terhentinya operasi. Beban komputasi tambahan dapat mengurangi sumber daya yang dibutuhkan untuk persepsi, perencanaan, atau navigasi. Akibatnya, deteksi rintangan bisa melambat, keputusan tertunda, atau mesin berhenti bekerja.

Meski demikian, mengganggu operasi tidak sama dengan mengambil alih kendali. Serio membedakan kompromi pada komputasi AI dari kemampuan memanipulasi kemudi, pengereman, atau fungsi lain yang penting bagi keselamatan. Fungsi-fungsi tersebut sering ditangani pengontrol terpisah dan dilindungi mekanisme tambahan, sehingga gangguan pada komputasi AI tidak otomatis memberi penyerang kendali atasnya.

Sejauh ini, Anthropic belum mendemonstrasikan serangan semacam itu pada armada robot atau kendaraan otonom sungguhan. Peringatan Upstream lebih menyoroti arah perkembangan: AI dapat mengotomatisasi sebagian pekerjaan yang sebelumnya membutuhkan keahlian manusia. Seberapa besar ancamannya kelak akan ditentukan oleh kemampuan teknologi tersebut, tetapi juga oleh rancangan jaringan, pembatasan akses, dan pemisahan fungsi pada perangkat yang terhubung.

Pantaunusantara