Celah Fatal AI, LLM Disebut Mustahil Diamankan Sepenuhnya

Teknologi kecerdasan buatan atau Large Language Model (LLM) kembali menghadapi tantangan besar setelah sekelompok peneliti mengungkap adanya cacat fundamental yang membuat sistem ini mustahil diamankan sepenuhnya dari serangan peretasan. Sebagaimana diwartakan dalam laporan media teknologi, kerentanan ini berkaitan erat dengan cara model mengidentifikasi sumber instruksi yang diterima.

Berdasarkan laporan penelitian yang dipresentasikan dalam konferensi mesin pembelajaran internasional, celah tersebut memungkinkan peretas memanipulasi model untuk melanggar aturan keamanan, seperti memberikan instruksi pembuatan zat terlarang hingga cara menyabotase sistem navigasi kendaraan komersial. Menurut pernyataan para ahli, masalah ini berpotensi menjadi kerentanan yang tidak akan pernah bisa diselesaikan sepenuhnya.

Stay Updated on Gaming & Sports News

Get the latest game releases, esports tournaments, and sports updates delivered straight to your inbox. Free and exclusive content for gaming and sports enthusiasts!

Subscribe

Para pengembang biasanya mengandalkan tim penguji manusia atau peretas AI otomatis untuk mendeteksi kelemahan sebelum model diluncurkan ke publik. Namun, metode tersebut dinilai mirip seperti menulis larangan berulang kali tanpa bisa memprediksi seluruh celah kreatif yang mungkin dieksploitasi oleh pengguna usil.

Metode serangan baru yang disebut sebagai pemalsuan rantai pemikiran (chain-of-thought forgery) memanfaatkan kelemahan model dalam mengenali label peran teks. Mengutip laporan media, model ternyata tidak mengenali instruksi berdasarkan tag pembatasnya, melainkan dari gaya bahasa dan isi teks tersebut, sehingga manipulasi sederhana dapat mengecoh sistem dengan mudah.

Para peneliti mengingatkan bahwa tingginya adopsi AI di berbagai sektor kritis, mulai dari sistem pemerintahan hingga pertahanan, memerlukan kewaspadaan ekstra. Organisasi dan perusahaan diingatkan untuk tidak mempercayai sistem LLM secara mutlak karena selalu ada celah keamanan yang tidak terdeteksi sebelum produk dirilis.