HERALDKALTIM.COM — Elon Musk mulai melihat hasil dari investasinya di bidang AI dengan peluncuran Grok 3, salah satu model AI paling canggih saat ini. Namun chatbot mereka memiliki celah keamanan yang mudah dijebol hacker.
Dilansir France24, startup asal Prancis PRISM Eval, mengumumkan hasil investigasi mereka, bahwa chatbot ini memiliki celah keamanan yang memungkinkan pengguna melewati filter keselamatan dan meminta informasi terkait aktivitas berbahaya atau ilegal, seperti cara membuat bom atau menyembunyikan mayat.
Seperti diketahui, Minggu ini, perusahaan AI milik Musk, xAI, merilis pratinjau awal Grok 3, yang dikembangkan di pusat data di Memphis. Pusat data ini berkembang pesat denga menampung sekitar 200.000 chip Nvidia berteknologi tinggi. Dalam beberapa tolok ukur, Grok 3 disebut sebagai salah satu chatbot AI terkuat yang pernah ada.
Meskipun Musk sering menekankan bahwa Grok adalah AI tanpa sensor dan tanpa filter, sistem ini sebenarnya memiliki mekanisme pencegahan agar tidak digunakan untuk menghasilkan informasi berbahaya.
Selain itu, xAI secara eksplisit melarang aktivitas ilegal, merugikan, atau melecehkan dalam ketentuan penggunaannya.
Startup PRISM Eval juga secara khusus menguji ketahanan filter keamanan berbagai model AI. Dalam investigasi mereka yang ditunjukkan kepada France24, mereka berhasil melewati pengamanan Grok 3 dengan teknik “jailbreaking” yang relatif sederhana.
Penelitian tersebut menunjukkan bahwa banyak model AI, termasuk Grok 3, masih memiliki celah yang memungkinkan penyalahgunaan untuk tujuan berbahaya.
