Kontroversi Grok Jadi Alarm, Ancaman AI Terlalu Bebas di Ruang Digital

DENPASAR, DISWAYBALI.ID - Perkembangan kecerdasan buatan atau artificial intellegence (AI) yang kian cepat kembali memantik kekhawatiran global, menyusul pula dengan kontroversi chatbot Grok milik Elon Musk yang menuai banyak kritik akibat banyaknya kemunculan berbagai konten bermasalah.

Grok yang sejak awal dipromosikan sebagai AI dengan pendekatan yang lebih bebas dan minim pembatasan, justru menjadi contoh bagaimana teknologi canggih dapat melampui kendali ketika aspek etika dan keselamatan tidak berjalan seiring dengan inovasi.

Meski polemik Grok berawal dari luar negeri, tetapi dampaknya sampai ke Indonesia karena belakangan ini banyak sekali pengguna media sosial X (Twitter) yang menggunakan untuk membuat konten yang tidak seharusnya sehingga hal ini juga menjadi tantangan serius dalam pengembangan AI.

BACA JUGA:Kebanyakan Makan Saat Tahun Baru? Ini 6 Teh Alami yang Bikin Perut Begah Jadi Lega

Grok merupakan chatbot AI yang terintegrasi dengan media sosial X (Twitter) dan diperkenalkan sebagai alternatif asisten kecerdasan buatan yang lebih berani serta minim atas pembatasan dibandingkan dengan produk sejenisnya.

Pendekatan tersebut awalnya dipuji oleh sebagian pengguna karena dinilai memudahkan untuk mendapatkan informasi, tetapi makin ke sini semakin banyak pihak yang menyalahgunakan hingga menyebabkan banyaknya kritik tajam yang dilontarkan mengenai konten sensitif yang melanggar etika.

Sejumlah kontroversi yang menyeret Grok memantik diskusi luas soal batasan teknologi AI. Para pemerhati keselamatan digital menilai, kecanggihan AI tanpa pengaman yang memadai berpotensi menimbulkan dampak yang serius, mulai dari penyebaran konten tidak pantas, ujaran kebencian, hingga manipulasi visual dan informasi.

Dalam konteks global, beberapa negara bahkan mulai mengambil langkah serius dengan menyelidiki atau mengevaluasi ulang penggunaan AI yang dianggap berisiko. Sedangkan di Indonesia, dari negara sendiri belum ada pernyataan resmi perihal permasalahan Grok yang belakangan ini hadir.

Namun beberapa publik figur menyerukan untuk tidak menggunakan AI terutama Grok untuk membuat konten yang vulgar atau tidak senonoh. Salah satu contohnya yang diambil adalah JKT48 yang di mana di dalamnya terdapat banyak anggota yang masih di bawah umur dan oknum penggemarnya yang menjadikan mereka objek tidak senonoh membuat manajemen JKT48 dengan tegas mengkecamnya.

BACA JUGA:Deretan Makanan yang Membantu Mencegah Kolestrol Tinggi, Mudah Ditemukan Sehari-hari

Memang belakangan ini salah satu ancaman yang paling disorot adalah potensi deepfake. Teknologi AI yang memungkinkan untuk memanipulasi foto, suara, dan video yang semakin sulit dibedakan dengan konten aslinya.

Banyak yang sudah menyalahgunakan, hal tersebut dapat mengakibatkan adanya tekanan psikologis, terutama bagi perempuan dan kelompok rentan. Dalam masyarakat dengan tingkat literasi digital yang belum merata hal ini menjadi risiko yang berbahaya.

Kasus Grok menunjukkan bahwa inovasi teknologi tidak bisa dilepaskan dari tanggung jawab etika. AI bukan sekedar alat netral, melainkan sebuah teknologi yang dapat membawa konsekuensi sosial yang nyata. Tanpa pengawasan dan pemahaman yang memadai, maka kecanggihan AI justru dapat menjadi bumerang untuk masyarakat.

Sumber: