Kiamat Informasi: Tesis Krisis Kebenaran AI di Era Data yang Tercemar

Pendahuluan: Wujud Modern dari Fitnah Akhir Zaman

Rooma21.com, Jakarta – Dalam narasi-narasi eskatologis, akhir zaman sering digambarkan dengan munculnya fitnah (slander) dahsyat yang mampu memutarbalikkan kebenaran dan menipu sebagian besar umat manusia. Sosok seperti Dajjal, sang mesias palsu, kiamat informasi, digambarkan memiliki kemampuan luar biasa untuk membuat kebohongan tampak seperti kebenaran.

Jika kita melakukan “cocoklogi” secara intelektual, kita mungkin sedang menyaksikan wujud modern dari fitnah tersebut. Bukan dalam bentuk makhluk mistis, melainkan dalam bentuk Kiamat Informasi: sebuah era di mana kebenaran terkikis habis, didalangi oleh manusia dan diperkuat secara eksponensial oleh Kecerdasan Buatan (AI).

Tesis artikel ini sederhana: Ancaman terbesar AI bukanlah pemberontakan mesin, melainkan perannya sebagai akselerator kebohongan paling kuat dalam sejarah. AI menjadi cermin yang memantulkan dan memperbesar polusi data yang sengaja atau tidak sengaja diciptakan oleh manusia. Dan kita, para penggunanya, seringkali menjadi korban yang rela karena satu alasan sederhana: kita tidak tahu apa-apa tentang apa yang kita tanyakan. Kita menerima jawaban AI yang fasih secara mentah-mentah, karena jawaban itu terdengar jauh lebih meyakinkan daripada ketidaktahuan kita sendiri.

Ilusi Kemahatahuan: Mengapa Kita Begitu Mudah Percaya pada AI?

Sebelum menyalahkan mesin, kita harus memahami psikologi di baliknya. AI modern memiliki apa yang bisa disebut “efek kemahatahuan” (omniscience effect). Jawabannya disajikan dengan:

1. Kecepatan Superhuman: Jawaban kompleks muncul dalam hitungan detik.
2. Kefasihan Sempurna: Tata bahasa yang rapi, struktur yang logis, dan tanpa keraguan.
3. Cakupan Luas: Mampu menjawab pertanyaan dari fisika kuantum hingga resep masakan.

Kombinasi ini secara psikologis menempatkan AI sebagai figur otoritas. Bagi pengguna yang awam pada suatu topik, memverifikasi jawaban AI membutuhkan usaha yang jauh lebih besar daripada sekadar menerimanya. Fenomena ini disebut “cognitive outsourcing”, di mana kita menyerahkan beban berpikir kepada mesin. Kita tidak lagi bertanya untuk belajar, tapi bertanya untuk mendapatkan jawaban jadi.

Halusinasi AI: Kegagalan Logika Akibat Percakapan Terlalu Panjang

Banyak pengguna AI yang berpengalaman, menemukan sebuah fenomena yang sangat sering terjadi: semakin panjang sebuah percakapan, semakin “bingung” atau tidak terduga jawaban AI. Ini bukan imajinasi Anda; ini adalah manifestasi dari keterbatasan teknis yang secara umum dikenal sebagai halusinasi, dan secara lebih spesifik bisa kita sebut halusinasi kontekstual.

Secara teknis, AI tidak “mengingat” percakapan seperti manusia. Untuk setiap pertanyaan baru, ia harus “membaca ulang” seluruh riwayat percakapan sebelumnya yang muat dalam apa yang disebut “jendela konteks” (context window) semacam memori jangka pendek. Ketika percakapan menjadi sangat panjang dan kompleks, masalah mulai muncul:

• Keterbatasan Memori: Jendela konteks memiliki batas. Informasi yang berada di awal percakapan yang sangat panjang bisa “terpotong” atau kehilangan prioritas.
• Kebingungan Referensi: AI kesulitan melacak pronoun (“dia”, “itu”) atau referensi yang merujuk pada poin-poin yang dibahas puluhan prompt sebelumnya.

Pada titik inilah AI mulai “berhalusinasi”. Ketika ia tidak dapat menemukan referensi yang tepat dalam ingatannya yang terbatas atau bingung dengan instruksi yang saling tumpang tindih, ia tidak akan selalu mengatakan “saya tidak tahu”. Sebaliknya, karena tugas utamanya adalah untuk memprediksi kata berikutnya yang paling mungkin, ia akan “menjembatani celah ingatan” tersebut dengan menciptakan informasi baru yang terdengar paling masuk akal secara statistik. Ia menyimpulkan sendiri, seperti yang Anda katakan, namun kesimpulannya tidak didasarkan pada fakta dalam percakapan, melainkan pada probabilitas matematis.

Dosa Asal AI: Dari “Garbage In, Garbage Out” Menjadi “Garbage In, Gospel Out”

Input Sampah Menghasilkan Output Sampah

Prinsip fundamental dalam komputasi adalah “Garbage In, Garbage Out” (GIGO) input sampah akan menghasilkan output sampah. Namun, AI generatif telah mengubah prinsip ini menjadi sesuatu yang lebih berbahaya: “Garbage In, Gospel Out”. Input sampah diproses dan disajikan kembali sebagai output yang terdengar seperti kebenaran mutlak. Masalah ini diperparah oleh fenomena yang oleh para peneliti disebut AI Data Feedback Loop atau Lingkaran Setan Data:

1. Manusia membanjiri internet dengan konten berkualitas rendah, hoaks, atau tulisan yang bias.
2. Model AI generasi saat ini dilatih menggunakan data dari internet yang sudah tercemar itu.
3. AI tersebut kemudian digunakan untuk menghasilkan lebih banyak lagi konten, yang seringkali merupakan versi daur ulang dari data yang sudah tercemar.
4. Model AI generasi berikutnya dilatih dari internet yang kini semakin dibanjiri oleh konten buatan AI sebelumnya. Kualitas data menurun dalam spiral yang semakin cepat, dan AI terjebak di dalamnya.

Pilar-Pilar Bukti: Menganalisis Kerapuhan Kebenaran AI

Untuk memperkuat tesis “Kiamat Informasi” ini, mari kita telaah empat pilar bukti fundamental dari penelitian empiris, peristiwa nyata, hingga argumen filosofis yang menyoroti betapa rapuhnya konsep ‘kebenaran’ bagi Kecerdasan Buatan.

Studi Kasus 1: “Model Collapse” & Risiko Data Tercemar

Masalah “Lingkaran Setan Data” bukan lagi hipotesis, melainkan fenomena yang sedang diteliti secara aktif oleh para ilmuwan. Fenomena ini dikenal dengan istilah “Model Collapse”. Sebuah penelitian penting yang dipublikasikan pada tahun 2023 oleh para ilmuwan dari Cambridge University dan Oxford University (tautan ke riset: arXiv:2305.17493) membuktikan apa yang terjadi ketika model AI dilatih menggunakan data yang dihasilkan oleh AI lain. Mereka menemukan bahwa dari generasi ke generasi, model tersebut mulai “melupakan” data asli yang berasal dari manusia. Hasilnya, output AI menjadi semakin medioker, terdistorsi, dan hanya merefleksikan versi realitas yang semakin sempit. Ilia Shumailov, salah satu penulis utama studi tersebut, menyimpulkannya dengan gamblang:

“We were surprised to observe how quickly models fall into this trap. Models can forget the less-common data very quickly, which means we are losing valuable information and culture.” (Kami terkejut mengamati seberapa cepat model jatuh ke dalam perangkap ini. Model dapat melupakan data yang kurang umum dengan sangat cepat, yang berarti kita kehilangan informasi dan budaya yang berharga.)

Ini adalah bukti empiris bahwa membanjiri internet dengan konten AI berisiko menciptakan ekosistem informasi yang steril dan terdistorsi, di mana AI masa depan tidak lagi belajar tentang realitas manusia, melainkan tentang gema dari dirinya sendiri.

Studi Kasus 2: Halusinasi AI di Ruang Sidang (Kasus Mata v. Avianca)

Kasus pengacara yang menggunakan ChatGPT dan menyajikan 6 kasus hukum fiktif adalah contoh sempurna dari halusinasi AI di dunia nyata. Ini membuktikan betapa berbahayanya output AI jika diterima tanpa verifikasi informasi yang ketat, bahkan oleh profesional. Lihat beritanya : https://www.hukumonline.com/berita/a/dua-advokat-ini-didenda-karena-sitasi-putusan-palsu-buatan-chatgpt-lt649995d67a412?page=all

Studi Kasus 3: Deepfake dan Realitas Politik.

Laporan dari lembaga seperti The Brookings Institution secara rutin memperingatkan tentang penggunaan deepfake (video atau audio palsu yang dibuat AI) untuk tujuan politik. Bayangkan sebuah video palsu seorang kandidat presiden yang mengaku melakukan kejahatan, dirilis sehari sebelum pemilu. Kerusakan yang ditimbulkan mungkin tidak dapat diperbaiki bahkan setelah video itu terbukti palsu.

Ilmuwan dan Analis AI Berlomba Memecahkan Masalah

Melihat betapa rentannya AI terhadap hoaks, bias, dan halusinasi, sangat mudah untuk jatuh ke dalam pesimisme. Namun, menyimpulkan bahwa masalah ini tidak dapat diatasi adalah sebuah langkah yang terlalu terburu-buru. Justru sebaliknya, setiap kelemahan yang kita identifikasi hari ini adalah masalah yang sedang coba dipecahkan oleh para ilmuwan dan analis AI di seluruh dunia. Mereka tidak tinggal diam. Penelitian besar sedang berjalan untuk menciptakan AI yang mampu menjelaskan proses berpikirnya (Explainable AI), mengembangkan model yang bisa memverifikasi fakta secara otomatis ke sumber terpercaya, hingga merancang sistem yang memiliki “konstitusi” etika untuk mencegah penyebaran disinformasi. Pertarungan antara masalah dan solusi sedang berlangsung secara aktif.

Perlombaan inilah yang membuat era ini begitu krusial. Karena teknologi ini masih terus dibentuk, sekarang adalah waktu yang paling tepat bagi kita untuk mengajukan pertanyaan-pertanyaan fundamental yang akan mengarahkan perkembangannya. Kita perlu berpikir kritis untuk memastikan teknologi ini berjalan ke arah yang benar. Inilah empat pertanyaan kunci yang harus kita jawab bersama:

• Bagaimana cara AI memverifikasi kebenaran antara hoaks dan fakta di masa depan?
• Bisakah AI benar-benar “paham” jika hanya belajar dari data, tanpa pernah mengalami dunia nyata?
• Saat AI semakin pintar, apa keunggulan berpikir kritis manusia yang masih relevan?
• Apakah semua usaha SEO yang kita kerjakan selama ini akan menjadi sia-sia di era AI?

Setiap pertanyaan ini adalah sebuah pintu menuju artikel berikutnya dalam seri ini. Mari kita temukan jawabannya bersama.

Relevansi dengan: Artificial Intelligence Index Report 2025 | Stanford University

1. Kenaikan Tajam Insiden Negatif Terkait AI

Data Inti: Jumlah insiden negatif terkait AI yang dilaporkan publik meningkat tajam mencapai 233 insiden pada tahun 2024. Ini adalah rekor tertinggi dan merupakan kenaikan 56,4% dari tahun 2023.

2. Kegagalan AI dalam Menjawab Pertanyaan Faktual Sederhana

Data Inti: Pada benchmark evaluasi faktual baru bernama SimpleQA, model tercanggih sekalipun seperti o1-preview dari OpenAI hanya berhasil menjawab 42,7% pertanyaan dengan benar.

Relevansi: Ini menunjukkan bahwa bahkan untuk pertanyaan yang dirancang agar mudah diverifikasi, AI masih sangat sering salah. Angka kegagalan lebih dari 50% adalah bukti kuat bahwa “kebenaran” AI sangat rapuh.