Bias Algoritma dan Risiko Diskriminasi Baru dalam Pengelolaan Data Pemerintah

Pernyataan yang dilaporkan

Pada pengesahan UU SDI, Menteri Bappenas disebut menegaskan bahwa pemanfaatan data dan AI tidak boleh melahirkan bias algoritma dan diskriminasi baru. Pernyataan ini dimuat dalam pemberitaan lembaga pemerintah.

Perlu dibedakan: pernyataan pejabat menunjukkan arah kebijakan, sedangkan kewajiban hukum harus dicari di pasal. Pasal yang memuatnya belum kami temukan.

Karena itu, artikel ini tidak menyimpulkan bahwa UU SDI sudah menyediakan sanksi atau prosedur khusus untuk bias. Kami hanya melaporkan arah yang disampaikan pejabat dan menjelaskan konsepnya bagi pembaca awam.

Apa itu bias algoritma

Algoritma adalah rangkaian aturan yang dipakai komputer untuk menghitung atau memilih. Bias terjadi bila hasilnya secara sistematis merugikan kelompok tertentu tanpa alasan yang sah.

Komputer tidak punya niat buruk. Bias biasanya berasal dari data yang dipakai, atau dari manusia yang merancang dan menetapkan ukurannya.

Contoh sederhana: sistem diberi data pinjaman masa lalu yang kebanyakan berasal dari satu kelompok. Sistem lalu menganggap kelompok lain berisiko, padahal datanya saja yang sedikit. Hasilnya tampak ilmiah, tetapi menyesatkan. Istilah lain yang sering muncul adalah diskriminasi tidak langsung. Aturannya tampak netral, tetapi dampaknya lebih berat bagi kelompok tertentu, misalnya warga yang tidak memiliki akses internet atau dokumen lengkap.

Dari mana bias berasal

Data yang tidak lengkap adalah sumber umum. Daerah yang jarang dicatat bisa terlihat seolah tidak membutuhkan layanan. Data lama juga membawa kebiasaan lama, termasuk ketimpangan yang pernah terjadi.

Selain itu, pilihan indikator dapat berpihak. Bila ukuran kelayakan hanya cocok untuk wilayah kota, warga desa lebih mudah tersisih.

Karena banyak sumber, pencegahan tidak cukup dengan satu langkah. Pemeriksaan perlu dilakukan sejak pengumpulan data, saat pembuatan model, dan setelah hasil dipakai di lapangan. Contoh lain adalah data dari aplikasi pengaduan. Warga yang melek teknologi lebih sering melapor, sehingga wilayah mereka tampak bermasalah, sementara wilayah lain yang sulit dijangkau tampak aman padahal hanya sepi laporan.

• Data tidak mewakili semua kelompok.
• Data lama membawa ketimpangan lama.
• Indikator dipilih tanpa uji dampak.
• Hasil dipakai tanpa diperiksa manusia.

Mengapa penting bagi layanan publik

Menurut pemberitaan, data dasar nasional menjadi rujukan perencanaan, anggaran, dan penyaluran bantuan sosial. Jika data atau penilaiannya bias, dampaknya dapat berupa warga layak yang tidak terdaftar.

Ini analisis redaksi, bukan temuan. Namun risiko tersebut alasan mengapa pernyataan menteri relevan bagi warga.

Diskriminasi baru yang dimaksud dalam pernyataan menteri dapat dipahami sebagai ketidakadilan yang muncul karena sistem, bukan karena aturan tertulis. Justru sifatnya yang tidak terlihat membuatnya sulit dikenali warga. Perhatian ini juga relevan bagi dunia usaha. Perusahaan yang memakai data pemerintah untuk produknya perlu menyadari bahwa bias pada sumber data dapat terbawa ke layanan mereka.

Pagar yang mungkin berperan

UU SDI menurut pemberitaan menyebut pengawasan manusia, keterlacakan, manajemen risiko, dan partisipasi masyarakat untuk melapor. Semua itu berpotensi membantu mendeteksi bias.

Namun apakah ada kewajiban uji bias atau audit algoritma, sumber tidak menjelaskannya. Kami tidak memastikan hal itu ada.

Pengawasan manusia pun tidak otomatis menghapus bias. Petugas yang terlalu percaya pada hasil mesin bisa sekadar menyetujui. Karena itu pelatihan dan wewenang untuk menolak hasil perlu diperhatikan, meski ini belum dijelaskan sumber.

Langkah praktis bagi instansi dan warga

Instansi dapat mencatat sumber data, menguji hasil pada berbagai kelompok, dan menyediakan jalur keberatan. Warga dapat menanyakan dasar suatu keputusan dan mengajukan koreksi data bila keliru.

Bila terkait data pribadi, hak subjek data dalam UU PDP tetap relevan. Untuk kasus nyata, konsultasikan dengan penasihat hukum.

Bila Anda merasa dirugikan keputusan berbasis data, simpan bukti, minta penjelasan tertulis, dan ajukan keberatan ke instansi terkait. Langkah ini umum dan bergantung pada jenis layanan. Instansi yang mengelola data sebaiknya juga membuka informasi tentang cara kerja sistemnya sejauh tidak membahayakan keamanan. Keterbukaan membuat masyarakat sipil, akademisi, dan media dapat ikut memeriksa.

Hubungannya dengan kedaulatan dan keterlacakan

Keterlacakan dapat membantu menelusuri dari mana suatu angka berasal. Bila sebuah keputusan dipersoalkan, jejak data memudahkan pemeriksaan apakah masalahnya ada pada data awal atau pada pengolahan.

Kedaulatan data berbicara soal kendali hukum atas data, bukan soal bias. Namun keduanya saling melengkapi: data yang terlacak dan berada dalam kendali yang jelas lebih mudah diaudit. Ini analisis redaksi, bukan isi pasal.

Pembaca juga perlu waspada terhadap klaim bahwa UU SDI pasti menjamin tidak ada bias. Jaminan semacam itu tidak mungkin diberikan oleh satu undang-undang saja. Yang dapat dilakukan hukum adalah menyediakan tanggung jawab, transparansi, dan jalur koreksi.

Contoh kasus

Contoh: Sebuah kabupaten fiktif memakai skor otomatis untuk memilih penerima bantuan. Warga di desa terpencil jarang tercatat karena petugas jarang berkunjung, sehingga skornya rendah. Petugas membandingkan hasil antarwilayah, menemukan ketimpangan, lalu memperbaiki data. Ini ilustrasi, bukan kasus nyata.

Hal yang sering keliru

• Mengira pernyataan menteri sama dengan bunyi pasal.
• Mengira algoritma pasti netral karena memakai angka.
• Mengira bias hanya terjadi bila pembuatnya berniat buruk.

Dasar hukum

• Undang-Undang Satu Data Indonesia (disahkan DPR 6 Oktober 2026; nomor menyusul)
• Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi

Dalam kategori yang sama

• Blockchain untuk Keterlacakan Data dalam UU Satu Data Indonesia: Apa Artinya
• Cara Melapor Dugaan Penyalahgunaan atau Peretasan Data Pemerintah: Langkah Umum
• Cara Membaca Berita UU Satu Data Indonesia: Fakta Pasal, Kutipan Pejabat, atau Opini?

Ada masukan atau pendapat lain? Kirim lewat WhatsApp atau telepon 0813-3040-8000.