Setelah kita menyadari betapa besar jejak lingkungan dan sumber daya yang dibutuhkan oleh AI, sekarang kita beralih ke kebenaran pahit ketiga, sebuah isu yang mungkin tidak kasat mata seperti konsumsi energi, tetapi dampaknya jauh lebih meresap dan berpotensi merusak sendi-sendi keadilan sosial. Ini adalah tentang bias dan diskriminasi yang terprogram secara halus, namun kuat, ke dalam algoritma AI. Perusahaan teknologi besar, dalam presentasi mereka yang mengkilap, selalu menekankan objektivitas dan efisiensi AI, seolah-olah mesin tidak mungkin melakukan kesalahan atau memiliki prasangka seperti manusia. Mereka menjual narasi tentang AI sebagai penengah yang adil, yang mampu membuat keputusan tanpa emosi atau preferensi pribadi. Namun, realitasnya jauh lebih rumit dan, terus terang, jauh lebih mengkhawatirkan.
Algoritma yang Berprasangka Bagaimana AI Mewarisi Bias Manusia
Kebenaran pahitnya adalah AI tidak lahir dalam ruang hampa. Ia dibangun oleh manusia, menggunakan data yang dikumpulkan oleh manusia, dari dunia yang dibangun oleh manusia. Dan karena dunia kita, dan data yang kita hasilkan, secara inheren mengandung bias—baik yang disadari maupun tidak disadari—maka tidak mengherankan jika bias-bias tersebut ikut terprogram ke dalam sistem AI. Algoritma belajar dari pola-pola yang ada dalam data pelatihan mereka. Jika data tersebut mencerminkan ketidaksetaraan historis, stereotip, atau praktik diskriminatif yang sudah ada di masyarakat, maka AI akan belajar untuk mereplikasi dan bahkan memperkuat pola-pola tersebut dalam keputusannya. Ini bukan tentang AI yang "jahat" atau "rasis"; ini tentang AI yang menjadi cermin dari ketidaksempurnaan data dan masyarakat yang melahirkannya.
Ambil contoh sistem pengenalan wajah. Banyak penelitian telah menunjukkan bahwa sistem ini secara signifikan kurang akurat dalam mengidentifikasi individu berkulit gelap, terutama wanita, dibandingkan dengan individu berkulit putih. Mengapa demikian? Karena data pelatihan yang digunakan untuk membangun sistem tersebut kemungkinan besar didominasi oleh gambar-gambar orang berkulit putih, sehingga algoritma menjadi kurang mahir dalam mengidentifikasi fitur wajah yang beragam dari kelompok lain. Ketika teknologi ini digunakan untuk tujuan penting seperti penegakan hukum atau keamanan, konsekuensinya bisa sangat serius, menyebabkan penangkapan yang salah atau pengawasan yang tidak proporsional terhadap kelompok minoritas. Perusahaan yang menjual teknologi ini seringkali hanya menyoroti tingkat akurasi keseluruhan tanpa merinci bagaimana akurasi tersebut bervariasi antar kelompok demografi, sebuah kelalaian yang bisa dibilang kurang etis.
Contoh lain yang sangat mengerikan adalah penggunaan AI dalam proses perekrutan karyawan. Beberapa perusahaan di masa lalu telah mencoba menggunakan AI untuk menyaring resume atau melakukan wawancara awal. Namun, sistem ini seringkali didapati secara tidak sengaja mendiskriminasi calon dari kelompok tertentu. Misalnya, sebuah AI pernah didapati secara sistematis memberikan skor lebih rendah pada resume yang mengandung kata-kata yang diasosiasikan dengan wanita, seperti "ketua klub catur wanita," karena data pelatihan dari masa lalu menunjukkan bahwa sebagian besar karyawan sukses di posisi tertentu adalah pria. AI tidak "membenci" wanita; ia hanya belajar dari pola historis yang bias dan menganggapnya sebagai "norma". Ini bukan efisiensi, ini adalah otomasisasi diskriminasi.
Ketika Kode Menulis Ulang Ketidakadilan Sosial
Masalah bias dalam AI tidak hanya terbatas pada pengenalan wajah atau perekrutan. Ia merambah ke berbagai sektor, mulai dari sistem penilaian kredit yang mungkin secara tidak adil menolak pinjaman bagi kelompok minoritas, hingga algoritma yang digunakan dalam sistem peradilan pidana yang memprediksi risiko residivisme, yang seringkali secara tidak proporsional menargetkan komunitas tertentu. Dalam kasus terakhir, jika data historis menunjukkan bahwa kelompok minoritas lebih sering ditangkap atau dihukum, AI akan "belajar" untuk mengasosiasikan kelompok tersebut dengan risiko yang lebih tinggi, bahkan jika faktor-faktor sosial-ekonomi yang mendasari tidak diperhitungkan. Ini bisa mengarah pada hukuman yang lebih berat atau pengawasan yang lebih intensif, menciptakan lingkaran setan ketidakadilan.
Salah satu tantangan terbesar dalam menangani bias AI adalah masalah "kotak hitam" (black box). Banyak model AI yang paling canggih, terutama jaringan saraf dalam (deep neural networks), bekerja dengan cara yang sangat kompleks sehingga bahkan para pengembangnya sendiri kesulitan untuk sepenuhnya memahami bagaimana mereka mencapai keputusan tertentu. Mereka tidak memberikan penjelasan yang mudah dicerna tentang "mengapa" mereka memilih A daripada B. Ini berarti, ketika sebuah AI melakukan kesalahan atau menunjukkan bias, sangat sulit untuk melacak akar masalahnya, memperbaikinya, atau bahkan membuktikan bahwa bias tersebut memang ada. Perusahaan teknologi seringkali tidak memiliki insentif kuat untuk membuka kotak hitam ini, karena kompleksitasnya bisa menjadi alasan untuk menghindari pertanggungjawaban.
"Bias dalam AI bukan sekadar 'bug' yang bisa diperbaiki dengan mudah. Ini adalah refleksi dari bias masyarakat kita sendiri, yang telah tertanam dalam data yang kita gunakan untuk melatih sistem ini. Jika kita tidak mengatasi bias manusia, kita hanya akan mengotomasikan dan memperkuatnya melalui teknologi." - Joy Buolamwini, Pendiri Algorithmic Justice League.
Ketidaktransparanan ini diperparah oleh fakta bahwa banyak perusahaan teknologi besar tidak secara sukarela merilis data pelatihan mereka atau metodologi yang digunakan untuk membangun model AI mereka. Mereka menganggapnya sebagai rahasia dagang atau properti intelektual. Akibatnya, peneliti independen, regulator, atau masyarakat umum tidak memiliki kemampuan untuk mengaudit sistem ini secara menyeluruh untuk mencari bias. Ini menciptakan situasi di mana perusahaan-perusahaan ini beroperasi dengan sedikit pengawasan, memungkinkan bias dan diskriminasi untuk bersembunyi di balik klaim "objektivitas" algoritmik. Mereka dapat dengan mudah mengatakan bahwa AI mereka "adil" tanpa harus membuktikannya secara meyakinkan.
Oleh karena itu, ketika perusahaan teknologi mempromosikan AI sebagai alat untuk membuat keputusan yang lebih "adil" atau "objektif", kita harus sangat skeptis. Kita harus menuntut transparansi lebih, audit independen, dan pertanggungjawaban atas dampak sosial yang ditimbulkan oleh teknologi mereka. Tanpa upaya serius untuk mengatasi bias dalam AI, kita berisiko membangun masa depan di mana ketidakadilan sosial tidak hanya dipertahankan, tetapi juga diperkuat dan disembunyikan di balik lapisan kode yang tak terlihat, menciptakan sistem diskriminasi yang lebih sulit untuk ditantang dan diperbaiki.
