JAKARTA - Kecerdasan buatan (AI) sering dianggap sebagai teknologi netral yang mampu meningkatkan efisiensi di berbagai sektor, namun nyatanya banyak sistem AI justru memperburuk ketimpangan gender yang sudah ada. Dwi Yuliawati, Head of Programme UN Women Indonesia, menjelaskan bahwa AI tidak bisa dipandang sebagai sesuatu yang benar-benar netral secara sosial karena sistem ini dibangun dari data yang mencerminkan bias masyarakat.
"AI memang tidak serta-merta diskriminatif, tetapi ia merefleksikan kondisi sosial yang sudah bias berdasarkan data yang ia terima," ujar Dwi dalam keterangan tertulis di laman BRIN, Sabtu (7/6). Ia mencontohkan temuan Dewan Eropa pada 2019 yang mengidentifikasi enam pola diskriminasi dalam AI, termasuk sejarah bias akibat ketimpangan sosial yang tertanam dalam data pelatihan.
Salah satu kasus nyata terjadi di Amazon, di mana sistem rekrutmen berbasis AI secara tidak sengaja lebih memilih kandidat laki-laki karena data historis menunjukkan mayoritas pelamar adalah pria. Masalah serupa juga muncul dalam representasi perempuan di sektor teknologi secara global. Data UN Women menunjukkan hanya 22% posisi di bidang STEM (Science, Technology, Engineering, Mathematics) yang diisi perempuan, padahal diperkirakan 75% pekerjaan pada 2025 akan terkait bidang ini.
Studi terhadap 133 sistem AI di berbagai industri mengungkap 44% di antaranya mengandung bias gender, dan 25% bahkan memiliki bias ganda (gender dan ras). Dampaknya tidak hanya terlihat dalam ketimpangan pekerjaan, tetapi juga dalam bentuk kekerasan daring, di mana 38% perempuan pernah menjadi korban dan 85% pernah menyaksikan kekerasan terhadap perempuan di ruang digital.
Ketimpangan juga terlihat dalam pengembangan teknologi itu sendiri. Data komunitas pengembang menunjukkan rasio perempuan hanya 78 berbanding 922 laki-laki, yang berimbas pada desain produk digital yang kurang mempertimbangkan kebutuhan perempuan.
Untuk mengatasi masalah ini, UN Women mendorong pendekatan holistik yang melihat perempuan sebagai pengguna, pembelajar, dan pengembang teknologi. Dwi menekankan pentingnya intervensi sistemik, mulai dari pelatihan keterampilan digital hingga kebijakan publik yang inklusif. Ia memuji Uni Eropa yang sejak 2019 telah membentuk komite independen untuk memastikan AI selaras dengan prinsip hak asasi manusia.
"Transformasi tidak bisa berhenti pada literasi digital semata. Perlu perhatian pada dimensi struktural dan kebijakan agar kesenjangan partisipasi perempuan bisa ditangani secara berkelanjutan," tegas Dwi. Ia juga menyoroti pentingnya meningkatkan partisipasi angkatan kerja perempuan minimal 25% untuk mewujudkan visi Indonesia Emas 2045.
Sementara itu, Kepala PR EIJP BRIN, Umi, mengingatkan bahwa perkembangan AI harus disertai kesiapan pemanfaatan yang bijak dan inklusif. "Masih banyak area aplikasi yang belum relevan. Perkembangan AI harus diarahkan agar sejalan dengan konteks sosial dan kebutuhan nyata," ujarnya.
Dwi menegaskan bahwa inklusi gender dalam setiap tahap pengembangan teknologi digital bukan lagi pilihan, melainkan keharusan. Pemerintah diminta memastikan layanan publik digital, termasuk sistem untuk pekerja migran perempuan, dapat diakses secara aman dan bebas diskriminasi.
