Penelitian dan puisi Joy Buolamwini menyoroti masalah besar dalam kecerdasan buatan (AI), yaitu bias rasial dan gender. Menurut PopSci, Buolamwini mengatakan bahwa AI dapat gagal membaca wajah dan tubuh orang kulit hitam. Hal ini dapat mengakibatkan diskriminasi atau praktik eksklusif. Menurut Time, penelitian Buolamwini menemukan bahwa sistem AI yang dibangun oleh perusahaan teknologi besar seperti IBM, Microsoft, dan Amazon memiliki bias gender dan rasial yang besar. Sistem AI tersebut hanya mampu mengenali gender pada wajah pria dengan benar, sementara pada wajah wanita dan orang kulit gelap, sistem tersebut memiliki tingkat kesalahan yang tinggi.

Menurut Forbes Advisor, pasar kecerdasan buatan diperkirakan akan mencapai $407 miliar pada tahun 2027 dan diperkirakan akan memberikan kontribusi sebesar 21% pada PDB Amerika Serikat pada tahun 2030. Namun, penggunaan kecerdasan buatan juga dapat menimbulkan bias dan ketidakadilan dalam sistem yang mempengaruhi jutaan orang dari berbagai latar belakang. Oleh karena itu, diversitas dalam kecerdasan buatan sangat penting untuk menghindari bias dalam sistem ini. Menurut Forbes, diversitas dalam kecerdasan buatan diperlukan untuk menghindari bias dalam sistem ini. Masalah sebenarnya adalah polarisasi dan sistemik, dan ini menuntut inklusi dan kepemilikan yang sebenarnya.

Menurut The Guardian, kurangnya keragaman dalam industri AI memperpetuasi bias. Sebuah studi menemukan bahwa industri AI yang didominasi oleh orang kulit putih dan laki-laki telah mencapai “saat penyesalan” atas sistem diskriminatifnya. Industri AI harus merefleksikan keragaman manusia untuk menghindari bias dalam sistem ini.

Dalam rangka mengatasi masalah bias rasial dan gender dalam AI, perlu adanya kerja sama antara programmer manusia dan kecerdasan buatan untuk menciptakan sistem yang adil dan inklusif. Diversitas dalam industri AI sangat penting untuk menghindari bias dalam sistem ini.

Sumber:

1. PopSci
2. Time
3. Forbes Advisor
4. Forbes
5. The Guardian