Baik itu ChatGPT, pengenalan wajah, tren gambar profil media sosial terbaru, atau metaverse, AI (kecerdasan buatan) sangat populer.
AI adalah cabang ilmu komputer di mana mesin dilatih untuk melakukan tugas yang berhubungan dengan manusia, apakah itu “mendengar” dalam kasus Siri, “melihat” seperti isyarat wajah yang digunakan untuk membuka kunci ponsel atau “berpikir” dalam kasus tersebut. industri otomasi yang berkembang di mana manusia digantikan oleh robot. Sistem melakukan tugas, dan dengan cara yang sama seperti bayi belajar berjalan dan berbicara, mereka mengulangi tugas itu jutaan kali.
Tanda pertama bahwa orang Amerika khawatir tentang meningkatnya penggunaan teknologi AI datang pada tahun 2000, ketika para aktivis pertama kali memprotes cookie – alat yang memantau dan melacak aktivitas kita di Internet. Pada tahun 2013, Badan Keamanan Nasional menemukan bahwa Undang-Undang Patriot telah digunakan untuk menyadap jutaan orang Amerika dan negara pengawasan yang kita tinggali saat ini mulai berlaku.
Saat ini, kami memiliki alat seperti ChatGPT yang menghasilkan tanggapan percakapan dari pola yang teridentifikasi dalam cara orang menanggapi pertanyaan dalam data teks sumber terbuka.
Bagi orang kulit hitam, teknologi ini bisa sangat merugikan. Pada tahun 2020 Polisi Detroit secara keliru menangkap Robert Williams setelah menggunakan pengenalan wajah untuk mengidentifikasinya. Selain itu, perangkat lunak yang digunakan untuk menentukan jaminan dan “perilaku kriminal” yang digunakan di penjara dan pengadilan sering menyertakan algoritme mendiskriminasi pria kulit hitam. Dalam beberapa tahun terakhir, Sebuah laporan ProPublica menemukan bahwa pemindai tubuh di bandara sering salah menandai wanita kulit hitam untuk gaya rambut kita.
Dan teknologi yang memprediksi pekerjaan apa yang kita dapatkan, pinjaman apa yang memenuhi syarat, dan peluang lain yang dapat membentuk masa depan kita juga terlalu sering bias terhadap kita. ulasan kinerja yang ditulis dengan ChatGPT pada tidak diperbolehkan mengikuti tes karena teknologinya gagal mengenali siswa berkulit gelap, atau keran di toilet umum yang tidak menyala karena tidak mengenali tangan Hitam di bawahnya.
Ini adalah bias algoritmik — proses di mana sistem teknis mengekspresikan bias yang sama yang ditemukan dalam kehidupan nyata. Inovasi yang tampaknya keren ini dipromosikan sebagai “netral” – tetapi kami memiliki bukti bahwa itu tidak benar.
Untuk masa depan yang sehat dan sejahtera di mana inovasi ini dapat membantu kita dan tidak merugikan kita, teknologi juga harus mempertimbangkan rasisme dan persimpangan antara seksisme, kemampuan, klasisme, dan homofobia.
Kilat Berita Harian
Hari kerja
Ikuti lima cerita teratas hari ini setiap sore hari kerja.
Untuk orang kulit hitam di Amerika dan di seluruh diaspora, kami berhak mendapatkan masa depan di mana perusahaan teknologi dipertanyakan dan dimintai pertanggungjawaban atas bagaimana desain, penerapan, dan pengelolaan sistem teknis canggih memengaruhi konsumen kulit hitam. Kami berhak mendapatkan masa depan di mana kami hanya mengkomersialkan produk teknologi berorientasi keadilan yang menghormati hak sipil dan hak asasi manusia dan tidak digunakan untuk kepolisian. Orang kulit hitam juga harus menyadari janji hidup dalam masyarakat berteknologi maju dan mendapatkan keuntungan dari kekayaan yang diciptakan oleh inovasi.
Sektor teknologi inklusif rasial akan mengangkat pemimpin kulit hitam di tim moderasi konten, memberdayakan mereka untuk menghentikan penyebaran video seperti pembunuhan mengerikan Tire Nichols karena dampak psikologis pada pengguna media sosial. Sektor teknologi feminis kulit hitam akan memastikan perlindungan yang diperlukan tersedia untuk dihindari pelecehan seksual di metaverse. Dan sektor teknologi yang berpusat pada keadilan akan memastikan bahwa data kami disimpan dari pialang data pihak ketiga yang dapat mengembangkan produk yang melacak dan mengawasi kami.
Korporasi, pengembang, dan pembuat kebijakan sangat perlu bertindak untuk membuat suara hitam terdengar di sektor teknologi canggih, baik membahas kripto, realitas virtual, atau komputasi kuantum.
Orang kulit hitam telah berjuang untuk hak sipil dan manusia kita sepanjang waktu; dunia maya tidak berbeda. Kami secara signifikan kurang terwakili di lapangan dan secara konsisten dikucilkan oleh prasangka dan rasisme struktural. Tapi mari kita perjelas: Tidak ada masa depan tanpa inovasi, kekuatan, dan agensi hitam.
Sudah terlambat bagi yang disebut sekutu untuk melakukan lebih dari sekadar membuat janji kosong selama Bulan Sejarah Hitam. Kami membutuhkan gangguan bias sistemik di mana-mana. Kami masih bertanya-tanya apa yang terjadi dengan perusahaan senilai $50 miliar yang dijanjikan untuk melindungi dan mendukung kami. Sebagian dari pendanaan ini memang dapat digunakan untuk masa depan teknologi yang lebih baik dan lebih inklusif bagi kita semua. Kita semua masih berduka atas pengawasan tubuh hitam yang sekarang ditambah dengan AI.
Saat orang melihat kemanusiaan kita dan saat kita semua memahami lebih dalam tentang tanggung jawab kolektif kita dan misi yang lebih besar yang dimainkan, tidak ada batasan untuk inovasi adil yang dapat kita ciptakan bersama.
Nkonde adalah pemimpin dalam keadilan rasial dalam teknologi, penasihat PBB, dan pendiri serta CEO perusahaan komunikasi AI for the People pemenang Emmy – sebuah organisasi yang bekerja untuk meningkatkan pemahaman publik tentang bagaimana AI, web3, dan komputer kuantum memengaruhi kehidupan Kulit Hitam.