Bimbingan orang tua: 'kecerdasan buatan' digunakan untuk menilai pengasuh anak berdasarkan sejarah media sosial mereka
Ketika Jessie Battaglia mulai mencari pengasuh baru untuk putranya yang berusia satu tahun, dia menginginkan lebih banyak informasi daripada yang bisa didapatnya dari pemeriksaan latar belakang kriminal, komentar orangtua dan wawancara tatap muka.
Jadi dia menoleh ke Predictim, sebuah layanan online yang menggunakan "kecerdasan buatan tingkat lanjut" untuk menilai kepribadian pengasuh bayi, dan mengarahkan pemindainya ke ribuan kandidat posting Facebook, Twitter, dan Instagram.
Sistem ini menawarkan "peringkat risiko" otomatis dari seorang kandidat berusia 24 tahun, dengan mengatakan bahwa ia berada pada "risiko yang sangat rendah" menjadi penyalahguna narkoba. Tapi itu memberikan penilaian risiko yang sedikit lebih tinggi - dua dari lima - untuk bullying, pelecehan, menjadi "tidak sopan" dan memiliki "sikap buruk."
Sistem tidak menjelaskan mengapa ia membuat keputusan itu. Tetapi Battaglia, yang meyakini bahwa pengasuh itu dapat dipercaya, tiba-tiba merasa sangat ragu.
"Media sosial menunjukkan karakter seseorang, " kata Battaglia, 29, yang tinggal di dekat Los Angeles. "Jadi kenapa dia datang jam dua dan bukan jam satu?"
Predictim menawarkan kepada orang tua buku pedoman yang sama dengan lusinan perusahaan teknologi lain yang menjual kepada majikan di seluruh dunia: sistem kecerdasan buatan yang menganalisis ucapan seseorang, ekspresi wajah, dan sejarah daring dengan janji mengungkapkan aspek-aspek tersembunyi dari kehidupan pribadi mereka.
Teknologi ini membentuk kembali bagaimana beberapa perusahaan melakukan pendekatan dalam merekrut, merekrut dan mengkaji pekerja, menawarkan kepada para pengusaha pandangan yang tidak tertandingi pada calon pekerjaan melalui gelombang baru penilaian psikologis dan pengawasan yang invasif.
Perusahaan teknologi Fama mengatakan menggunakan AI untuk media sosial pekerja polisi untuk "perilaku beracun" dan mengingatkan bos mereka. Dan perusahaan perekrutan-teknologi HireVue, yang bekerja dengan perusahaan-perusahaan seperti Geico, Hilton dan Unilever, menawarkan sistem yang secara otomatis menganalisis nada pelamar, pilihan kata dan pergerakan wajah selama wawancara video untuk memprediksi keterampilan dan sikap mereka dalam pekerjaan. (Calon didorong untuk tersenyum untuk hasil terbaik.)
Tetapi para kritikus mengatakan Predictim dan sistem serupa menghadirkan bahaya mereka sendiri dengan membuat keputusan yang otomatis dan mungkin mengubah hidup hampir tidak terkendali.
Sistem ini bergantung pada algoritma kotak hitam yang memberikan sedikit detail tentang bagaimana mereka mengurangi kompleksitas kehidupan batin seseorang menjadi perhitungan kebajikan atau bahaya. Dan bahkan ketika teknologi Predictim memengaruhi pemikiran orang tua, itu tetap sama sekali tidak terbukti, sebagian besar tidak dapat dijelaskan dan rentan terhadap bias tenang mengenai bagaimana pengasuh yang tepat harus berbagi, melihat, dan berbicara.
Ada "terburu-buru gila untuk merebut kekuatan AI untuk membuat semua jenis keputusan tanpa memastikan itu bertanggung jawab kepada manusia, " kata Jeff Chester, direktur eksekutif dari Pusat Demokrasi Digital, sebuah kelompok advokasi teknologi. "Sepertinya orang-orang telah meminum Kool-Aid digital dan berpikir ini adalah cara yang tepat untuk mengatur hidup kita."
Pemindaian Predictim menganalisis seluruh sejarah media sosial pengasuh bayi, yang, bagi banyak pengasuh termuda, dapat menutupi sebagian besar kehidupan mereka. Dan para pengasuh diberitahu bahwa mereka akan berada pada posisi yang sangat tidak menguntungkan untuk pekerjaan kompetitif jika mereka menolak.
Ketua dan pendiri Predictim, Sal Parsa, mengatakan perusahaan itu, yang diluncurkan bulan lalu sebagai bagian dari University of California di inkubator teknologi SkyDeck Berkeley, menanggapi pertanyaan etis tentang penggunaan teknologinya secara serius. Orang tua, katanya, harus melihat peringkat sebagai pendamping yang "mungkin atau mungkin tidak mencerminkan atribut aktual pengasuh."
Tetapi bahaya mempekerjakan pengasuh anak yang bermasalah atau kejam, lanjutnya, membuat AI alat yang penting bagi setiap orang tua yang berharap untuk menjaga anaknya aman.
"Jika Anda mencari pengasuh yang kasar di Google, Anda akan melihat ratusan hasil sekarang, " katanya. "Ada orang-orang di luar sana yang memiliki penyakit mental atau baru saja dilahirkan sebagai kejahatan. Tujuan kami adalah melakukan apa pun yang kami bisa untuk menghentikan mereka."
Pemindaian Predictim dimulai dari $ 24, 99 dan memerlukan nama pengasuh dan alamat email dan persetujuannya untuk berbagi akses luas ke akun media sosialnya. Pengasuh anak dapat menolak, tetapi orang tua diberitahu tentang penolakannya, dan dalam email pengasuh itu diberi tahu "orang tua yang tertarik tidak akan dapat mempekerjakan Anda sampai Anda menyelesaikan permintaan ini."
Para eksekutif Predictim mengatakan mereka menggunakan algoritma pemrosesan bahasa dan perangkat lunak pengenal gambar yang dikenal sebagai "visi komputer" untuk menilai posting Facebook, Twitter, dan Instagram pengasuh anak sebagai petunjuk tentang kehidupan offline mereka. Orang tua diberikan laporan secara eksklusif dan tidak harus memberi tahu pengasuh hasilnya.
Orang tua bisa, mungkin, melihat sendiri akun media sosial pengasuh mereka. Tetapi laporan yang dihasilkan komputer menjanjikan pemeriksaan mendalam dari aktivitas online bertahun-tahun, diringkas menjadi satu digit: solusi sederhana yang memabukkan untuk tugas yang tidak praktis.
Peringkat risiko dibagi menjadi beberapa kategori, termasuk konten eksplisit dan penyalahgunaan narkoba. Start-up juga telah mengiklankan bahwa sistemnya dapat mengevaluasi pengasuh pada ciri-ciri kepribadian lain, seperti kesopanan, kemampuan untuk bekerja dengan orang lain dan "kepositifan".
Perusahaan itu berharap untuk membalikkan industri "outsourcing orangtua" bernilai miliaran dolar dan telah mulai beriklan melalui sponsor bayaran dari blog parenting dan "mummy". Pemasaran perusahaan sangat berfokus pada kemampuannya untuk mengungkap rahasia tersembunyi dan mencegah "mimpi buruk setiap orangtua, " mengutip kasus-kasus kriminal termasuk pengasuh anak Kentucky yang didakwa awal tahun ini dengan melukai parah seorang gadis berusia delapan bulan.
"Seandainya orang tua gadis kecil yang terluka oleh pengasuh anak ini dapat menggunakan Predictim sebagai bagian dari proses pemeriksaan mereka, " sebuah dokumen pemasaran perusahaan mengatakan, "mereka tidak akan pernah meninggalkannya sendirian dengan anak mereka yang berharga."
Tetapi para pakar teknologi mengatakan sistem itu menaikkan bendera merahnya sendiri, termasuk kekhawatiran bahwa itu memangsa ketakutan orangtua untuk menjual pemindaian kepribadian dengan akurasi yang belum teruji.
Mereka juga mempertanyakan bagaimana sistem dilatih dan seberapa rentan mereka salah memahami makna kabur dari penggunaan media sosial pengasuh. Untuk semua kecuali pemindaian dengan risiko tertinggi, orang tua hanya diberikan saran tentang perilaku yang dipertanyakan dan tidak ada frasa, tautan, atau perincian khusus untuk menilai sendiri.
Ketika pemindaian seorang pengasuh bayi ditandai karena kemungkinan perilaku intimidasi, ibu yang merasa gugup yang memintanya mengatakan bahwa dia tidak dapat mengatakan apakah perangkat lunak itu telah melihat kutipan film lama, lirik lagu atau frasa lain sebagai lawan dari bahasa intimidasi yang sebenarnya.
Namun Predictim mengatakan sedang bersiap untuk ekspansi nasional. Eksekutif di Sittercity, pasar pengasuh online yang dikunjungi oleh jutaan orang tua, mengatakan mereka meluncurkan program percontohan awal tahun depan yang akan melipatgandakan peringkat otomatis Predictim ke dalam susunan sitter dan pemeriksaan latar belakang situs saat ini.
"Menemukan pengasuh dapat datang dengan banyak ketidakpastian, " kata Sandra Dainora, kepala produk Sittercity, yang percaya alat seperti ini dapat segera menjadi "mata uang standar" untuk menemukan pengasuh online. "Orang tua selalu mencari solusi terbaik, penelitian terbanyak, fakta terbaik."
The Washington Post