Pengarang: Arslan Shahid
Awalnya diterbitkan di Towards AI the World’s Leading AI and Technology News and Media Company. Jika Anda sedang membangun produk atau layanan terkait AI, kami mengundang Anda untuk mempertimbangkan untuk menjadi sponsor AI. Di Towards AI, kami membantu menskalakan AI dan startup teknologi. Biarkan kami membantu Anda melepaskan teknologi Anda kepada massa.
Personalisasi adalah nama permainan di industri telekomunikasi
Gambar dari Pexel
Selama dua tahun terakhir, saya telah bekerja di departemen personalisasi dan pemasaran kontekstual dari salah satu operator seluler besar di Pakistan. Bagi orang yang tidak tahu personalisasi adalah mendesain produk, rekomendasi, dan iklan untuk individu berdasarkan atribut dan preferensi mereka.
Telekomunikasi adalah pasar oligopoli dengan sedikit atau tanpa diferensiasi produk. Data seluler, menit, dan SMS dapat dianggap sebagai komoditas. Salah satu cara untuk menambah nilai bagi pelanggan dan bisnis adalah dengan membuat produk yang dipersonalisasi untuk kelompok atau individu. Personalisasi dicapai dengan menggunakan alat seperti pembelajaran mesin dan analisis statistik. Namun, seperti yang akan saya jelaskan dalam posting ini, jika tidak diperiksa, personalisasi dapat berdampak buruk pada individu dan masyarakat pada umumnya.
Apa yang Anda maksud dengan ‘keadilan AI’?
Bertentangan dengan apa yang diyakini sebagian orang, AI atau model statistik tidak bebas dari bias atau membuat prediksi atau rekomendasi yang diskriminatif. Semua model mewakili perkiraan statistik dari data berdasarkan seperangkat variabel yang kita, sebagai pemodel, anggap sebagai prediksi dari hal yang kita minati. Dengan memilih atribut yang menurut pemodel adalah prediktif dan mengukur data yang menurut mereka tepat, sebuah pemodel sering membuat pilihan yang mencerminkan keyakinan mereka. Selain itu, data itu sendiri dapat mencerminkan hak istimewa atau diskriminasi historis yang dilakukan terhadap sekelompok orang.
Keadilan AI adalah studi tentang bagaimana algoritma memperlakukan sekelompok orang. Mencoba membuat mereka tidak terlalu predator atau diskriminatif terhadap sekelompok kelompok yang dilindungi atau atribut tertentu seperti jenis kelamin, etnis, negara asal, dan penyakit. Asalkan kami percaya bahwa menjadi bagian dari kelompok tertentu tidak atau tidak seharusnya menjadi dasar bagi suatu algoritma untuk memprediksi atau membuat keputusan yang menghasilkan hasil yang merugikan. Misalnya, algoritme penilaian kredit yang menetapkan skor kredit yang lebih rendah untuk orang kulit hitam jika dibandingkan dengan orang kulit putih dengan atribut ‘serupa’ adalah ‘tidak adil’. Tanda kutip menandakan bahwa ini tergantung pada definisi kesamaan dan keadilan.
Bagaimana keadilan kelompok didefinisikan secara matematis?
Meskipun ada banyak cara untuk mendefinisikan keadilan sebagai konstruksi matematika, di bawah ini adalah beberapa yang paling umum, diambil dari CS 294: Fairness in Machine Learning, UC Berkeley, Fall 2017
Keadilan dalam Klasifikasi:
Paritas Demografis:
Gambar dari fairmlclass
Secara sederhana, paritas demografis berarti bahwa probabilitas suatu algoritma klasifikasi tertentu memprediksi kelas yang benar(C=1) adalah sama ketika seorang individu berasal dari grup A=0 atau grup A=1. Di mana A dapat mewakili jenis kelompok yang dilindungi secara sewenang-wenang, seperti jenis kelamin.
Paritas Akurasi:
Gambar dari fairmlclass
Secara intuitif, pengklasifikasi adalah akurasi paritas-bijaksana adil ketika menetapkan semua kelas (diwakili oleh Y) dengan probabilitas yang sama ketika seseorang memiliki atribut a=0 atau a=1. Misalnya, algoritme penerimaan universitas menerima, menolak, atau daftar tunggu, masing-masing dengan probabilitas yang sama untuk pria atau wanita.
Paritas presisi
Gambar dari fairmlclass
Sebuah classifier adalah presisi-paritas adil ketika probabilitas bahwa seorang individu dari kelas yang benar, mengingat bahwa classifier meramalkan bahwa mereka berasal dari kelas yang benar; adalah sama untuk individu dengan atribut A=0 atau A=1. Ambil contoh algoritma yang memutuskan untuk memprediksi penyakit langka. Dokter hanya diperbolehkan memberikan obat kepada pasien yang diprediksi mengidap penyakit tersebut. Jika kita ingin algoritme menjadi adil-paritas yang tepat, proporsi orang yang memiliki penyakit dan diperkirakan memilikinya harus sama di semua kelompok yang dilindungi.
Ada banyak definisi baru dan kasus penggunaan khusus tentang keadilan untuk masalah klasifikasi. Definisi yang disebutkan di atas mencakup beberapa yang paling terkenal dan digunakan secara aktif.
Keadilan dalam Regresi:
Paritas Statistik:
gambar dari Microsoft Research
Untuk masalah regresi, pemodel mencoba meminimalkan kerugian yang diharapkan antara distribusi nilai yang diamati (Y) dan distribusi nilai yang diprediksi (f(x)). Agar paritas statistik bertahan, kami meminimalkan kerugian dengan tunduk pada batasan bahwa CDF yang dikondisikan pada atribut yang dilindungi A tidak menyimpang dari CDF tanpa syarat dengan ambang batas epsilon.
Rugi Grup Terikat:
Gambar dari Microsoft Research
Rugi grup terbatas berarti bahwa untuk setiap atribut yang dilindungi a, fungsi kerugian berada di bawah ambang batas tertentu. Misalnya, kita dapat meminta regresi untuk memprediksi harga rumah memiliki setidaknya RMSE $2500 untuk semua kelompok yang dilindungi seperti etnis.
Apa yang Anda maksud dengan personalisasi di Telecom?
Mengingat layanan GSM adalah komoditas, diferensiasi produk dicapai dalam telekomunikasi menggunakan dua kategori besar:
Diferensiasi harga: Anda memberikan layanan kepada pelanggan pada titik harga yang berbeda dari pesaing langsung. Jika layanan Anda lebih murah & setiap jaringan memiliki kualitas layanan yang sama, kemungkinan besar Anda akan memperoleh pangsa pasar. Diferensiasi jaringan: Segmen pelanggan akan selalu bersedia membayar harga yang lebih tinggi untuk kualitas yang lebih baik. Dalam telekomunikasi, kualitas semata-mata berasal dari alokasi spektrum dan keberadaan jaringan di wilayah tersebut. Misalnya, setiap operator telekomunikasi di Pakistan telah menandai wilayahnya di mana mereka memberikan layanan terbaik. Biasanya, paling masuk akal untuk membeli layanan dari operator dengan cakupan tertinggi di wilayah tersebut.
Personalisasi dapat membantu Telecos mencapai diferensiasi produk baik melalui harga atau jaringan pada tingkat individu. Misalnya, Anda dapat menggabungkan produk GSM yang berbeda seperti Anda dapat memberi pelanggan yang lebih cenderung menggunakan data tetapi tidak menggunakan panggilan atau SMS sebanyak harga paket ‘rata-rata’ di mana data mereka disubsidi tetapi Anda mengenakan biaya lebih untuk suara .
Bagaimana personalisasi dicapai?
Berikut ini adalah beberapa teknik dan metode yang digunakan dalam industri telekomunikasi untuk memungkinkan personalisasi (tidak menyeluruh).
Penetapan harga dinamis: Layanan GSM dibundel sesuai dengan berapa banyak pelanggan individu mungkin bersedia membayar untuk mereka. Penetapan harga yang berbeda dapat memungkinkan pelanggan untuk mendapatkan penawaran produk berdasarkan kebutuhan dan anggaran khusus mereka.
2. Rekomendasi Produk: Mesin rekomendasi dibuat untuk memberikan produk pra-paket yang ada kepada pelanggan
3. Diskon: Diskon yang dipersonalisasi untuk produk atau layanan telekomunikasi yang ada. Biasanya berdasarkan metrik yang menangkap jumlah nilai tambahan yang dapat diperoleh pelanggan jika kami memberi mereka diskon.
4. Penetapan harga geo-lokasi / demografis: Untuk sebagian besar operator, layanan telekomunikasi tidak sama untuk setiap wilayah, dan kualitas jaringan berbeda karena jumlah infrastruktur dan pengguna (lebih banyak pengguna per infrastruktur berarti layanan berkualitas lebih rendah). Masuk akal untuk menggunakan kualitas layanan Anda sebagai sarana untuk mengenakan biaya lebih bagi pelanggan yang bersedia.
5. Personalisasi Jaringan: Layanan personalisasi jaringan oleh Vodafone adalah contoh yang baik. Ini termasuk semua tweaking jaringan atau layanan sesuai dengan preferensi pelanggan.
Menghubungkan Personalisasi Telekomunikasi dengan ketidakadilan
Potensi pelanggaran keadilan saat memasukkan personalisasi.
Penetapan harga diskriminatif: Pendekatan standar dalam teknik penetapan harga dinamis memberikan paket yang dibundel pengguna berdasarkan penggunaannya, tetapi jika grup yang dilindungi berada di area atau lokalitas di mana jaringan sudah padat, mereka mungkin menghadapi diskriminasi harga. Karena jaringan padat, mereka mungkin menggunakan lebih sedikit data atau suara, yang akan membuat algoritme penetapan harga dinamis merekomendasikan paket mahal kepada pengguna tersebut. Daerah terbelakang di negara-negara dunia ketiga memiliki infrastruktur per pengguna yang lebih sedikit daripada pusat kota maju, membuat mereka rentan untuk menerima layanan berkualitas buruk dengan harga lebih tinggi. Rekomendasi Produk yang Merugikan: Di Telecom, sistem rekomendasi yang dipersonalisasi menggunakan riwayat pembelian, frekuensi, dan nilai uang sebelumnya sebagai metrik utama untuk membuat rekomendasi. Mereka mungkin juga menyertakan data web, lingkaran teman & keluarga, dan faktor lain-lain saat membuat rekomendasi. Beberapa produk dalam portofolio mungkin dianggap ‘predator’ karena mungkin memberikan jumlah sumber daya yang kurang optimal kepada pelanggan; mungkin ada produk lain yang memberikan nilai lebih tinggi kepada pelanggan dengan lebih sedikit uang. Layanan Jaringan Preferensial: Personalisasi jaringan sering menggunakan kebiasaan belanja pelanggan dan kepuasan mereka terhadap layanan untuk memberi mereka perlakuan istimewa di jaringan. Beberapa kelompok etnis secara historis kurang beruntung dan kurang makmur secara ekonomi. Mekanisme personalisasi jaringan dapat memberikan pelayanan yang baik kepada kelompok yang sudah mampu dan mendiskriminasi kelompok yang kurang sejahtera secara ekonomi.
Kesimpulan
Keadilan dalam model statistik dan sistem AI menjadi perhatian bagi setiap industri dan kasus penggunaan. Personalisasi telekomunikasi adalah salah satu cara besar untuk menambah nilai bagi bisnis dan pelanggan. Akses ke layanan telekomunikasi merupakan prasyarat untuk kemakmuran ekonomi, karena banyak layanan membutuhkan koneksi internet atau telepon seluler yang andal. Orang yang bekerja untuk mengaktifkan personalisasi telekomunikasi perlu membuat model mereka ‘adil’.
Mengapa Keadilan AI Penting dalam Personalisasi Telekomunikasi awalnya diterbitkan di Towards AI on Medium, di mana orang-orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.
Diterbitkan melalui Menuju AI
