Penulis: Menuju Tim Editorial AI
Awalnya diterbitkan di Towards AI the World’s Leading AI and Technology News and Media Company. Jika Anda sedang membangun produk atau layanan terkait AI, kami mengundang Anda untuk mempertimbangkan untuk menjadi sponsor AI. Di Towards AI, kami membantu menskalakan AI dan startup teknologi. Biarkan kami membantu Anda melepaskan teknologi Anda kepada massa.
Apa yang terjadi minggu ini di AI
Sorotan AI kami minggu ini adalah publikasi terbaru oleh Meta AI, “No Language Left Behind” (NLLB200). Model baru ini memanfaatkan arsitektur Transformer untuk menerjemahkan antara 200+ bahasa, dengan beberapa memiliki sedikit data pelatihan yang tersedia dengan kinerja mutakhir.
Apa yang membuat berita ini begitu keren? Pertama, ini adalah open-source, termasuk semuanya mulai dari kertas, kode, skema pelatihan, cara mendapatkan dataset, dan model pra-pelatihan. Kedua, kami biasanya melatih model AI untuk menerjemahkan teks dengan sejumlah besar data teks berpasangan, seperti terjemahan Prancis-Inggris, sehingga model memahami bagaimana kedua bahasa saling berhubungan dan bagaimana berpindah dari satu bahasa ke bahasa lainnya dan sebaliknya. -sebaliknya. Ini berarti model membutuhkan hampir semua kalimat dan teks yang mungkin untuk mendapatkan hasil yang baik dan digeneralisasi dengan baik di dunia nyata, yang mahal, rumit, atau tidak mungkin untuk banyak bahasa.
Kemudian, model tradisional melakukan terjemahan dari satu bahasa ke bahasa lain dalam satu arah, membutuhkan model baru setiap kali kita ingin menambahkan bahasa baru. Kemampuan NLLB untuk menerjemahkan antara 200 bahasa sekaligus adalah yang membuatnya begitu inovatif.
Kami sangat menghargai pekerjaan open-source di Towards AI, dan kami pikir upaya open-source mereka baru-baru ini, termasuk NLLB, adalah inisiatif yang patut dipuji oleh Meta AI.
Berita Terpanas
Model AI ini memprediksi gaji Anda dengan akurasi 87%!
Sarah H. Bana baru-baru ini melatih seorang model di lebih dari satu juta posting pekerjaan online untuk mengevaluasi karakteristik pekerjaan yang relevan dengan gaji secara mendekati waktu nyata. Model secara akurat memprediksi gaji terkait 87% dari waktu. Sebagai perbandingan, hanya menggunakan jabatan lowongan pekerjaan dan lokasi geografis menghasilkan prediksi akurat hanya 69% dari waktu. Jaringan saraf CLIP OpenAI yang diuji untuk robot menunjukkan perilaku stereotip rasis dan seksis
“Robot virtual yang dijalankan oleh kecerdasan buatan bertindak dengan cara yang sesuai dengan stereotip beracun ketika diminta untuk memilih wajah penjahat atau ibu rumah tangga.” Penulis utama studi Andrew Hundt mengatakan umat manusia berisiko menciptakan “generasi robot rasis dan seksis.”
Inilah yang terjadi ketika Anda melatih model Anda menggunakan data Internet yang tidak dikurasi: Ini merata-ratakan jawaban atas stereotip yang ada di masyarakat kita. Lihat lebih lanjut tentang topik ini di bagian pengambilan etika Lauren di buletin! Google Memperkenalkan Mood Board Search, alat penelitian bertenaga ML baru yang menggunakan papan suasana hati sebagai kueri atas koleksi gambar
Judulnya mengatakan itu semua, “Jelajahi koleksi gambar menggunakan papan suasana hati sebagai permintaan pencarian Anda”! Ini adalah alat berbasis web yang memungkinkan Anda melatih model untuk mengenali konsep visual menggunakan papan suasana hati dan pembelajaran mesin. Cobalah dan jelajahi serta analisis koleksi gambar menggunakan papan suasana hati sebagai permintaan pencarian Anda. Pelajari lebih lanjut dan cobalah.
Makalah paling menarik minggu ini
Tidak Ada Bahasa yang Tertinggal: Menskalakan Terjemahan Mesin yang Berpusat pada Manusia
GPT-3 dan model bahasa lainnya sangat keren. Mereka dapat digunakan untuk memahami potongan teks, meringkasnya, transkrip video, membuat aplikasi text-to-speech, dan banyak lagi, tetapi semua memiliki masalah besar bersama: mereka hanya berfungsi dengan baik dalam bahasa Inggris. Hambatan bahasa ini melukai miliaran orang yang mau berbagi dan bertukar dengan orang lain tanpa bisa melakukannya. Model baru ini menerjemahkan 200 bahasa dengan arsitektur berbasis Transformer. Belajarlah lagi. Pencerahan Lokal dari Adegan Nyata
Mereka memperkenalkan tugas pencahayaan ulang lokal, yang mengubah foto pemandangan dengan menghidupkan dan mematikan sumber cahaya yang terlihat di dalam gambar dengan pendekatan berbasis GAN dan tolok ukur, Lonoff, kumpulan 306 gambar yang disejajarkan dengan tepat yang diambil di ruang dalam ruangan dengan berbagai kombinasi lampu dinyalakan. SNeRF: Representasi Implisit Neural Bergaya untuk Pemandangan 3D
Mengingat representasi adegan implisit saraf yang dilatih dengan beberapa tampilan adegan, SNeRF mengatur gaya adegan 3D agar sesuai dengan gaya referensi.
Nikmati makalah dan ringkasan berita ini? Dapatkan rekap harian di kotak masuk Anda!
Temui kami di Ai4 2022!
Terapkan ke acara dan datang gratis! Jika Anda berada di sekitar Las Vegas pada bulan Agustus dan menjadi AI, mengapa Anda tidak bergabung dengan kami di sana?
Ai4 2022 adalah acara yang berfokus pada para pemimpin bisnis dan praktisi data yang bertujuan untuk memfasilitasi adopsi yang bertanggung jawab atas kecerdasan buatan dan teknologi pembelajaran mesin.
Lihatlah semua pembicaraan, putuskan sendiri, dan beri tahu kami jika Anda akan pergi! Ketua komunitas kami, Louis Bouchard, akan senang bertemu Anda di sana secara langsung.
Tertarik untuk menjadi sponsor Menuju AI dan ditampilkan dalam buletin ini? Cari tahu informasi lebih lanjut di sini atau hubungi [email protected]!
Bagian Komunitas Belajar AI Bersama!
Meme minggu ini!
Postingan Komunitas unggulan dari Discord
Kami ingin memperjelas: ini sebenarnya adalah pengantar yang sempurna dan profil yang ideal untuk anggota komunitas kami! Tentu saja, kami juga sangat menghargai profesional, peneliti, dan profesor yang bersedia bergabung dengan komunitas, bertukar pikiran dengan kami, dan bahkan membantu orang lain yang sedang mempelajari atau menerapkan model AI yang membutuhkan saran atau bantuan.
Kami memiliki saluran yang disebut “#👨🎓self-study-groups”, dibuat untuk menemukan beberapa orang untuk belajar bersama. Demikian juga, Anda tidak perlu menjadi ahli matematika, ahli pemrograman, atau ahli apa pun untuk terlibat. Kami menciptakan komunitas ini untuk orang-orang untuk belajar bersama, oleh karena itu nama “Belajar AI Bersama”, dan ini masih merupakan tujuan kami untuk dibuat. Tidak ada syarat untuk bergabung dan menikmati komunitas selain tertarik pada bidangnya, dan kami menghargai keragaman perspektif yang menumbuhkan dan memperkuat komunitas kami.
Jadi, jika Anda tertarik dengan AI, apa pun latar belakang Anda, pertimbangkan untuk bergabung dan mengobrol dengan kami semua!
Jajak pendapat AI minggu ini!
Beri tahu kami komunitas kami lebih baik dengan menjawab polling mingguan kami di Discord! Kami ingin melihat apakah Anda cocok dengan salah satu kategori tersebut atau menempati peran lain. Ini akan membantu kami menyediakan konten yang lebih berharga secara langsung untuk Anda
Bagian yang dikuratori TAI
Artikel minggu ini
SiEBERT, RoBERTa, dan BERT: Yang Mana yang Akan Diimplementasikan pada 2022?: Artikel ini memberikan gambaran umum yang dapat dipahami tentang SiEBERT, RoBERTa, dan BERT. Penulis memudahkan pembaca untuk memilih model yang sempurna dengan menguraikan manfaat dan kasus penggunaan setiap versi. Artikel ini juga membahas cara kerja RoBERTa dalam beberapa poin sederhana.
Minggu lalu kami menerbitkan rekor 38 blog AI baru dan menyambut 9 penulis baru ke platform kami. Jika Anda tertarik untuk menerbitkan di Towards AI, silakan mendaftar di sini dan kami akan mempublikasikan blog Anda ke jaringan kami jika memenuhi kebijakan dan standar editorial kami. Jika tidak, kami akan membantu Anda melakukannya.
Di mana Audit Gagal: Pandangan Etis Lauren tentang masalah bias CLIP OpenAI
OpenAI melakukan audit pihak pertama terhadap CLIP pada Agustus 2021. Di bagian 2.1, mereka mengeluarkan penafian bahwa “Eksperimen ini tidak komprehensif. Mereka menggambarkan masalah potensial yang berasal dari desain kelas dan sumber bias lainnya, dan dimaksudkan untuk memicu penyelidikan.” Ketika membahas efek hilir CLIP, penulis menyimpulkan bahwa “…satu langkah maju adalah eksplorasi komunitas untuk lebih mengkarakterisasi model seperti CLIP dan secara holistik mengembangkan evaluasi kualitatif dan kuantitatif untuk menilai kemampuan, bias, potensi penyalahgunaan, dan fitur penting penerapan lainnya dari ini model.”
Biasanya, manfaat dari audit internal adalah untuk menangkap masalah sebelum menimbulkan efek negatif di dunia nyata. Namun, penelitian terbaru yang dilakukan oleh Andrew Hundt, William Agnew, Vicky Zeng, Severin Kacianka, dan Matthew Gombolay ini menunjukkan bahwa efek tersebut, pada kenyataannya, telah diterapkan dalam aplikasi arus utama dan menyebabkan bahaya di dunia nyata. Selain itu, di bagian 5.1 penulis menyoroti bahwa kebijakan yang ada untuk menghentikan kerusakan ini tidak sesuai dengan yang dijanjikan, termasuk pernyataan penyertaan dan kode etik dari hampir setiap organisasi dan universitas yang berafiliasi dengan CLIP, menyimpulkan bahwa mereka terlalu kabur untuk bekerja.
Ini menjadi jelas ketika kita mengetahui bahwa audit itu sendiri masih panjang. Sebuah makalah baru-baru ini oleh Algorithmic Justice League membuktikan banyak cara bahwa audit secara substansial kurang dan hambatan apa yang menghambat peningkatan mereka, termasuk kesulitan melaporkan dan melacak bahaya dunia nyata dan biaya audit.
Mengingat sejarah singkat ini, berita tentang bias CLIP tidak mengejutkan sedikit pun. Seperti yang ditunjukkan di atas, upaya untuk mengurangi bias gagal di setiap langkah selama hampir satu tahun. Meskipun bermaksud baik, OpenAI menyerukan eksplorasi komunitas sebagai solusi yang terasa terlalu terlambat dan penangguhan tanggung jawab yang merugikan sudah terjadi, dan dalam pandangan kami hal itu harus diselesaikan dengan peningkatan akuntabilitas perusahaan di tingkat swasta dan publik. Jika algoritme ingin terus membentuk keputusan individu dan kolektif, kita harus mengambil lebih banyak inisiatif untuk memperlambat dan menghentikan penggabungan bias sebelum merayap masuk, dan secara efektif menguranginya ketika itu terjadi — dengan tindakan untuk mendukung kata-kata, agar tidak kehilangan makna melalui janji-janji kosong. Saya sangat bersyukur bahwa pekerjaan dilakukan oleh tim yang berfokus pada etika dan keadilan AI, dan atas peluang untuk mendukung penyelesaian masalah ini.
Tawaran pekerjaan
Ilmuwan Pembelajaran Mesin Senior @ Atomwise ( San Francisco — AS)
Senior ML Engineer — Algolia AI @ Algolia (Hybrid remote)
Senior ML Engineer — Pencarian Semantik @ Algolia (Hybrid remote)
Insinyur Pembelajaran Mesin @ Gather AI (Jarak Jauh — India)
Insinyur Pembelajaran Dalam (R&D — Teknik) @ Bobot & Bias (Jarak Jauh)
Tertarik untuk berbagi peluang kerja di sini? Kontak [email protected] atau posting peluang di saluran #hiring kami di discord!
Buletin AI ini adalah semua yang Anda butuhkan | #3 awalnya diterbitkan di Towards AI on Medium, di mana orang-orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.
Diterbitkan melalui Menuju AI
