Pengarang: Kevin Berlemont, PhD
Awalnya diterbitkan di Towards AI the World’s Leading AI and Technology News and Media Company. Jika Anda sedang membangun produk atau layanan terkait AI, kami mengundang Anda untuk mempertimbangkan untuk menjadi sponsor AI. Di Towards AI, kami membantu menskalakan AI dan startup teknologi. Biarkan kami membantu Anda melepaskan teknologi Anda kepada massa.
Di persimpangan Ilmu Saraf, Ilmu Data, dan Pembelajaran Mesin — edisi #1
Gambar dibuat oleh generator gambar StableDiffusion menggunakan judul sebagai prompt
Selamat datang di buletin dua mingguan/bulanan ini, tempat saya meninjau dan merangkum beberapa makalah penelitian yang diterbitkan baru-baru ini. Semua makalah yang akan dibahas melalui edisi yang berbeda akan dihubungkan dengan satu atau lain cara ke Machine Learning, Data Science, dan Neuroscience.
Edisi pertama ini akan fokus pada tiga makalah yang mencakup tema-tema berikut:
Apakah kata-kata dikodekan dalam aktivitas otak? Arsitektur pembelajaran mendalam baru untuk memecahkan kode ucapan dari rekaman EEG [1]. Bagaimana otak mengingat informasi? Arsitektur RNN meniru beberapa properti perekaman saraf selama pemanggilan kembali tugas informasi [2]. Bagaimana korelasi memengaruhi informasi yang terkandung dalam jaringan saraf? Sebuah studi kebisingan dan korelasi dalam rekaman otak menggunakan decoder mesin vektor dukungan [3].
Decoding pidato dari rekaman otak non-invasif — A. Defossez et al. [1]
Apakah kata-kata individu dikodekan dalam aktivitas otak? Penulis menggunakan rekaman M/EEG (non-invasif) yang digabungkan dengan arsitektur pembelajaran mendalam untuk melakukan klasifikasi data saraf tanpa sasaran. Model ini terdiri dari dua blok:
Model pengawasan mandiri yang telah dilatih sebelumnya yang mengekstrak representasi kontekstual dari sinyal ucapan Jaringan konvolusi yang memberikan representasi aktivitas otak
Gambar diadaptasi dari pracetak arXiv (tautan) [1]
Pelatihan arsitektur penuh ini dilakukan dengan menggunakan metode kerugian kontrastif. Jenis pembelajaran ini, yang disebut CLIP, mencoba mencocokkan representasi laten dalam dua modalitas yang berbeda, dalam hal ini, representasi ucapan dan representasi aktivitas otak. Untuk setiap sampel positif, N – 1 sampel negatif diambil sampelnya agar jaringan belajar memetakan probabilitas rendah ke sampel tersebut selama pelatihan. Hal ini menghasilkan augmentasi data karena alih-alih hanya meningkatkan probabilitas respons terhadap sampel yang benar, jaringan akan belajar mengurangi kemungkinan respons terhadap jawaban yang salah pada saat yang bersamaan.
Perlu dicatat bahwa penulis mencoba menggunakan fungsi biaya regresi tetapi menyebutkan bahwa [1]:
Kami beralasan bahwa regresi mungkin merupakan kerugian yang tidak efektif karena berangkat dari … mendekode ucapan dari aktivitas otak
Saya ingin membaca lebih banyak makalah penelitian yang menyebutkan langkah-langkah dalam pelatihan yang salah dan bagaimana mereka mengatasinya seperti ini!
Setelah pelatihan, jaringan mampu mencapai akurasi 72,5% yang mengesankan (dan akurasi 1 teratas 44%) pada sinyal MEG 3 detik saat menunjukkan rangkaian kata yang paling mungkin terkait dengan segmen aktivitas otak ini. Ini adalah perkembangan yang menarik di bidang AI dalam ilmu saraf karena membuka jalan menuju decoding bahasa secara real-time menggunakan rekaman otak non-invasif.
Sebuah model jaringan saraf berulang aktivitas otak prefrontal selama tugas memori kerja – E. Piwek et al. [2]
Bagaimana aktivitas otak diatur selama mengingat informasi? Rekaman terbaru dari kera [3] di korteks prefrontal lateral telah menunjukkan bahwa rangsangan diwakili dalam subruang saraf tegak lurus selama penundaan. Namun, setelah penyajian isyarat yang menunjukkan stimulus mana yang harus dipertimbangkan, representasi ini bergeser ke subruang umum di mana isyarat berada dalam bidang paralel.
Gambar diadaptasi dari pracetak bioRxiv (tautan) [2]
Dalam makalah ini, penulis menyelidiki apakah jaringan saraf berulang (RNN) dapat menunjukkan pergeseran representasi ini selama tugas mengingat. Jaringan dilatih dengan penurunan gradien stokastik pada fungsi biaya yang meminimalkan perbedaan antara aktivitas saraf dan jaringan serta kinerja dalam tugas. Ini diperlukan untuk memastikan bahwa jaringan tidak hanya mereproduksi dinamika tetapi juga menyelesaikan tugas.
Setelah pelatihan, RNN menyajikan geometri ortogonal (independen) sebelum penyajian isyarat (Panel b, gambar di atas). Ini memiliki kecenderungan untuk meminimalkan interferensi antara berbagai item yang disimpan dalam memori. Namun, selama interval post-cue, representasi dalam RNN bergeser ke arah subruang paralel dengan cara yang mirip dengan hasil eksperimen. Ini berguna karena mekanisme yang sama sekarang dapat digunakan untuk melakukan pembacaan informasi.
Penelitian ini menyoroti bagaimana sifat representasional yang berbeda dapat dipelajari oleh otak saat RNN mengembangkan geometri yang serupa dengan aktivitas saraf. Mencari transisi dalam geometri saraf dalam rekaman saraf selama pelatihan membuka pintu untuk memahami apakah pembelajaran biologis mengikuti prinsip yang mirip dengan pelatihan RNN.
Korelasi kebisingan dalam aktivitas ensemble saraf membatasi keakuratan representasi spasial hipokampus – O. Hazon et al. [4]
Neuron hipokampus diketahui mengkodekan posisi hewan atau subjek dalam suatu lingkungan. Namun, fitur yang melekat pada jaringan saraf biologis adalah adanya kebisingan dan variabilitas dalam aktivitas. Ini mengarah ke pertanyaan langsung tentang kapasitas pengkodean jaringan: Apakah korelasi kebisingan neuron berdampak pada penguraian kode posisi?
Memang, jika kebisingan tidak berkorelasi, maka dimungkinkan untuk meratakan semua dinamika semua neuron, dan kebisingan akan dirata-ratakan, yang mengarah ke decoding posisi yang akurat. Sebaliknya, dalam kasus korelasi kebisingan, respons neuron dapat memburuk saat melakukan rata-rata, sehingga menyebabkan decoding yang tidak akurat. Jadi pertanyaan tentang korelasi kebisingan antara unit dalam jaringan saraf diperlukan untuk menangkap efisiensi mereka dalam pengambilan informasi.
Para penulis menganalisis keakuratan representasi spasial hingga 500 neuron simultan pada tikus. Untuk mendapatkan pengaruh korelasi kebisingan pada akurasi decoding spasial, mereka membangun mesin vektor pendukung (SVM) untuk memperkirakan posisi menggunakan aktivitas saraf. Untuk mengukur efek korelasi noise pada decoding posisi, mereka membandingkan akurasi decoding SVM dengan aktivitas saraf percobaan yang diacak (tanpa korelasi noise) dan yang memiliki korelasi.
Gambar diadaptasi dari makalah Open Access (tautan) [4]
Mereka menunjukkan bahwa, dalam kasus korelasi kebisingan, kesalahan decoding mencapai kesalahan asimtotik (sekitar 5cm, Gambar di atas) tetapi tidak dalam kasus tidak ada korelasi. Jadi neuron hipokampus menunjukkan korelasi kebisingan yang membatasi informasi, dan itu terdiri dari fitur yang diperlukan untuk diperhitungkan ketika mengukur peningkatan informasi selama pembelajaran tugas.
Referensi
[1] Defossez, Alexandre, dkk. “Mendekode ucapan dari rekaman otak non-invasif.” pracetak arXiv arXiv:2208.12266 (2022).
[2] Piwek, Emilia P., Mark G. Stokes, dan Christopher P. Summerfield. “Model jaringan saraf berulang dari aktivitas otak prefrontal selama tugas memori kerja.” bioRxiv (2022).
[3] Panichello, Matthew F., dan Timothy J. Buschman. “Mekanisme bersama mendasari kontrol memori dan perhatian yang bekerja.” Alam 592.7855 (2021): 601–605.
[4] Hazon, Omer, dkk. “Korelasi kebisingan dalam aktivitas ensemble saraf membatasi keakuratan representasi spasial hipokampus.” Nature Communications 13.1 (2022): 1–13.
Jika Anda ingin saya meninjau makalah penelitian tertentu, jangan ragu untuk mengirimkannya kepada saya di [email protected] jadi saya bisa melihat apakah itu cocok untuk buletin ini.
Di persimpangan Ilmu Saraf, Ilmu Data, dan Pembelajaran Mesin — edisi #1 awalnya diterbitkan di Towards AI on Medium, di mana orang-orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.
Diterbitkan melalui Menuju AI
