Slack telah menyedot data pengguna untuk melatih model AI tanpa meminta izin

 

Bagi organisasi, momok data internal yang digunakan untuk melatih model AI menimbulkan kekhawatiran serius seputar keamanan dan kepatuhan. Namun Slack tampaknya masih menyerap pesan, file, dan data untuk melatih fitur AI-nya di belakang layar. Lebih buruk lagi, pengguna secara otomatis ikut serta dalam pengaturan ini tanpa sepengetahuan atau persetujuan.

Pengungkapan ini, yang tersebar secara online minggu ini setelah seorang pengguna menyebutkannya di X/Twitter, membuat banyak orang kesal karena Slack tidak memperjelas hal ini sejak awal. Corey Quinn, seorang eksekutif di Duckbill Group, memulai keributan dengan postingan marah yang menanyakan "Maaf Slack, Anda melakukan apa-apa dengan DM pengguna, pesan, file, dll?"

Quinn mengacu pada kutipan dari Prinsip Privasi Slack yang berbunyi, "Untuk mengembangkan model AI/ML, sistem kami menganalisis Data Pelanggan (misalnya pesan, konten, dan file) yang dikirimkan ke Slack serta Informasi Lainnya (termasuk informasi penggunaan) sebagaimana didefinisikan dalam Kebijakan Privasi kami dan dalam perjanjian pelanggan Anda."

Slack dengan cepat merespons di postingan yang sama, mengonfirmasi bahwa mereka memang menggunakan konten pelanggan untuk melatih alat AI tertentu di aplikasi. Namun ada batasan – bahwa data tersebut tidak digunakan untuk penawaran AI premium mereka, yang mereka anggap sepenuhnya terisolasi dari informasi pengguna.

Namun, sebagian besar masih terkejut dengan fitur AI utama Slack yang mengandalkan akses terbuka ke percakapan dan file pribadi semua orang. Beberapa pengguna berargumentasi bahwa seharusnya ada peringatan yang jelas, sehingga orang dapat memilih untuk tidak ikut serta sebelum pengumpulan data dimulai.

Proses opt-outnya sendiri juga merepotkan. Individu tidak dapat memilih untuk tidak ikut serta; mereka memerlukan admin untuk seluruh organisasi untuk memintanya dengan mengirim email dengan baris subjek yang sangat spesifik, yang dapat Anda temukan di postingan di atas.

Beberapa orang yang keras mempertimbangkannya, melontarkan kritik. Meredith Whittaker, presiden aplikasi perpesanan pribadi Signal, memberikan komentarnya, dengan mengatakan "kami tidak mengumpulkan data Anda sejak awal, jadi kami tidak memiliki apa pun untuk 'ditambang' untuk 'AI'." Aduh.

Reaksi ini menyoroti meningkatnya ketegangan seputar AI dan privasi ketika perusahaan-perusahaan saling berupaya untuk mengembangkan perangkat lunak yang lebih cerdas.

Inkonsistensi dalam kebijakan Slack juga tidak membantu. Salah satu bagiannya mengatakan perusahaan tidak dapat mengakses konten yang mendasarinya saat mengembangkan model AI. Halaman lain yang memasarkan alat AI generatif premium Slack berbunyi, "Bekerja tanpa khawatir. Data Anda adalah data Anda. Kami tidak menggunakannya untuk melatih Slack AI. Semuanya berjalan pada infrastruktur Slack yang aman, memenuhi standar kepatuhan yang sama seperti Slack itu sendiri."

Namun, pengakuan penambangan data pengguna dalam "prinsip privasi" tampaknya bertentangan dengan pernyataan ini.

Di Threads, seorang insinyur Slack mencoba menjelaskan semuanya, dengan mengatakan bahwa aturan privasi "awalnya ditulis tentang pekerjaan pencarian/rekomendasi yang telah kami lakukan selama bertahun-tahun sebelum Slack AI," dan mengakui bahwa aturan tersebut memang memerlukan pembaruan.

Namun, masalah yang lebih besar jelas merupakan pendekatan opt-in-by-default. Meskipun umum terjadi di bidang teknologi, hal ini bertentangan dengan prinsip privasi data yang memberikan orang pilihan eksplisit mengenai bagaimana informasi mereka digunakan.