Apple telah mengumumkan rencana untuk memproses data AI dalam “cloud black box.” Sistem baru ini bertujuan untuk meningkatkan privasi pengguna secara signifikan dengan membuat data tidak dapat diakses bahkan oleh karyawan Apple.
“Kotak hitam awan” Apple untuk meningkatkan privasi
Secara tradisional, pengembangan AI melibatkan model pelatihan pada kumpulan data besar yang disimpan di cloud. Meskipun kumpulan data ini sering kali dianonimkan, kumpulan data tersebut dapat menyimpan sisa informasi yang, jika digabungkan dengan titik data lainnya, dapat mengungkap identitas pengguna. Misalnya, data lokasi dan preferensi musik pengguna dapat ditelusuri kembali ke pengguna tersebut.
Solusi “kotak hitam” yang diusulkan Apple melibatkan pembuatan kantong aman di dalam cloud khusus untuk memproses data AI. Secure Enclave, komponen perangkat keras dan perangkat lunak yang sudah ada di perangkat Apple seperti iPhone dan iPad, bertindak sebagai zona aman dalam prosesor perangkat, yang dirancang untuk mengisolasi data sensitif seperti sidik jari, data pengenalan wajah, dan kunci enkripsi.
Kantong pemrosesan cloud ini kemungkinan besar merupakan komponen perangkat keras khusus di dalam pusat data. Terpisah secara fisik dari infrastruktur cloud lainnya. Data untuk pelatihan model AI akan disimpan secara eksklusif di dalam kantong aman ini, sehingga memastikan bahwa peretas, atau siapa pun, tidak dapat mengakses informasi mentah pengguna.
Pakar privasi berbeda pendapat mengenai kotak hitam AI Apple
Meskipun proposal cloud black box dari Apple dapat menjadi terobosan dalam AI yang menjaga privasi, ada juga beberapa tantangan yang perlu dipertimbangkan. Salah satu kekhawatirannya adalah potensi dampak terhadap efisiensi pemrosesan AI. Proses enkripsi dan dekripsi dapat menambah overhead, sehingga berpotensi memperlambat pelatihan dan eksekusi model AI.
Tantangan lainnya adalah memastikan keamanan kunci enkripsi. Jika kunci-kunci ini dikompromikan, maka seluruh sistem dapat menjadi tidak efektif. Selain itu, beberapa orang berpendapat bahwa sistem yang sepenuhnya terenkripsi menghalangi identifikasi dan perbaikan kerentanan keamanan dalam model AI. Apple perlu mengatasi semua kekhawatiran ini untuk memastikan sistem data AI yang benar-benar aman.
Sumber: androidheadlines-com
