SELARAS.CO.ID — Google DeepMind resmi meluncurkan DeepMind Institute untuk membuka debat publik soal artificial general intelligence (AGI). Lembaga ini dipimpin Shane Legg, James Manyika, dan Demis Hassabis sebagai direktur, dengan Legg menjabat managing editor. Langkah ini menandai pergeseran diskusi keamanan AI dari pernyataan keprihatinan ke proposal kebijakan konkret.
Tujuan utamanya mempertemukan perbedaan pandangan antara Google, Google DeepMind, dan komunitas riset global soal AGI. "Mereka tidak akan selalu sepakat, dan kemungkinan akan mengubah pikiran mereka, seiring data dan informasi baru muncul di garis depan yang bergerak cepat," demikian bunyi pengumuman resmi institute tersebut.
Empat Esai Perdana yang Dirilis
Koleksi perdana institute ini berisi empat esai yang membahas isu berbeda. Topiknya mencakup kebijakan ekonomi untuk mengelola potensi gangguan AGI, upaya mempertahankan penalaran model yang bisa dibaca manusia, prinsip-prinsip kesejahteraan manusia, serta kerangka evaluasi model AI frontier.
Salah satu esai ditulis peneliti keamanan DeepMind, Rohin Shah dan Anca Dragan. Keduanya berargumen bahwa menyempitnya jendela transparansi AI bukan hal yang tak terhindarkan.
Peringatan soal Transparansi Model AI
Shah dan Dragan menyoroti kemampuan melihat serta memeriksa penalaran model langkah demi langkah yang makin sulit dilakukan. Arsitektur baru membuat model paling kuat kian sukar dipantau.
Mereka mendorong pengembang dan regulator menghadapi trade-off keamanan secara langsung. Caranya bisa dengan membatasi "opaque serial depth", yakni jumlah komputasi berurutan yang bisa dijalankan model tanpa menghasilkan jejak penalaran yang terbaca.
Alternatif lain, pengembang diwajibkan membuktikan bahwa sistem yang kurang transparan tetap bisa dipantau sebaik model sebelumnya.
Usulan Badan Standar AI Frontier ala Hassabis
Dalam esai lain, Hassabis mengusulkan badan standar AI frontier yang dipimpin Amerika Serikat untuk mengevaluasi model AI paling canggih. Lewat kerangka ini, pengembang awalnya menyerahkan model secara sukarela untuk ditinjau hingga 30 hari sebelum rilis.
Jika sistem evaluasi terbukti efektif, lulus pengujian bisa menjadi syarat untuk merilis model frontier di Amerika Serikat. Badan ini mula-mula menyusun asesmen bersama perusahaan AI.
Namun pada akhirnya badan tersebut mengembangkan evaluasi independen yang tidak diungkap, atau yang disebut esai itu sebagai uji "held-out". Tujuannya mencegah lab menyesuaikan model dengan evaluasi yang sudah diketahui.
Hassabis menyebut kerangka ini bisa "ditingkatkan jika situasinya menuntut", termasuk kemungkinan memperlambat pengembangan secara terkoordinasi antar pengembang AI frontier.
Konteks Debat Keamanan AI Global
Esai-esai ini terbit saat debat keamanan industri bergeser dari pernyataan keprihatinan umum ke proposal konkret. Isinya soal keterbukaan informasi, pengawasan pihak luar, hingga perlambatan terkoordinasi bila pengamanan tertinggal.
Pergeseran itu menguat setelah sejumlah pemimpin industri mendukung elemen seruan CEO Anthropic, Dario Amodei, untuk "memperlambat" pengembangan AI frontier. DeepMind Institute memposisikan diri sebagai ruang terbuka bagi perbedaan pendapat di dalam dan luar Google.
