Demis Hassabis, CEO Google DeepMind, mengajukan proposal agar industri kecerdasan buatan di Amerika Serikat menerapkan regulasi mandiri dengan dukungan pemerintah. Langkah ini dimaksudkan sebagai fondasi awal bagi pembentukan standar internasional yang lebih luas, dengan penekanan khusus pada pengembangan artificial general intelligence serta aspek keamanan nasional.
Dalam tulisannya, Hassabis menekankan perlunya pendekatan pengujian yang dinamis dan ketat terhadap model AI mutakhir. Ia menyarankan pembentukan lembaga standar baru berbentuk kemitraan publik-swasta yang diawasi federal, serupa dengan model Financial Industry Regulatory Authority. Lembaga tersebut akan melibatkan pakar teknis independen serta perwakilan komunitas open-source dalam dewan pengawasnya.
Pendanaan lembaga ini diharapkan berasal dari kontribusi industri agar mampu menarik talenta kelas dunia dan menyediakan sumber daya komputasi yang memadai. Selain itu, peserta diharapkan menerapkan praktik terbaik seperti publikasi model card, penguatan keamanan siber internal, serta alokasi sumber daya yang cukup untuk penelitian keselamatan.
Proposal ini muncul di tengah kekhawatiran yang semakin meningkat terhadap risiko AGI, yang sebelumnya telah disuarakan Hassabis dalam berbagai kesempatan. DeepMind sendiri telah berpartisipasi dalam inisiatif pemerintah AS untuk mengevaluasi keamanan AI bersama beberapa perusahaan teknologi lainnya.
Meski demikian, sejumlah analis mengungkapkan keraguan terhadap efektivitas model regulasi mandiri. Mereka menilai bahwa kepentingan komersial berpotensi mendominasi proses penyusunan aturan, sehingga mengurangi fokus pada kepentingan publik secara luas. Selain itu, penekanan pada keamanan nasional AS dapat menimbulkan persepsi bahwa lembaga tersebut lebih berfungsi sebagai instrumen strategi nasional daripada mekanisme netral.
Dari perspektif global, inisiatif ini juga berisiko memperlebar kesenjangan standar antara negara maju dan berkembang. Negara-negara di luar AS mungkin enggan mengadopsi kerangka kerja yang dirancang tanpa partisipasi setara, sehingga menghambat harmonisasi regulasi internasional yang lebih inklusif.
Di sisi lain, pendukung proposal berpendapat bahwa model serupa pernah berhasil diterapkan di industri nuklir melalui institusi seperti INPO, di mana semua pelaku industri berbagi risiko bencana yang sama. Penerapan pendekatan ini pada AI dapat mengubah risiko yang sulit diukur menjadi standar yang dapat diaudit, memberikan kepastian bagi perusahaan yang mengadopsi teknologi tersebut.
Selain itu, kecepatan inovasi AI yang sangat tinggi membuat regulasi negara yang lambat berpotensi tertinggal. Standar industri yang cepat terbentuk, meskipun tidak sempurna, dapat menjadi alternatif lebih baik dibandingkan ketiadaan aturan atau fragmentasi regulasi di tingkat negara bagian.
Secara keseluruhan, proposal Hassabis mencerminkan upaya menyeimbangkan antara dorongan inovasi dan kebutuhan mitigasi risiko, sekaligus menyoroti tantangan kompleks dalam membangun tata kelola AI yang efektif di tingkat global.
