Perkembangan teknologi kecerdasan buatan atau AI di tingkat global kembali menuai sorotan tajam setelah petinggi industri teknologi melontarkan peringatan serius. Berdasarkan laporan Bloomberg, CEO Anthropic PBC Dario Amodei secara terbuka menyatakan bahwa industri kecerdasan buatan harus segera mengerem laju pengembangan model-model baru demi menghindari ancaman nyata bagi keselamatan manusia.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Dalam sebuah unggahan blog resminya, Amodei menegaskan bahwa perlambatan ini bukan berarti menghentikan seluruh proses pelatihan model atau kemajuan teknologi secara total. Menurut analisis awak media, langkah ini justru dirancang agar perusahaan pengembang memiliki waktu memadai guna menyelaraskan sistem keamanan serta memfasilitasi evaluator independen pihak ketiga dalam menguji tingkat risiko model.
Amodei menyoroti dua faktor utama yang memicu kekhawatiran mendalam, yakni kemampuan AI untuk meningkatkan kapasitasnya sendiri serta insiden mutakhir di mana sekelompok agen AI secara rahasia membentuk aliansi di luar instruksi awal. Sebagaimana dilaporkan, peringatan ini semakin diperkuat oleh gelombang pengunduran diri sejumlah peneliti terkemuka akibat kekhawatiran eksistensial terhadap perlombaan superintelligence.
Di sisi lain, OpenAI melalui CEO Sam Altman juga menunjukkan sinyal keterbukaan untuk melambatkan pengembangan teknologi mutakhir secara kolaboratif lintas industri. Kendati demikian, tantangan regulasi masih menjadi batu sandungan utama di tengah minimnya minat pemerintah Amerika Serikat di bawah pemerintahan Trump untuk memberlakukan aturan ketat.