Ketakutan akan potensi AI yang dapat membahayakan nyawa manusia ini bukan tanpa alasan. Para ahli menilai bahwa tanpa adanya regulasi dan kontrol yang ketat, model AI yang terlampau kuat bisa sulit dikendalikan oleh penciptanya sendiri.
Seruan untuk Memperlambat Pengembangan AI
Melihat risiko besar tersebut, gelombang desakan agar industri memperlambat laju pengembangan AI semakin menguat. Banyak peneliti menyerukan agar perusahaan-perusahaan teknologi memprioritaskan aspek keselamatan sebelum meluncurkan model yang lebih kuat ke publik.
Komersialisasi melalui persiapan IPO dinilai turut meningkatkan tekanan persaingan antara OpenAI dan Anthropic. Hal ini dikhawatirkan membuat aspek keamanan dan pengujian etika AI terabaikan demi mengejar keuntungan pasar dan dominasi industri.
