Pakar kecerdasan buatan (AI) telah memperingatkan tentang risiko penyalahgunaan sistem AI yang semakin meningkat akibat persaingan sengit antara raksasa teknologi. Yoshua Bengio, pionir AI modern yang dijuluki “Godfather AI”, mengungkapkan kekhawatirannya terhadap perkembangan pesat teknologi ini, terutama dengan munculnya perusahaan startup DeepSeek dari Tiongkok yang menantang dominasi AS. Bengio menekankan perlunya fokus lebih besar pada aspek keamanan dan etika dalam pengembangan AI, serta memberikan peringatan bahwa perusahaan-perusahaan AS mungkin mulai mengesampingkan keamanan demi mempertahankan keunggulan mereka.
Dalam sebuah wawancara dengan The Guardian, Bengio menjelaskan bahwa persaingan ketat justru dapat memperburuk situasi keamanan AI. Jika ada satu pihak yang merasa lebih unggul, mereka cenderung lebih berhati-hati dalam pengembangan, tetapi jika dua pesaing berada pada tingkat yang sama, kedua belah pihak akan terpacu untuk mempercepat pengembangan tanpa mempertimbangkan faktor keamanan. Sebagai hasil dari kekhawatiran tersebut, Bengio bersama 96 pakar lainnya telah merilis sebuah laporan internasional mengenai keamanan AI, yang mencakup risiko potensial dalam penggunaa AI untuk serangan siber dan pengembangan senjata biologis.
Laporan tersebut menyoroti potensi untuk pembuatan ancaman biologis melalui penggunaan AI yang dapat melampaui pemahaman para ahli. Walaupun dampak teknologi ini terhadap masyarakat umum masih belum pasti, laporan tersebut menggarisbawahi manfaat AI dalam bidang medis sambil tetap menekankan risikonya. KTT global AI berikutnya dijadwalkan akan diselenggarakan pada bulan Februari mendatang di Paris.
