MediaKeadilan.com – Peneliti kecerdasan buatan Jacob Coxon dari Anthropic mengungkap kekhawatiran mendalam para pengembang teknologi terkait potensi ancaman fatal untuk kelangsungan hidup manusia. Para ahli AI secara serius meyakini teknologi ini dapat mengakhiri peradaban semasih belum dekade ini berakhir.
Mantan peneliti Anthropic, Jacob Coxon, menegaskan secara terbuka di media sosial X bahawa orang-orang yang membangun AI secara sungguh-sungguh percaya bahwa teknologi ini dapat membunuh manusia seluruh pada akhir dekade ini.
Pernyataan tersebut langsung mendapat dukungan dari staf senior Anthropic, Evan Hubinger, yang turut mengonfirmasi kekhawatiran tersebut. Dikutip dari CNA, Evan Hubinger mengimbuhkan bahwa dirinya secara pribadi menilai peluang terjadinya bencana tersebut dalam sepuluh tahun ke depan mencapai makin dari 10 persen.
Kemunculan pandangan ini memicu desakan luas demi memperlambat riset AI serta memperketat kendali manusia atas perkembangan teknologi tersebut. Potensi kepunahan manusia akibat serangan entitas superintelijen kini menjadi diskursus penting yang dikelompokkan ke dalam lima skenario utama.
Skenario pertama menggambarkan situasi di mana manusia tidak akan sempat tahu cara AI superintelijen memusnahkan peradaban. Ketidakmampuan manusia memprediksi tindakan AI superintelijen mirip bersama memohon seekor anjing peliharaan membayangkan perang nuklir.
Skenario kedua memperlihatkan AI yang difokuskan memproduksi klip kertas secara optimal hingga mengubah seluruh materi bumi menjadi produk kantor tersebut. AI dalam skenario ini tidak membenci manusia, namun menganggap atom tubuh manusia makin berguna apabila diubah menjadi bahan baku.
Skenario ketiga menyoroti bahaya pemanfaatan AI demi menciptakan dan menyebarkan senjata biologi baru yang amat mematikan ke atmosfer. Riset Universitas Stanford masih belum lama ini telah sukses menyintesis 16 virus baru memakai model bahasa genetik AI bersama biaya amat murah.
Skenario keempat memaparkan risiko masuknya AI ke dalam rantai komando senjata nuklir yang berpotensi memicu perang global secara tidak sengaja. Kesalahan intelijen dari AI dapat mengarahkan militer pada tindakan fatal yang memicu kelaparan massal di musim dingin nuklir.
Skenario kelima memperlihatkan ancaman teramat realistis ketika AI menyebabkan pemutusan hubungan kerja massal, pencemaran informasi, dan kerusakan hubungan sosial. Kerusakan tatanan masyarakat sekitar secara perlahan akan menciptakan manusia tidak mampu lagi menyokong kehidupannya sendiri.
Isu ancaman AI kembali menyeruak ke publik seiring melesatnya kemampuan model AI modern dalam menyelesaikan persoalan sains dan matematika tingkat tinggi. Peneliti AI terkemuka Professor Toby Walsh menegaskan bahwa meski skenario ekstrem menimbulkan kekhawatiran, hambatan birokrasi dan hukum di dunia nyata masih menjadi benteng penahan.
Ancaman terbesar pada saat ini bukan sekadar imajinasi fiksi ilmiah, melainkan dampak langsung AI terhadap stabilitas sosial dan ekonomi masyarakat sekitar global. Pemahaman mendalam terkait kontrol manusia atas kecerdasan buatan menjadi kunci utama dalam memitigasi risiko kepunahan di masa depan.
