Terdapat kemungkinan lebih dari 10% AI dapat membunuh semua manusia. Hal itu dikatakan seorang peneliti keselamatan Anthropic, beberapa jam setelah seorang karyawan lain menyatakan mengundurkan diri karena khawatir bahwa laboratorium-laboratorium AI sedang mempertaruhkan nyawa manusia.
Memang muncul kekhawatiran di pihak-pihak yang berada di pusat pengembangan AI bahwa teknologi ini bisa lepas kendali dan menjadi ancaman bagi umat manusia, saat Anthropic dan OpenAI justru terus mengumpulkan pendanaan besar dan bersiap penawaran saham perdana (IPO).
Jacob Coxon, peneliti di Anthropic, menyatakan resign dari perusahaan. Coxon menyebutkan bahwa baik Anthropic maupun OpenAI tidak bertindak secara bertanggung jawab.
"Mereka berlomba-lomba menuju kecerdasan super yang mampu memperbaiki dirinya sendiri dan mempertaruhkan nyawa kita," ujar Coxon di X.
Peningkatan mandiri adalah gagasan sistem AI dapat memperbaiki diri sendiri tanpa banyak campur tangan manusia. Peningkatan mandiri rekursif, begitu biasanya disebut, saat ini memang belum mungkin dilakukan, tapi berbagai laboratorium AI bekerja keras mencapainya.
"Jangan remehkan kekuatan teknologi ini. Ini akan segera jadi sistem manusia super yang dapat meretas apa pun, merevolusi bidang apa pun dalam semalam, dan memperoleh kekuasaan serta sumber daya nyata. Kita semua telah menyaksikan kemajuan di setiap domain ini dan laju kemajuannya sama sekali tak melambat," kata Coxon.
Ia mengklaim orang-orang yang membangun AI sungguh-sungguh percaya bahwa teknologi ini bisa membunuh kita semua pada akhir dekade ini.
Komentar tersebut memancing respons dari Evan Hubinger, pimpinan ilmu keselarasan di Anthropic. Ia malah mengatakan pernyataan Coxon benar, tetapi Anthropic juga tak punya rencana apa pun menghadapi skenario ini.
"Jacob benar dalam hal ini, kami sungguh-sungguh percaya AI bisa membunuh semua manusia! Secara pribadi saya pikir probabilitasnya >10% dalam dekade berikutnya. Saya percaya Anthropic sedang berusaha melakukan yang terbaik, tetapi kami belum memiliki rencana untuk memecahkan masalah keselarasan pada AI dan belum berada di jalur yang jelas untuk mencapainya," tulis Hubinger di X.
AI yang Tak Terkendali
Bulan Juni, Anthropic dengan produk terkemuka seperti Claude, mencatat bahwa peningkatan mandiri rekursif secara penuh dapat meningkatkan risiko hilangnya kendali manusia atas sistem AI.
"Jika sistem mampu membangun penerusnya sendiri secara penuh, cara kita mengamankannya, memantaunya, dan membentuk perilakunya, semuanya akan menjadi jauh lebih penting," tulis Anthropic.
Kekhawatiran tentang AI yang lepas kendali bukan hal baru. CEO Tesla dan SpaceX, Elon Musk, memperingatkan selama beberapa tahun terakhir bahwa AI dapat menjadi ancaman bagi umat manusia. Peneliti dan akademisi terkemuka juga telah membunyikan alarm tentang perusahaan yang kehilangan kendali atas sistem AI mereka.
Kekhawatiran tersebut semakin meningkat setelah sebuah model milik OpenAI bertindak menyimpang pada bulan Juli lalu dan membobol Hugging Face, sebuah platform utama bagi para pengembang open-source.
Baca artikel detikinet, "Peneliti Anthropic: Ada Kemungkinan AI Bisa Musnahkan Manusia" selengkapnya https://inet.detik.com/cyberlife/d-8656109/peneliti-anthropic-ada-kemungkinan-ai-bisa-musnahkan-manusia.
Download Apps Detikcom Sekarang https://apps.detik.com/detik/
