0
0
CEO Anthropic Dario Amodei meminta perusahaan kecerdasan buatan memperlambat pengembangan model AI canggih. Seruan tersebut muncul ketika kemampuan AI berkembang semakin cepat, sementara sistem keamanan dinilai belum selalu mampu mengejar risiko penyalahgunaannya.
Amodei Dorong Pengembangan Lebih Hati-hati
Amodei mengatakan kemajuan AI tidak harus dihentikan sepenuhnya. Namun, menurutnya, industri perlu memberi waktu bagi mekanisme keselamatan untuk berkembang seiring meningkatnya kemampuan model.
Ia mengusulkan pendekatan yang lebih terukur agar pengembangan teknologi tidak hanya berfokus pada kemampuan baru. Pengawasan dan evaluasi keamanan perlu ditempatkan sebagai bagian penting dari proses pengembangan.
Penyalahgunaan AI Makin Beragam
Kekhawatiran tersebut mendapat perhatian setelah Anthropic mengungkap berbagai kasus penyalahgunaan Claude. Dalam laporan September 2026, perusahaan menyebut adanya upaya menggunakan AI untuk operasi siber, pengawasan, propaganda, penipuan, pengembangan senjata konvensional, hingga potensi penyalahgunaan biologis.
Anthropic mengatakan sejumlah aktivitas tersebut berhasil dihentikan dan akun yang terlibat diblokir. Namun, perusahaan juga mencatat bahwa pelaku terus mencari cara untuk melewati sistem pengamanan dan memanfaatkan kemampuan AI untuk aktivitas berbahaya.
Evaluator Independen Jadi Salah Satu Usulan
Amodei mengusulkan agar perusahaan AI frontier memiliki evaluator keselamatan independen yang dapat bekerja dari dalam perusahaan. Evaluator tersebut diharapkan memiliki akses yang cukup untuk menilai kemampuan model dan potensi risikonya sebelum teknologi diterapkan lebih luas.
Ia juga mendorong koordinasi standar keselamatan antarperusahaan AI. Dengan pendekatan tersebut, perlombaan teknologi tidak membuat perusahaan mengurangi perhatian terhadap pengujian keamanan demi mengejar kecepatan pengembangan.
Risiko Siber dan Otonomi AI
Perkembangan kemampuan AI dalam bidang pemrograman dan operasi siber menjadi salah satu perhatian utama. Sistem yang semakin mampu menjalankan tugas secara mandiri berpotensi memberikan kemampuan baru kepada pelaku kejahatan digital.
Amodei juga memperingatkan bahwa perkembangan kemampuan AI dapat bergerak lebih cepat daripada kesiapan manusia untuk mengendalikannya. Karena itu, tambahan waktu untuk memperkuat pengamanan dinilai dapat mengurangi risiko ketika model semakin canggih.
Persaingan Teknologi Tetap Berlanjut
Meski menyerukan perlambatan, Amodei tidak mengusulkan agar negara demokratis menghentikan pengembangan AI. Ia justru menilai keselamatan perlu berjalan bersamaan dengan persaingan teknologi, termasuk dalam menghadapi perkembangan AI di China.
Pandangan tersebut menunjukkan dilema yang semakin besar di industri AI. Perusahaan harus tetap berinovasi, tetapi pada saat yang sama perlu memastikan teknologi yang lebih kuat tidak memberikan peluang lebih besar bagi penyalahgunaan.
Industri AI Mulai Memikirkan Pengawasan
Seruan Amodei mendapat dukungan dari sejumlah tokoh industri. CEO OpenAI Sam Altman menyatakan dukungan terhadap penggunaan evaluator pihak ketiga, sementara Elon Musk juga menyambut gagasan tersebut.
Perdebatan mengenai kecepatan pengembangan AI kini tidak lagi hanya berkaitan dengan persaingan teknologi. Keamanan, pengawasan independen, dan kerja sama internasional mulai menjadi bagian penting dalam menentukan bagaimana teknologi AI akan dikembangkan ke depan.
