Ketua Pegawai Eksekutif Anthropic Gesa Syarikat Perlahankan Perkembangan AI

Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menggesa syarikat kecerdasan buatan (AI) memperlahankan peningkatan keupayaan model kerana sistem keselamatan tidak mampu mengimbangi perkembangan teknologi itu.

Amodei mengemukakan gesaan itu berikutan kebimbangan terhadap keupayaan sistem keselamatan untuk mengimbangi kemajuan AI, bukannya kebimbangan mengenai persaingan antara syarikat.

Beliau mencadangkan tiga langkah, iaitu penilaian bebas terhadap model AI, penyelarasan piawaian keselamatan antara syarikat serta kerjasama antarabangsa. Gesaan supaya perkembangan AI diperlahankan itu turut mendapat sokongan Sam Altman dan Elon Musk.

Dalam laporan ancaman terbaharunya, Anthropic menyatakan bahawa pelaku siber kini menggunakan AI bukan sekadar sebagai pembantu, tetapi juga untuk mengatur dan melaksanakan keseluruhan operasi serangan.

Menurut laporan itu, rangka kerja berbilang ejen membolehkan AI menjalankan siri tugasan secara autonomi dengan sedikit campur tangan manusia. Antara risiko yang dikemukakan ialah peningkatan kelajuan serangan siber pada kos yang jauh lebih rendah.

Anthropic turut melaporkan usaha yang dikaitkan dengan kempen Rusia dan beberapa makmal AI China untuk mendapatkan serta meniru keupayaan Claude. Dakwaan itu menjadi sebahagian daripada ancaman yang diketengahkan syarikat berkenaan dalam laporannya.

Selain ancaman siber, Anthropic mendakwa pihak yang berpangkalan di kawasan yang dikawal Houthi di Yaman cuba menggunakan Claude bagi pembangunan teknologi peluru berpandu. Menurut syarikat itu, cubaan berkenaan merangkumi penggunaan untuk simulasi dan perisian sistem panduan.

Anthropic menyatakan bahawa akaun berkenaan akhirnya disekat. Respons pihak berkenaan tidak dinyatakan dalam bahan yang diberikan.

Risiko yang dikemukakan Anthropic merangkumi penyalahgunaan AI dalam serangan siber serta pembangunan teknologi ketenteraan yang melibatkan keselamatan negara, bukan sekadar penghasilan kandungan berbahaya.