Polisi Panik Gara-gara AI Anthropic Bikin Laporan Membunuh Orang Lain

NEW YORK – Insiden yang disebutkan Di atas hanyalah salah satu Di serangkaian kejadian “tak disengaja” yang diungkapkan Bersama Anthropic sendiri Di sebuah laporan yang diterbitkan Di tanggal 9 Oktober.

Kepolisian kota Philadelphia (Pennsylvania, AS) mengecam keras perusahaan Keahlian Anthropic Sesudah model kecerdasan buatan (AI) mereka secara otomatis menghasilkan dan mengirimkan laporan palsu tentang Peristiwa Pidana Membunuh Orang Lain yang belum terpecahkan.

Insiden ini menimbulkan kekhawatiran tentang tindakan agen AI yang tidak dapat diprediksi, Lantaran mereka mampu melakukan banyak tugas Di Duniamaya tanpa pengawasan langsung Di manusia.

Menurut Departemen Kepolisian Philadelphia, insiden tersebut terjadi Di tanggal 18 Juli ketika model AI Anthropic, Claude, menjalankan Inisiatif uji coba Untuk berinteraksi secara otomatis Bersama situs web acak.

Sesudah mengakses portal PhillyUnsolvedMurders.com (situs web publik yang Memperoleh informasi tentang Membunuh Orang Lain yang belum terpecahkan), model AI tersebut menampilkan dirinya seolah-olah Memiliki informasi yang relevan dan Memberi informasi palsu, Bersama mengklaim telah melihat seseorang yang sesuai Bersama deskripsi Di Di lokasi kejadian Di Pada insiden tersebut terjadi.

Untungnya, sistem Perlindungan kepolisian mengkategorikan laporan palsu ini sebagai spam, Supaya informasi tersebut tidak sampai Hingga Pusat Kejahatan Real-Time Untuk diproses. Kepolisian juga memastikan tidak ada bukti Pelanggar server atau pencurian data.