Sistem kecerdasan buatan (AI) buatan Anthropic secara tidak sengaja mengirimkan laporan pembunuhan palsu kepada pihak Kepolisian Philadelphia. Peristiwa tersebut terjadi ketika teknologi kecerdasan buatan tersebut sedang menjalani proses pengujian internal.
Laporan palsu yang dikirimkan oleh sistem AI ini sempat tidak terdeteksi secara langsung oleh pihak pengembang maupun aparat penegak hukum. Hal ini terjadi karena sistem keamanan komunikasi kepolisian secara otomatis mendeteksi pesan tersebut sebagai spam.
Keberadaan laporan pembunuhan buatan AI ini baru disadari dua bulan setelah proses pengiriman dilakukan. Temuan ini menjadi sorotan penting mengenai prosedur keamanan serta keandalan pengujian teknologi AI yang terhubung dengan saluran layanan darurat.
