Serangan rudal yang menewaskan 175 warga sipil di Iran telah menimbulkan pertanyaan tentang risiko penggunaan AI untuk kepentingan militer. Pada tanggal 28 Februari, sebuah rudal Tomahawk yang dikendalikan oleh AI menghancurkan sekolah dasar Shajareh Tayyebeh di Minab, Iran selatan, menewaskan lebih dari 100 anak-anak di bawah usia 12 tahun. Pendekatan awal oleh Pentagon menunjukkan bahwa ini adalah sebuah kesalahan penargetan AS. Sekolah tersebut dulunya berada di dekat pangkalan angkatan laut Korps Garda Revolusi Iran (IRGC), namun sebuah tembok telah dibangun untuk memisahkan kedua tempat tersebut. Citra satelit Amnesty International memvalidasi informasi tersebut.
Tragedi ini menyoroti dampak negatif dari penggunaan AI dalam mengelola data. Sistem Cerdas Maven, yang dikembangkan oleh Palantir dengan kontrak senilai $1,3 miliar dengan Pentagon, digunakan dalam serangan tersebut. Maven menggabungkan berbagai jenis data intelijen untuk mengklasifikasikan target dan menghasilkan paket serangan udara secara real-time. Namun, beberapa mantan pejabat militer AS berpendapat bahwa kesalahan manusia adalah penyebab terjadinya serangan tersebut. Mereka mengatakan bahwa data yang digunakan dalam sistem sudah kadaluwarsa dan tidak diperbarui dengan benar saat sekolah itu menggantikan pangkalan militer di lokasi tersebut.
Dmytro Matviyuk, seorang ahli drone yang berpengalaman dengan sistem otomatis serupa, berpendapat bahwa permasalahan terletak pada manajemen data manusia yang tidak tepat, bukan pada AI itu sendiri. Kejadian ini menjadi penanda penting tentang perlunya kehati-hatian dalam mengimplementasikan teknologi AI dalam konteks militer.
