Serangan rudal yang menewaskan 175 warga sipil di sebuah sekolah di Iran telah menimbulkan perdebatan mengenai risiko penggunaan teknologi AI untuk keperluan militer. Pada tanggal 28 Februari, sebuah rudal Tomahawk yang dikendalikan oleh AI menghancurkan sekolah dasar Shajareh Tayyebeh di Minab, Iran selatan. Lebih dari 100 anak di bawah usia 12 tahun termasuk di antara korban tewas. Investigasi awal oleh Pentagon menemukan bahwa ini merupakan kesalahan penargetan dari pihak AS karena sekolah tersebut sebelumnya berada di lokasi pangkalan angkatan laut Korps Garda Revolusi Iran namun sudah terpisah dengan pembangunan tembok pemisah. Citra satelit dari Amnesty International memperkuat temuan ini.
Kisah tragis ini menyoroti bagian gelap dari penggunaan AI dalam pengolahan data. Sistem Cerdas Maven yang dikembangkan oleh Palantir dan menggunakan model AI Claude dari Anthropic, digunakan dalam operasi tersebut. Maven menggabungkan berbagai jenis data untuk menghasilkan paket serangan udara secara real-time. Meskipun beberapa mantan pejabat militer AS menyalahkan kesalahan manusia atas serangan yang terjadi, banyak yang mengatakan bahwa masalahnya bukan pada AI itu sendiri. Data yang tidak diperbarui tepat waktu menjadi penyebab utama kesalahan yang terjadi.
Dengan serangkaian informasi penting ini, menjadi semakin jelas pentingnya pembaruan dan pengelolaan data yang akurat dalam penggunaan teknologi AI untuk kepentingan militer. Menekankan peran manusia dalam proses pengambilan keputusan akan membantu mencegah insiden serupa terjadi di masa depan. Tragedi ini memberikan pelajaran berharga bagi semua pihak yang terlibat dalam pengembangan dan penerapan teknologi AI di berbagai sektor, termasuk keamanan dan pertahanan.
