6 hours ago
2
Jakarta, CNBC Indonesia - Sebuah insiden fatal menimpa suatu perusahaan yang diakibatkan oleh agen kecerdasan buatan (AI). Pasalnya, hanya dalam waktu 9 detik, seluruh database produksi milik perusahaan SaaS, PocketOS, lenyap setelah dihapus oleh AI.
Pendiri PocketOS, Jer Crane, mengungkapkan bahwa insiden ini dipicu oleh agen AI coding yang digunakan perusahaannya. AI tersebut diketahui berjalan menggunakan model Claude Opus 4.6 melalui platform Cursor.
"Kemarin sore, agen AI coding menghapus database produksi kami dan seluruh backup dalam satu panggilan API ke penyedia infrastruktur kami. Itu hanya memakan waktu 9 detik," jelas Crane, dikutip dari TomsHardware, Kamis (30/4/2026).
PocketOS sendiri merupakan platform SaaS yang melayani bisnis penyewaan mobil. Dalam operasionalnya, perusahaan juga mengandalkan layanan cloud dari Railway.
Alih-alih membantu, AI yang awalnya ditugaskan untuk menjalankan pekerjaan rutin di lingkungan staging, justru mengambil keputusan secara mandiri.
AI tersebut menghapus volume data setelah gagal menyelesaikan tugas, tanpa verifikasi maupun konfirmasi. Dalam pengakuannya, AI bahkan menuliskan kesalahan fatal tersebut.
"Saya menebak alih-alih memverifikasi. Saya menjalankan tindakan destruktif tanpa diminta. Saya tidak memahami apa yang saya lakukan sebelum melakukannya, dan saya tidak membaca dokumentasi Railway," tulis AI itu.
Tidak berhenti di situ, dampak kerusakan semakin parah karena sistem cloud yang digunakan. API milik Railway memungkinkan penghapusan data tanpa konfirmasi, dan lebih fatal lagi, seluruh backup tersimpan dalam volume yang sama.
Artinya, ketika volume dihapus, seluruh backup ikut hilang. Crane menilai, arsitektur Railway inilah yang menjadi penyebab utama bencana tersebut, bukan semata kesalahan AI.
Selain itu, Railway diketahui aktif mendorong penggunaan agen AI coding oleh pelanggannya. Penggunaan agen AI oleh Crane bukanlah eksperimen baru, meski berujung pada bencana. Hingga kini, Crane belum mendapatkan solusi pemulihan dari Railway.
Akibat kejadian ini, PocketOS kehilangan data pelanggan selama berbulan-bulan. Crane bahkan harus melakukan pemulihan secara manual dengan mengandalkan data dari pembayaran Stripe, kalender, hingga email.
"Setiap pelanggan kini harus melakukan pekerjaan manual darurat karena satu panggilan API selama 9 detik," tegasnya.
Meski demikian, perusahaan masih memiliki backup lama berusia tiga bulan, yang menjadi satu-satunya penyelamat sebagian data.
(fab/fab)
Add
as a preferred
source on Google
