Hati-hati Terima Notifikasi iPhone Bawa Petaka Besar

9 hours ago 1

Jakarta, CNBC Indonesia - Fitur kecerdasan buatan di iPhone yang dinamai 'Apple Intelligence' memberikan peringatan berita palsu, sehingga memicu kekhawatiran tentang kemampuan teknologi tersebut dalam menyebarkan informasi sesat.

Salah satu fitur Apple Intelligence adalah merangkum notifikasi berita untuk pengguna. Fitur itu lalu mengeluarkan ringkasan notifikasi aplikasi BBC News yang tidak akurat terkait semifinal Kejuaraan Dart Dunia PDC.

Dalam notifikasi itu, sistem AI Apple secara keliru mengklaim pemain dart Inggris Luke Littler telah memenangkan kejuaraan. Insiden itu terjadi sehari sebelum final turnamen sebenarnya, yang dimenangkan Littler.

Kemudian, hanya beberapa jam setelah insiden itu, pemberitahuan terpisah yang dihasilkan oleh Apple Intelligence secara keliru mengklaim bahwa legenda tenis Rafael Nadal telah mengaku sebagai gay.

BBC telah mencoba selama sekitar satu bulan agar Apple memperbaiki masalah tersebut. Stasiun penyiaran negara bagian Inggris itu mengajukan keluhan kepada Apple pada Desember lalu.

Kala itu, fitur AI Apple menghasilkan berita utama palsu yang menyatakan bahwa Luigi Mangione, pria yang ditangkap setelah pembunuhan CEO perusahaan asuransi kesehatan UnitedHealthcare Brian Thompson di New York, telah menembak dirinya sendiri. Padahal, kejadian ini tidak pernah ada.

Apple tidak dapat dihubungi untuk dimintai komentar ketika dihubungi oleh CNBC International. Pada Senin (6/1) lalu, Apple mengatakan kepada BBC bahwa mereka sedang mengerjakan pembaruan untuk menyelesaikan masalah dengan menambahkan klarifikasi yang menunjukkan kapan Apple Intelligence bertanggung jawab atas teks yang ditampilkan dalam notifikasi. Saat ini, notifikasi berita yang dihasilkan muncul langsung dari sumbernya.

"Fitur-fitur Apple Intelligence masih dalam versi beta dan kami terus melakukan perbaikan dengan bantuan umpan balik pengguna," kata perusahaan itu dalam sebuah pernyataan yang dibagikan kepada BBC, dikutip dari CNBC International, Kamis (9/1/2025).

Apple menambahkan bahwa pihaknya mendorong pengguna untuk melaporkan kekhawatiran jika mereka melihat "ringkasan pemberitahuan tak terduga."

BBC bukan satu-satunya organisasi berita yang terpengaruh oleh Apple Intelligence yang merangkum pemberitahuan berita secara tidak akurat. Pada November lalu, fitur tersebut mengirimkan pemberitahuan yang diringkas oleh AI yang secara keliru mengklaim bahwa Perdana Menteri Israel Benjamin Netanyahu telah ditangkap.

Kesalahan tersebut ditandai di aplikasi media sosial Bluesky oleh Ken Schwencke, editor senior di situs jurnalisme investigatif ProPublica.

CNBC International telah menghubungi BBC dan The New York Times untuk memberikan komentar mengenai usulan solusi Apple terhadap masalah misinformasi pada fitur AI-nya.

Masalah Misinformasi AI

Sebelumnya, Apple memuji ringkasan notifikasi yang dihasilkan AI sebagai cara efektif untuk mengelompokkan dan menulis ulang pratinjau notifikasi aplikasi berita menjadi satu peringatan di layar kunci pengguna.

Ini adalah fitur yang menurut Apple dirancang untuk membantu pengguna memindai notifikasi mereka untuk mengetahui detil penting dan mengurangi rentetan pembaruan yang banyak diketahui oleh banyak pengguna smartphone.

Namun, para pakar menyebut AI saat ini masih sering mengalami 'halusinasi', yakni merespons perintah dengan jawaban berisi informasi palsu atau menyesatkan.

"Saya menduga Apple tidak akan sendirian dalam menghadapi tantangan dengan konten yang dihasilkan AI. Kami telah melihat banyak contoh layanan AI yang dengan percaya diri mengatakan kebohongan, yang disebut 'halusinasi'," kata Ben Wood, kepala analis di firma riset pasar yang berfokus pada teknologi CCS Insights.

Dalam kasus Apple, karena AI mencoba menggabungkan notifikasi dan menyingkatnya agar hanya menampilkan ringkasan informasi dasar, AI menggabungkan kata-kata tersebut sedemikian rupa sehingga tidak secara akurat mengkarakterisasi peristiwa tersebut. Sayangnya, AI menyajikannya seakan-akan sesuai fakta.

"Apple mempunyai kerumitan tambahan dalam mencoba memampatkan konten menjadi ringkasan yang sangat singkat, yang akhirnya memberikan pesan yang salah," kata Wood.

"Apple pasti akan berusaha mengatasi hal ini sesegera mungkin, dan saya yakin para pesaingnya akan mengawasi dengan cermat untuk melihat bagaimana responsnya," ia menambahkan.

Sebagai informasi, AI-generatif bekerja dengan mencoba menemukan jawaban terbaik atas pertanyaan atau perintah yang dimasukkan oleh pengguna, dengan mengandalkan sejumlah besar data yang digunakan untuk melatih model bahasa besar (LLM) yang mendasarinya.

Terkadang AI mungkin tidak keliru dalam memberikan penjelasan. Namun karena telah diprogram untuk selalu memberikan respons terhadap permintaan pengguna, hal ini dapat menyebabkan AI berada di posisi halusinasi.

Tidak jelas kapan penyelesaian Apple terhadap bug dalam fitur ringkasan notifikasi akan diperbaiki. Namun, hal ini bisa berdampak petaka, sebab berpotensi menggiring opini yang salah.

(fab/fab)

Saksikan video di bawah ini: