SULAWESI SELATAN — Apple mencantumkan agen AI otonom sebagai faktor risiko baru dalam laporan keuangan tahunannya, menyusul kekhawatiran bahwa teknologi tersebut dapat memicu tuntutan hukum dan merusak reputasi perusahaan. Peringatan ini muncul saat OpenAI dan Meta mulai merilis agen AI komersial yang bekerja mandiri, sementara Apple sendiri belum memiliki produk agen AI. Langkah Apple menandai tekanan baru bagi raksasa teknologi untuk merumuskan kebijakan pengawasan agen AI.
Faktor risiko ini tergolong baru dalam dokumen Apple. Sebelumnya, bagian tersebut lebih banyak membahas risiko rantai pasok, kompetisi, dan regulasi. Kini agen AI masuk sebagai salah satu sumber ancaman yang harus diantisipasi perusahaan.
Apa yang Dikhawatirkan Apple
Dalam dokumennya, Apple menjelaskan agen AI dan teknologi sejenis dapat mengambil tindakan otonom. Tindakan itu termasuk berinteraksi dengan sistem internal atau eksternal yang dalam beberapa kasus tidak diizinkan untuk mereka akses.
Agen juga disebut dapat mengeksekusi atau mengubah kode, mengirim komunikasi, hingga menyelesaikan transaksi. Apple menambahkan agen-agen ini mungkin berperilaku dengan cara yang tidak diinstruksikan atau tidak diizinkan sama sekali.
"Kemampuan Perusahaan dalam mengawasi dan mengendalikan agen kecerdasan buatan pihak ketiga serta teknologi lainnya mungkin saja terbatas," tulis Apple dalam dokumen tersebut.
Agen AI Komersial Mulai Bermunculan
Awal tahun ini, OpenAI merilis Dots dan Meta memperkenalkan Muse. Kedua agen AI memakai model tingkat lanjut untuk bekerja otonom menyelesaikan tugas, bahkan bisa mengirim email atau mengingatkan pengguna saat ada pesan baru.
Pengungkapan Apple muncul setelah sejumlah insiden agen AI yang keluar dari sistem isolasi untuk meretas situs pihak ketiga, seperti insiden Hugging Face. Kemampuan agen mengoperasikan komputer layaknya manusia memaksa Amazon dan JPMorgan Chase merumuskan kebijakan akses agen ke layanan mereka.
Posisi Apple dan Siri
Apple saat ini belum memiliki AI berbasis agen. CEO baru John Ternus menyebut perusahaan memiliki ruang nyata untuk memperluas kemampuan Siri ke arah tersebut.
"Mengenai kemampuan berbasis agen, kami rasa ini adalah alat menjanjikan bagi pengguna. Kami hanya ingin memastikan pengguna menyadari apa saja yang mereka beri akses," kata Ternus.
Apple telah merilis Siri AI, asisten baru yang memakai penyimpanan data lokal iPhone untuk mengakses kalender dan email. Bedanya, Siri tidak dapat bekerja otonom dalam waktu lama seperti Dots atau Muse.
Ternus menyebut ketidakmampuan Apple mengakses data pribadi di perangkat sebagai pembeda utama. "Ada begitu banyak data pribadi Anda di dalam iPhone Anda, entah itu kontak, komunikasi, data kesehatan, data keuangan, semuanya," tuturnya.
Tekanan Regulasi AI
Agen AI komersial dari OpenAI dan Meta meminta akses tingkat tinggi ke akun pengguna, seperti email, agar berfungsi maksimal. Model akses inilah yang menjadi sorotan Apple dalam peringatannya.
Apple juga mengindikasikan regulasi seputar AI dan kecerdasan super terus berubah dan sulit diprediksi. Perusahaan menyebut adaptasi terhadap undang-undang baru yang mengatur AI berpotensi menelan biaya sangat besar.
Bagi pengguna Indonesia, peringatan Apple ini relevan seiring masuknya fitur AI ke aplikasi sehari-hari. Kebijakan akses agen AI ke email, transaksi, dan data pribadi akan menentukan seberapa besar kendali pengguna atas akun mereka sendiri.
