Tren pemanfaatan AI bergeser dari generative ke agentic AI, meski menguntungkan penggunaannya masih perlu diatur karena berhubungan dengan data pelanggan.
Penulis: Nafisa Deana
Editor: Valda Kustarini
KBR, Jakarta – Beberapa tahun belakangan, orang-orang berbondong-bondong memanfaatkan kecerdasan buatan (AI) jenis generatif atau tipe AI yang mampu menghasilkan konten lewat perintah (prompt). Masyarakat menggunakan ChatGPT, Gemini, atau DeepSeek untuk riset, merangkum dokumen, bahkan membuat gambar.
Menurut catatan World Tren Index 2024 dari Microsoft dan Linkedin, di Indonesia 92% pekerja yang berfokus pada pemrosesan informasi telah memanfaatkan generative AI. Jumlah ini melampaui rata-rata global (75%) dan Asia Pasifik (83%).
Saat ini, tren AI telah memasuki fase baru, kecerdasan buatan dibuat lebih “mandiri”. Berbeda dengan generative AI, agentic AI memiliki sistem yang mampu mengambil tindakan (action), memiliki otonomi, dan tanpa perlu terus-menerus diintervensi manusia.
Pemanfaatan agentic AI mulai meluas, bukan hanya di perusahaan swasta teknologi namun berbagai subsektor keuangan pun mulai mengadaptasi agentic AI. Agentic AI berusaha menyelesaikan masalah-masalah yang berhubungan dengan layanan yang sering dikeluhkan oleh masyarakat.
Harapannya teknologi ini bakal meningkatkan produktivitas, hubungan dengan pelanggan, hingga menciptakan model bisnis baru.
Meski sudah banyak perusahaan maupun lembaga pemerintah yang penggunaan agentic AI, namun beberapa masih mengalami kendala.
Baca Juga:
Apakah AI Mampu Menjawab Tantangan Marketing?
AI sebagai Partner Auditor BPK
Urgensi transformasi digital di sektor data mendorong Badan Pemeriksa Keuangan (BPK) memanfaatkan agentic AI. BPK mengumpulkan data laporan keuangan milik berbagai institusi dan memasukan dalam database, kemudian menganalisisnya menggunakan program Big Data Analytics (BIDICS). Dasbor analitik interaktif milik BPK ini berfungsi membantu auditor untuk mengidentifikasi pola ketidakwajaran, anomali, atau potensi temuan dalam data sebelum BPK melakukan audit lapangan.
“BIDICS itu preliminary information. Jadi ketika di lapangan dia tinggal konfirmasi," kata Kepala Biro Teknologi Informasi BPK Pingky Dezar Zulkarnain.
Dalam acara Agentic Finance Conference 2025, Pingky mengungkapkan penerapan agentic AI di skala pemerintahan cukup menantang. Pasalnya, pengembangan AI erat kaitannya dengan berlangganan layanan cloud, terutama untuk skala data yang besar.
Dalam konteks swasta, perusahaan bisa menyewa cloud computing lewat pihak ketiga. Namun, BPK sebagai lembaga negara perlu mengamankan infrastruktur AI yang dikembangkan supaya data sensitif kategori rahasia negara aman dari kebocoran serta penyalahgunaan, terutama dari pihak yang tak berwenang.
Itu sebab, BPK membangun server, unit pemrosesan grafis (GPU), dan penyimpanannya di pusat data internal BPK, alias on premise. Aksesnya juga terisolasi, hanya dapat diakses oleh personel dengan izin tertentu. Upaya ini menjadi jalan keluar supaya BPK tidak menunda implementasi AI, tapi tetap menjaga keamanan infrastruknya.
"Biasanya untuk secure by design itu kita ketika membangun AI, kita bikin isolated environment. Jadi ketika ada model, katakanlah kita pakai VPS (virtual private server), kita limitasi koneksinya. Di on-premise juga sama, sekarang sudah bisa ya kita bangun LLM, tapi kita kerja lokal tanpa ada koneksi internet. Itu sudah sangat memungkinkan," jelas Pingky.
Personalisasi Layanan M-Banking dengan AI, Sebuah Model Bisnis Baru
Sektor layanan keuangan seperti Bank Mandiri memiliki kebutuhan lain jika terkait dengan AI. Bank himbara ini menggunakan agentic AI sebagai alat mempererat hubungan dengan jutaan nasabah. Dalam penggunaannya AI di bank Mandiri dikembangkan untuk tiga hal utama: menciptakan bisnis baru, mengoptimalkan biaya, dan mengelola risiko.
Department Head of Campaign Management & Analytics Bank Mandiri Brikson H. D. Barus mengatakan, salah satu contoh penerapan AI di Livin’ by Mandiri adalah aplikasi dapat menyesuaikan secara otomatis tampilan menu berdasarkan rekomendasi dan perilaku transaksi nasabah, sehingga tiap nasabah tampilannya akan berbeda satu sama lain.
“Mengambil keputusan, decision-decision itu menguras energi dan pikiran kita gitu ya. Jadi dengan personalisasi, kita dorong ke depan, oh ini orang butuhnya transfer, oh ini orang butuhnya top up e-money. Nah kita deliver dia ke depan," ujarnya.
Tak hanya itu, penggunaan AI diperluas ke kanal korporasi (Kopra) dan merchant (Livin Merchant) untuk membantu membangun ekosistem keuangan yang terhubung.
Namun, pemanfaatan ini tak lepas dari tantangan keamanan, sebagai langkah antisipasi Bank Mandiri menerapkan Zero Trust Framework, di mana setiap akses sistem harus diverifikasi berlapis mulai dari multi-factor authentication hingga pembatasan akses antar-divisi.
Tantangan lain adalah etika dari sistem AI. Brikson menegaskan, AI harus dipastikan tidak hanya menguntungkan segmen pelanggan tertentu. Hal ini bertujuan untuk menghindari adanya data bias, ketika AI cenderung mencari "the best of the best". Risikonya, hanya nasabah-nasabah tertentu saja yang mendapatkan promosi.
“Bias ini salah satu yang kami perhatikan, sehingga kita tidak hanya menyasar customer tertentu. Karena semua berhak diedukasi. Semua berhak mendapatkan promo yang tentu sesuai dengan profil dan behavior-nya," ujar Brikson.
Baca Juga:
Tren Curhat ke AI: Nyaman, Tapi Amankah buat Mental?
AI untuk Menambah Kualitas Layanan Asuransi
Di tengah tuntutan untuk melayani nasabah secara cepat adil, implementasi AI di industri asuransi dianggap jadi pilihan terbaik. Sebab, penggunaan AI dapat membantu perusahaan asuransi memilah dan memilih data secara efisien.
Director & COO, CMO & CHO AXA Insurance Edwin Sugianto mengatakan salah satu implementasi AI di perusahaannya adalah membantu memeriksa risiko banjir lewat integrasi dengan peta digital, tanpa perlu survei lapangan. Erwin juga menyebut dapat menyelesaikan masalah klaim lebih cepat.
"Misalnya ada penerbangan yang terlambat, kita ada koneksi ke flight delay, sehingga begitu ada penerbangan yang terlambat, langsung notifikasi. Anda sudah dapat settlement dari klaimnya. Jadi orang yang tadi mau kesel, jadi smile lagi," ucap Edwin.
Namun Edwin menekankan, data di industri asuransi kerap belum sesolid industri perbankan. Kendala ini berpotensi menciptakan kekeliruan ketika AI harus mengambil keputusan eligible atau tidaknya sebuah klaim.
"Apapun yang dikeluarkan, statement yang dikeluarkan oleh company, itu akan dipegang terus. Kalau klaimnya itu eligible, tapi kita punya AI, ngeluarinnya, wah ini tidak eligible, customer-nya udah komplain dulu, ujung-ujungnya somasi, legal action, jadi panjang gitu," ujar Edwin.
Selain persoalan data, Donny melihat transformasi budaya kerja dari para karyawan di dalam perusahaan tersebut sebagai tantangan. Dengan kehadiran AI, harapannya para karyawan bisa lebih fokus di pekerjaan yang bersifat analisis, sementara AI mengurus tugas-tugas administratif.
"Ini bisa mengembangkan kemampuan dari employee-nya untuk bisa menjadi seorang yang bisa melakukan analisa. Karena dengan analisa, dia tidak hanya ketika mengambil keputusan itu berdasarkan dari intuisi, tapi benar-benar ada datanya," sebut Donny.
Pemerintah Harus Membuat Aturan Khusus Penggunaan AI
Dalam jurnal The Role of Artificial Intelligence in Advancing Public Services: Opportunities and Ethical Challenges yang diterbitkan tahun 2025, terlepas dari infrastruktur atau sumber daya manusia sebagai pendukung penggunaan AI, salah satu yang harus jadi perhatian pemerintah adalah aturan yang jelas dan khusus mengatur soal penggunaan AI jika berkaitan dengan kerja-kerja layanan nasabah.
Regulasi dan kebijakan yang mengatur penggunaan AI harus dirumuskan berdasarkan prinsip-prinsip yang menjunjung kepentingan publik, mencegah potensi penyalahgunaan teknologi, dan memastikan bahwa AI berkontribusi dalam meningkatkan layanan publik tanpa menimbulkan dampak negatif bagi masyarakat.
Regulasi tidak boleh hanya berfokus pada aspek teknis, tetapi juga harus mempertimbangkan nilai-nilai sosial, etika, dan hak asasi manusia, agar penerapan AI tidak merugikan kelompok tertentu atau memperdalam ketimpangan yang sudah ada.
Selain itu, kebijakan yang efektif juga harus bersifat adaptif, mengingat perkembangan AI yang sangat cepat membutuhkan regulasi dinamis yang dapat menyesuaikan diri dengan perubahan teknologi.
Kolaborasi antara pemerintah, akademisi, dan sektor swasta juga merupakan faktor kunci dalam mengembangkan AI yang etis dan transparan. Mengingat kompleksitas teknologi AI, pemerintah tidak dapat bekerja sendiri dalam merancang regulasi dan kebijakan yang efektif.
Pemerintah perlu mengembangkan pedoman teknis yang mengatur bagaimana AI dapat digunakan dengan aman, termasuk dalam hal pengelolaan data, pengambilan keputusan otomatis, dan transparansi algoritma yang digunakan. Salah satu tantangan utama dalam hal ini adalah bagaimana memastikan bahwa algoritma AI tidak mengandung bias yang dapat merugikan kelompok tertentu dalam masyarakat.
Dengan menerapkan strategi kebijakan yang holistik berdasarkan prinsip-prinsip etika, AI dapat menjadi alat yang membawa manfaat besar bagi layanan publik tanpa mengorbankan nilai-nilai sosial yang fundamental.
Baca Juga:
- Korban Bullying Meninggal di Grobogan, Kasus Berulang yang Perlu Pendekatan Holistik
- Menteri Agama Bilang Kekerasan Seksual di Pesantren Dibesar-besarkan Media, Faktanya?
