AI, Kepercayaan, dan Mereka yang Kurang Terlayani - Wawancara dengan Paula Grieco, SVP di Commonwealth

Paula Grieco adalah Wakil Presiden Senior di Commonwealth.

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh para eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

Kecerdasan buatan finansial masih punya perjalanan panjang — tidak hanya dari segi kecepatan, akurasi, atau bahkan regulasi, tetapi juga dalam cara ia menghasilkan kepercayaan. Terutama dari mereka yang secara tradisional belum menjadi yang pertama antre saat teknologi baru diluncurkan.

Di FinTech Weekly, kami telah mengikuti karya Commonwealth, sebuah organisasi nirlaba yang berfokus pada pembangunan keamanan finansial bagi rumah tangga berpenghasilan rendah dan menengah (LMI). Pekerjaan lapangan mereka, yang dibahas dalam editorial terbaru kami, mengungkap ketegangan yang jelas: sementara pengguna LMI terbuka pada alat seperti chatbot, mereka masih menunggu pengalaman yang benar-benar melayani mereka — bukan sekadar fitur yang dibungkus ulang yang dibuat untuk orang lain.

Pekan ini, kami menggali lebih dalam.

Kami berbicara dengan Paula Grieco, Wakil Presiden Senior di Commonwealth, untuk memahami apa yang benar-benar dibutuhkan agar AI efektif — dan aman — bagi komunitas yang kurang terlayani. Dari prinsip desain hingga kepercayaan yang diperoleh, dari co-pilot hingga kelelahan chatbot, ia menjelaskan mengapa niat lebih penting daripada inovasi semata.

Ini adalah pandangan yang berakar dan penuh pertimbangan tentang seperti apa — dan seharusnya — teknologi finansial inklusif terlihat.

Baca wawancara lengkapnya di bawah ini.

2.  Kolaborasi terbaru Commonwealth dengan JPMorganChase memberikan wawasan kunci mengenai peran AI dalam meningkatkan keamanan finansial bagi rumah tangga LMI. Temuan apa yang paling mengejutkan atau paling berdampak dari penelitian ini?

Penelitian kami menyoroti potensi besar AI, khususnya chatbot, untuk memberikan panduan dan dukungan yang dipersonalisasi kepada komunitas yang hidup dengan penghasilan lebih rendah —  jika chatbot dirancang dengan saksama dengan mempertimbangkan kebutuhan dan perspektif kelompok ini.

Dua temuan utama:

*   Para pelanggan sebagian besar memandang chatbot sebagai alat positif untuk meningkatkan kesejahteraan finansial mereka. Data kami menunjukkan bahwa 57% responden mengatakan bahwa menggunakan chatbot meningkatkan situasi keuangan mereka. Penelitian ini juga menunjukkan bahwa orang dengan penghasilan rendah hingga menengah (LMI) menginginkan fitur pembentukan kredit, penganggaran, dan manajemen utang.

*   Responden menghargai adanya ruang tanpa penilaian dengan chatbot untuk mengajukan pertanyaan finansial yang sensitif tanpa perlu khawatir tentang rasa malu atau rasa tidak nyaman yang mungkin menyertai percakapan yang sama bila terjadi tatap muka dengan perwakilan manusia.

3.  Bagaimana Anda melihat perkembangan conversational AI di ruang layanan keuangan, khususnya bagi komunitas yang kurang terlayani?

Idealnya, generasi berikutnya chatbot yang didukung AI generatif akan menjadi asisten keuangan AI yang lebih baik untuk mendukung aktivitas finansial rumah tangga ini, serta memperoleh kepercayaan dari populasi yang sering berhati-hati terhadap keterlibatan dengan sistem keuangan dan terhadap berbagi data online. Ada peluang besar bagi penyedia layanan keuangan untuk menyediakan kapabilitas yang lebih kompleks, bernuansa, dan berorientasi tindakan bagi chatbot mereka.

Saat pelanggan menggunakan chatbot keuangan sekarang, mereka terutama mencari informasi akun atau mencoba menyelesaikan masalah. Kurang dari 20% responden survei nasional kami pernah menggunakan chatbot untuk nasihat dan edukasi keuangan, rekomendasi produk, mengajukan kredit atau pinjaman, serta membuka atau menutup akun. Namun, penelitian kami menemukan adanya permintaan untuk chatbot yang dapat membantu dengan jenis tindakan perbankan tersebut. Memfokuskan pada jenis fitur ini saat mengembangkan chatbot dapat meningkatkan penggunaan dan kegunaannya di kalangan pelanggan tersebut.

Bagi bank dan institusi keuangan yang belum siap meluncurkan co-pilot keuangan berbasis AI generatif langsung kepada konsumen, teknologi ini dapat mendukung karyawan bank seperti perwakilan pelanggan untuk memberikan respons yang lebih baik, lebih akurat, dan lebih tepat waktu kepada pelanggan selama interaksi.

4.  Apa saja tantangan terbesar dalam memastikan alat keuangan berbasis AI yang adil dan efektif bagi rumah tangga yang dipimpin oleh Black, Latinx, dan perempuan?

Dengan semua teknologi yang muncul, perlu adanya upaya yang disengaja untuk memastikan kebutuhan mereka yang berpenghasilan rendah hingga menengah termasuk dalam proses pengembangan dan keputusan desain. Kami telah menemukan bahwa kemitraan privat/filantropis dengan institusi keuangan sejak awal membantu membangun momentum untuk upaya-upaya ini. Dengan memperluas basis bukti, kami juga membantu membangun landasan bisnis.

Kami telah melihat potensi yang signifikan untuk panduan desain mengenai hal-hal seperti peningkatan kepercayaan yang diperoleh yang dapat memungkinkan conversational AI mendukung kesehatan finansial tanpa peningkatan biaya yang besar.

5.  Berdasarkan penelitian Anda, prinsip-prinsip desain utama apa yang sebaiknya dipertimbangkan penyedia layanan keuangan saat mengintegrasikan AI untuk mendukung pengguna LMI?

Commonwealth telah membuat sebuah sumber daya, Financial AI for Good Guide, untuk memberikan panduan desain yang dapat ditindaklanjuti bagi penyedia layanan keuangan yang melayani populasi LMI. Kami menyusun rekomendasi ini berdasarkan riset komprehensif bersama institusi keuangan, penyedia chatbot, dan orang yang tinggal di LMI.

Panduan ini disusun berdasarkan empat tujuan desain utama. Saya akan memberi Anda satu atau dua contoh untuk masing-masing:

2.  Earn trust: Kekhawatiran utama di antara mayoritas responden penelitian kami saat menggunakan chatbot adalah keamanan. Di sinilah institusi keuangan dapat menekankan keamanan data melalui pesan awal tentang langkah-langkah yang diambil bank serta memberi pengguna kendali atas data apa yang disimpan.
4.  Drive engagement: Jadikan pengalaman sebagai sesuatu yang membuat pengguna tahu apa yang alat-alat ini bisa lakukan untuk mereka dan kapan. Lakukan dengan menciptakan kejelasan tentang fungsinya. Selain itu, kejar “proaktivitas cerdas.” Misalnya, integrasikan chatbot yang muncul saat paling berguna, tanpa terlalu memaksa atau agresif, yang bisa terkesan seperti spam.
6.  Increase value: Antisipasi kebutuhan pelanggan Anda. Akses yang terbatas ke cabang fisik menciptakan peluang bagi chatbot untuk menyelesaikan tindakan kecil yang mungkin selama ini harus dilakukan pelanggan di bank. Seimbangkan otomatisasi dan kendali dengan memungkinkan pengguna menyalakan dan mematikan fitur keuangan otomatis, serta sertakan fitur “safety net” yang menghentikan pergerakan uang otomatis jika saldo jatuh di bawah ambang batas tertentu.
8.  Improve accessibility: Sediakan dukungan multi-bahasa dan panduan yang disesuaikan dengan basis pelanggan Anda serta fokus pada fitur yang ramah seluler. Penelitian kami menunjukkan bahwa lebih dari setengah responden lebih memilih mengakses layanan perbankan mereka melalui ponsel mereka.

6.  Bisakah Anda membagikan kisah sukses atau studi kasus apa pun di mana conversational AI secara signifikan meningkatkan kesejahteraan finansial bagi individu LMI?

Apa yang kami ketahui adalah bahwa 57% pengguna dalam studi uji lapangan kami menunjukkan bahwa menggunakan chatbot keuangan berdampak positif pada situasi keuangan mereka. Meskipun hasil awal ini menjanjikan, alat AI generatif masih berada pada tahap awal, dan penelitian berkelanjutan kami akan terus membangun basis bukti tentang efektivitasnya dalam meningkatkan kesejahteraan finansial individu LMI.

7.  Risiko atau konsekuensi yang tidak diinginkan apa yang sebaiknya diperhatikan institusi keuangan saat menerapkan alat keuangan berbasis AI?

Yang penting adalah bahwa orang yang berpenghasilan LMI tidak dibiarkan di luar persamaan. Saat institusi keuangan mengembangkan alat, penting agar mereka memahami peluang yang melekat serta cara untuk melayani basis pelanggan LMI.

Ada banyak lembaga yang berfokus secara khusus pada risiko dan konsekuensi yang melekat dari alat berbasis AI, serta bias dan akurasi model bahasa besar. Di luar itu, kami ingin memastikan bahwa kekhawatiran utama ditangani: relevansi rekomendasi keuangan bagi situasi finansial individual pengguna. Institusi keuangan dapat meningkatkan keterlibatan pelanggan dan memperoleh kepercayaan mereka dengan memastikan bahwa informasi yang mereka berikan akurat dan ada transparansi yang nyata.

AI menghadirkan peluang yang belum pernah ada sebelumnya bagi orang yang berpenghasilan LMI untuk mengakses nasihat dan alat yang sebelumnya tidak tersedia bagi mereka, baik itu alat investasi atau manajemen keuangan pribadi. Alat-alat ini dapat dipersonalisasi dan disesuaikan untuk orang yang berpenghasilan LMI dan situasi unik mereka. Ini adalah peluang besar bagi penyedia layanan keuangan untuk memperluas basis pelanggan mereka.

8.  Bagaimana institusi keuangan dapat mengukur dampak nyata alat berbasis AI terhadap keamanan finansial dan kesejahteraan pengguna?

Dasar-dasar kesejahteraan finansial:  Apakah ada peningkatan tabungan, penurunan utang, perbaikan skor kredit saat menggunakan alat-alat ini?

Kita juga dapat menilai pengalaman saat berinteraksi dengan chatbot — apakah kepercayaan meningkat? Apakah ada peningkatan minat pada produk yang dapat membantu meningkatkan kesejahteraan finansial? Dalam hal pemberian nasihat, apakah ada tindakan yang diambil setelah menerima nasihat?

Bank juga bisa melakukan pengujian A/B di antara kelompok konsumen yang berbeda yang berinteraksi dengan chatbot dibandingkan yang tidak, untuk melihat apakah ada perbedaan yang terukur di antara mereka.

9.  Peran apa yang dimainkan pengawasan manusia dalam penerapan alat AI untuk layanan keuangan, dan bagaimana penyedia dapat menemukan keseimbangan yang tepat antara otomatisasi dan dukungan manusia?

Salah satu cara untuk meningkatkan kepercayaan yang diperoleh terkait AI adalah memastikan bahwa ada manusia yang bisa diakses pada waktu yang tepat di sekitar interaksi.  Di sinilah penggunaan co-pilots oleh karyawan bank yang berhadapan langsung dengan pelanggan bisa bermanfaat. Akses ke manusia secara langsung saat dibutuhkan meningkatkan kepercayaan dan pengalaman dengan alat AI.

Menggunakan conversational AI akan memungkinkan perwakilan layanan pelanggan untuk melayani kebutuhan pelanggan dan anggota yang kompleks dengan lebih baik dan lebih cepat, sambil tetap memberikan sentuhan manusia pada titik-titik kunci dalam interaksi ketika agen langsung diinginkan.

Transparansi juga penting untuk membangun kepercayaan dalam setiap interaksi. Anda harus tahu, misalnya, apakah Anda sedang berbicara dengan chatbot atau dengan orang sungguhan.

10.  Menjelang ke depan, peluang apa yang paling menarik untuk AI dalam inklusi keuangan selama lima tahun ke depan?

AI generatif mewakili evolusi berikutnya dalam dukungan conversational AI dengan menawarkan keterlibatan yang dipersonalisasi dan peka konteks pada tingkat yang jauh lebih mendekati dukungan manusia dibandingkan struktur decision-tree dari kebanyakan chatbot keuangan saat ini. Aplikasi awal AI generatif dalam bidang keuangan terutama difokuskan pada aplikasi back-office, di mana ada peluang untuk mendukung agen layanan pelanggan. Mengidentifikasi bagaimana AI generatif dapat memberikan dukungan yang dipersonalisasi dalam skala pada konteks keuangan adalah peluang kunci untuk mendorong pengembangan di sektor ini.

Membangun kepercayaan yang diperoleh akan sangat kritis untuk adopsi yang lebih luas dari AI generatif, yang oleh para peserta dalam uji lapangan dan grup fokus kami masih lebih skeptis dibanding chatbot tradisional. Namun, potensi manfaat menyediakan tingkat dukungan yang lebih canggih di berbagai aplikasi layanan keuangan membuat AI generatif menjadi teknologi yang paling menarik untuk diperhatikan di sektor keuangan. Mereka yang dapat mengembangkan dukungan AI generatif yang tepercaya dan andal akan berada di garis depan era baru pembangunan hubungan pelanggan secara berskala ini.

Beberapa peluang spesifik lain yang kami lihat adalah co-pilot dan asisten pribadi yang dapat memberikan panduan keuangan yang komprehensif yang disesuaikan dengan kebutuhan individual, semacam pelatih keuangan pribadi. Kami juga mengharapkan kemajuan dalam conversational AI memainkan peran yang berharga dalam mempromosikan kesehatan finansial pekerja dengan memberikan informasi dan panduan untuk menavigasi sistem tunjangan karyawan yang kompleks.

11.  Bagaimana Anda melihat peran organisasi nirlaba seperti Commonwealth dalam membentuk penggunaan AI yang bertanggung jawab di layanan keuangan?

Secara historis, desain teknologi baru berfokus pada adopsi oleh konsumen berpenghasilan lebih tinggi sambil mengabaikan kebutuhan rumah tangga LMI. Melalui inisiatif Emerging Tech for All (ETA), kami berfokus untuk memastikan kebutuhan orang yang rentan secara finansial dipahami, terlihat, diperkenalkan ke dalam percakapan yang relevan, dan diintegrasikan ke dalam solusi. Kami berada pada titik infleksi yang kritis dalam penskalaan AI, dan kami percaya ini mendesak untuk terus meneliti dan mengidentifikasi cara-cara di mana AI dapat berdampak positif pada populasi ini.

Riset dan adopsi yang relatif sedikit di bidang ini ada sampai saat ini, dan beberapa penyedia yang kami wawancarai menyebutkan kebutuhan akan studi berskala lebih besar untuk membangun jenis bukti yang bisa mereka gunakan untuk membuat landasan di internal. Kami mengatasi tantangan ini dengan menghasilkan riset yang berdampak dan uji lapangan langsung yang menunjukkan bagaimana AI generatif dapat mendukung kesejahteraan finansial rumah tangga yang hidup di LMI dan membuat landasan bisnis untuk merancang secara lebih aktif bagi segmen konsumen yang kurang terlayani ini.

Melihat ke masa depan, dampak sistemik dari desain teknologi inklusif akan bergantung pada aplikasi berskala dari wawasan-wawasan ini oleh pelaku utama di layanan keuangan. Bagi kami, mengubah desain inklusif ke skala akan bergantung pada pemanfaatan riset kami untuk bermitra dengan organisasi-organisasi yang lebih besar yang ingin memanfaatkan kemajuan AI guna mendukung kesehatan finansial pelanggan dan pekerja mereka.

12.  Nasihat apa yang akan Anda berikan kepada institusi keuangan yang ingin memanfaatkan AI sambil tetap menjaga kepercayaan dan transparansi dengan pelanggan mereka?

Rumah tangga LMI lebih tertarik berbank langsung dengan seseorang, namun memiliki akses paling sedikit ke cabang tatap muka. Kesenjangan ini menyoroti peluang kunci bagi AI untuk memberikan dukungan yang dipersonalisasi seperti yang dicari oleh rumah tangga yang hidup di LMI tanpa perlu meningkatkan jumlah cabang atau staf dukungan pelanggan.

Namun, untuk mendorong adopsi yang lebih luas, institusi keuangan harus memperoleh dan membangun lebih banyak kepercayaan pada chatbot dari orang-orang yang berpenghasilan LMI — sebagian terkait khusus pada pengalaman chatbot, sementara sebagian lagi bersifat industri secara keseluruhan seiring teknologi AI makin diterima dan meningkatkan keamanan serta kualitas secara keseluruhan.

Kekhawatiran utama bagi orang yang berinteraksi dengan chatbot adalah keamanan dan privasi.  Secara umum, orang telah menyatakan kurang percaya pada conversational AI agar bermanfaat, melindungi data mereka, atau bertindak sesuai kepentingan terbaik mereka. Sementara banyak orang di dunia bisnis antusias tentang potensi AI, orang yang hidup di LMI kemungkinan melihatnya dengan lebih skeptis sebagai teknologi baru yang belum menunjukkan nilai langsung bagi mereka.

Kebijakan data yang transparan, merek dan pesan yang menenteramkan, serta menjaga keterhubungan dengan agen manusia sebagai opsi cadangan akan membantu dalam membangun dan memperoleh kepercayaan. Mengembangkan interaksi yang berguna dan dipersonalisasi melalui AI generatif yang melampaui sekadar menyediakan informasi dasar yang ditawarkan chatbot saat ini, seperti saldo akun dan transaksi terbaru, juga akan membantu menunjukkan nilai teknologi tersebut.

Penting juga untuk menekankan konsep kepercayaan yang diperoleh. Tujuannya bukan semata-mata meyakinkan orang agar mempercayai chatbot, melainkan benar-benar merancang chatbot sedemikian rupa sehingga kepercayaan itu memang layak.