Penggunaan kecerdasan buatan (AI) dalam pasar keuangan melibatkan risiko terkait adaptasi pasar yang dinamis.
Seperti yang diingatkan oleh Hukum Goodhart (1974), upaya pengendalian yang terlalu ketat justru dapat memicu respons tak terduga dari sistem dan pelaku pasar untuk menghindari aturan tersebut.
Hal serupa terjadi dengan AI, yang belajar dari data historis di mana pasar keuangan telah mengadopsi berbagai tindakan adaptif untuk mengelakkan regulasi.
Oleh karena itu, model AI yang berbasis pada data historis mungkin gagal memprediksi dampak regulasi baru yang belum pernah ditemui sebelumnya.
Ini menciptakan tantangan terhadap kemampuan AI untuk mengatasi situasi yang tidak terduga dan kompleks, yang disebut sebagai risiko atau kerentanan tidak teridentifikasi sebelumnya (unknown-unknowns).
Meskipun AI sangat baik dalam menangani informasi yang telah diketahui (known-knowns) dan bahkan dapat dilatih menggunakan skenario simulasi (known-unknowns), kemampuannya dalam menangani situasi yang tidak diketahui masih terbatas dibandingkan dengan manusia.
Keterbatasan ini dapat menjadi masalah saat krisis terjadi, karena krisis seringkali melibatkan situasi yang tidak terduga dan kompleks.
Kompleksitas tersebut merupakan bagian alami atau intrinsic (endemik) dari sistem keuangan itu sendiri. Ini menunjukkan bahwa sistem keuangan secara inheren, rumit dan sulit dipahami, dengan banyak interaksi antara berbagai entitas, instrumen, pasar, dan faktor-faktor lainnya yang saling memengaruhi.
Dan hal ini tidak dapat dihindari atau dihilangkan sepenuhnya, dan merupakan ciri khas yang melekat dalam sistem keuangan secara keseluruhan
Itu sebabnya, saat Bank Indonesia mulai mengadopsi teknologi AI terkini dalam proses bisnisnya tetap memperhatikan potensi manfaat serta tantangan risikonya.
Integrasi penggunaan AI berbasis pemanfaatan data granular, high frequent data, dan big data bisa mendukung proses pengambilan keputusan dan kebijakan telah terinisiasi dalam kerangka Rencana Induk Inovasi Bank Indonesia (RIVIBI) (Mara, 2024).
Sistem AI berbasis big data ini dirancang untuk mengumpulkan dan menganalisis data keuangan dari berbagai lembaga keuangan di Indonesia, seperti bank-bank dan lembaga keuangan non-bank.
Namun, ada yang perlu diantisipasi, misalnya ketika terjadi penurunan signifikan dalam kinerja ekonomi Indonesia, sistem AI di Bank Indonesia secara otomatis memperbarui model analisisnya berdasarkan data baru yang diterimanya.
Dengan model yang serupa dan terstandarisasi, AI di Bank Indonesia dan mungkin juga di lembaga keuangan lainnya akan memberikan respons seragam terhadap situasi tersebut.
Contoh lainnya, jika AI di Bank Indonesia menafsirkan data baru sebagai indikasi perlambatan ekonomi, maka AI di lembaga keuangan lainnya juga akan merespons dengan cara yang serupa.