Reserve Bank of India (RBI) secara resmi telah mengajukan draf pedoman baru yang mewajibkan seluruh lembaga perbankan di India untuk memperkuat pengawasan terhadap risiko yang timbul akibat penggunaan teknologi kecerdasan buatan (AI) dan model pembelajaran mesin (machine learning). Kebijakan ini diambil sebagai respons atas meningkatnya adopsi teknologi otomatisasi dalam sektor keuangan yang membawa tantangan baru bagi stabilitas sistem perbankan.
Dalam draf tersebut, RBI menegaskan bahwa setiap bank wajib menyusun kerangka kerja manajemen risiko yang telah disetujui oleh dewan direksi. Kerangka kerja ini harus mencakup seluruh model teknologi yang digunakan, baik yang dikembangkan secara internal maupun melalui pihak ketiga. Lembaga keuangan diwajibkan untuk melakukan inventarisasi model secara menyeluruh dan memastikan setiap sistem memiliki kontrol operasional yang memadai.
Regulator menekankan pentingnya penilaian risiko yang dilakukan secara terus-menerus, baik pada tingkat model individu maupun risiko sistemik di seluruh entitas perusahaan. Apabila ditemukan risiko yang dianggap melampaui ambang batas aman, pihak bank diwajibkan untuk mengambil langkah korektif secara cepat. Langkah ini mencakup peningkatan kontrol, pembatasan penggunaan sistem, hingga tindakan remediasi atau penghentian penggunaan model tersebut.
Salah satu poin krusial dalam draf ini adalah kewajiban bagi bank untuk memastikan seluruh model AI, termasuk yang disediakan oleh penyedia pihak ketiga, harus melalui proses validasi independen. Langkah ini bertujuan untuk meminimalisir bias, kesalahan teknis, atau kerentanan keamanan yang mungkin tidak terdeteksi oleh pengembang internal bank itu sendiri.
Selain itu, RBI menekankan perlunya pengawasan manusia (human-in-the-loop) dalam setiap pengambilan keputusan otomatis yang menggunakan AI. Hal ini untuk memastikan bahwa setiap keputusan strategis yang berdampak pada nasabah tetap memiliki akuntabilitas manusia. Untuk model AI generatif yang berinteraksi langsung dengan nasabah, bank diwajibkan menerapkan kontrol keamanan siber tambahan guna mencegah potensi kebocoran data atau serangan siber yang lebih kompleks.
Sebagai langkah transparansi dan partisipasi publik, RBI telah membuka ruang bagi para pemangku kepentingan untuk memberikan masukan serta umpan balik terkait draf pedoman ini hingga batas waktu 24 Juli mendatang. Inisiatif ini menandai langkah proaktif regulator dalam menyeimbangkan inovasi teknologi dengan prinsip kehati-hatian perbankan yang fundamental.