Dengan kata lain, jika bank mengandalkan model AI yang misterius sulit untuk memahami seberapa kokoh sistem yang mendasarinya.
Sehubungan dengan hal tersebut, regulator menyatakan kekhawatirannya mengenai bagaimana sistem AI ini dapat menghasilkan dan mungkin menutupi hasil yang bias atau tidak akurat.
FOSC menyebutkan, hal ini pada gilirannya akan meningkatkan kekhawatiran mengenai pemberian pinjaman yang adil dan masalah perlindungan konsumen lainnya.
Langkah ini dilakukan hanya dua tahun setelah regulator pertama kali klasikan perubahan iklim sebagai “ancaman yang muncul terhadap stabilitas keuangan Amerika Serikat”.
Investasi dan adopsi AI telah meningkat pesat, bahkan ketika beberapa ahli memperingatkan ada bahaya serius pada teknologi tersebut.
Presiden AS Joe Biden baru-baru ini menandatangani perintah eksekutif yang menginstruksikan lembaga-lembaga federal untuk mengambil langkah-langkah guna menjaga pengembangan yang merupakan bidang adopsi dan investasi yang sedang booming.
“Kesalahan dan bias menjadi lebih sulit untuk diidentifikasi dan diperbaiki seiring dengan meningkatnya kompleksitas pendekatan AI yang menggarisbawahi perlunya kewaspadaan dari pengembang teknologi, perusahaan sektor keuangan yang menggunakannya dan regulator yang mengawasi perusahaan-perusahaan tersebut,” ujar FSOC.
Popularitas ChatGPT dan AI generatif lainnya yang menggunakan model bahasa besar untuk identifikasi pola dalam data dan membuat teks dan gambar semakin meningkatkan minat terhadap AI.