Redaksi akdah.ac.id – Dalam kajian terbaru yang dilakukan oleh peneliti di Princeton University, ditemukan bahwa model kecerdasan buatan (AI) cenderung lebih mudah melakukan stereotipisasi berbasis demografi dibandingkan dengan peserta manusia dalam studi sebelumnya. Temuan ini menunjukkan bahwa LLMs (Large Language Models) mempunyai kecenderungan untuk mengeneralisasi dari data yang terbatas, yang berpotensi mengakibatkan bias dalam pengambilan keputusan.
Kecenderungan Bias dalam Model AI
Dalam penelitian tersebut, peneliti menyusun skala segregasi untuk mengukur seberapa besar kelompok-kelompok tertentu terpisah dalam niche pekerjaan masing-masing. Peserta manusia dalam studi ini memperoleh skor 0,84, sedangkan model kecerdasan buatan mencapai skor yang jauh lebih tinggi, dengan model dari OpenAI, o3, mencetak skor 1,83. Ini menunjukkan bahwa model-model tersebut sangat cenderung menyimpulkan dan membuat generalisasi yang dapat menimbulkan kesalahpahaman tentang kelompok tertentu.
Penjelasan Daya Tarik pada Generalisasi
Menurut Ryan Liu, mahasiswa PhD di Princeton dan salah satu penulis studi, LLMs “sangat antusias untuk menciptakan generalisasi dari data yang terbatas.” Hal ini mengindikasikan bahwa optimasi yang dilakukan pada model-model tersebut tidak hanya terbatas pada keterampilan logika, tetapi juga terhadap pengambilan keputusan yang cenderung berdasarkan pada pengalaman sebelumnya. Dalam banyak hal, ini mengeksplorasi fenomena yang dikenal sebagai ‘dilema eksplorasi-ekploitasi’, di mana individu atau sistem harus memilih antara tetap menggunakan pendekatan yang sudah terbukti efektif atau mencoba metode baru yang mungkin lebih efektif.
Implikasi dari Hasil Penelitian
Penemuan ini sangat relevan di tengah perkembangan teknologi chatbots yang semakin canggih, terutama dengan tambahan fitur memori dan personalisasi. Saat chatbots mengambil referensi dari riwayat percakapan sebelumnya, hal ini dapat menyebabkan mereka berfokus lebih besar pada pola perilaku yang telah mereka alami sebelumnya, sehingga berpotensi membentuk bias.
Memori dan Perilaku Chatbot
Angelina Wang, seorang ilmuwan komputer dari Cornell University, menyatakan bahwa meskipun mengurangi daya ingat chatbots mungkin terasa menjadi solusi mudah, pengguna tetap menginginkan chatbots untuk mengingat informasi yang mereka sampaikan. Menemukan keseimbangan antara terlalu banyak atau terlalu sedikit memori menjadi tantangan tersendiri dalam pengembangan teknologi ini.
Kesimpulan
Secara keseluruhan, penelitian ini menyoroti tantangan yang dihadapi dalam pengembangan kecerdasan buatan, terutama dalam menjaga obyektivitas dan menghindari bias. Pemahaman yang lebih baik tentang bagaimana LLMs beroperasi dapat membantu dalam pembuatan model yang lebih adil dan akurat. Dalam konteks di mana interaksi manusia dan mesin semakin meningkat, penting untuk mengevaluasi dan mengelola efek dari bias model AI.
