ACEHSIANA.COM, Bandung – Dalam diskusi di Institut Teknologi Bandung (ITB), Dr Dimitri Mahayana dari Sekolah Teknik Elektro Informatika mengungkapkan keprihatinannya terhadap arah kecerdasan buatan atau artificial intelligence (AI) di Indonesia. Menurutnya, AI memiliki potensi menjadi ilmu palsu yang berbahaya bagi masyarakat.
Dimitri menyoroti dua kesalahan pemikiran terhadap AI. Pertama, konsep “Let the data explain itself” yang diyakini sebagai cara untuk menghasilkan pengetahuan tanpa kerangka teori ilmiah. Ini berujung pada pembuatan model berbasis data yang tak bisa dipertanggungjawabkan, bahkan bisa merugikan, seperti dalam kasus penggunaan algoritma untuk penilaian kredit perbankan yang dapat berujung pada kebangkrutan korporasi.
“Kedua, paradigma radikalisme data di era big data membuat manusia tidak lagi memerlukan penjelasan mengapa suatu hal terjadi. Hal ini berpotensi menghasilkan ketidakadilan, misalnya dalam prediksi seseorang sebagai koruptor berdasarkan model machine learning,” ujar Dimitri.
Dimitri menegaskan bahwa AI dapat menjadi ilmu palsu karena adanya proposisi, temuan, atau sistem penjelasan yang disajikan sebagai sains namun kurang memiliki ketelitian ilmiah. Ia memberikan contoh kasus trading digital berbasis AI yang tidak efektif dalam menghasilkan keuntungan, sesuai dengan riset global lain yang juga meragukan efektivitas analisis teknis dan fundamental.
“Dalam proses rekrutmen karyawan, AI juga terbukti kurang akurat. Mesin kepribadian menggunakan gambar wajah orang untuk mencari ciri kepribadian, namun hasilnya tidak dapat diandalkan karena dipengaruhi oleh banyak faktor, termasuk data yang ketinggalan zaman,” sebut Dimitri.
Untuk menghindari pseudoscience dalam AI, Dimitri menyarankan pengujian yang ketat sesuai dengan metode ilmiah serta implementasi prinsip-prinsip AI governance seperti akuntabilitas, kejelasan, keamanan, dan berorientasi pada manusia. Ia juga menekankan pentingnya campur tangan pemerintah untuk mengatur penerapan AI agar tidak menghasilkan banyak ilmu palsu yang merugikan masyarakat.
Dengan langkah-langkah yang tepat, AI di Indonesia dapat dikendalikan dan diterapkan secara bijaksana tanpa menimbulkan banyak kerugian. (*)