Peneliti ITB Sebut AI Bisa Jadi Ilmu Palsu, Masyarakat Diminta Waspada

BANDUNG, KOMPAS.com - Kecerdasan buatan (Artificial Intellegence/AI) di Indonesia berpotensi menjadi ilmu palsu (pseudoscience) yang bisa sangat merugikan masyarakat. Untuk itu, semua pihak perlu bersama mengaturnya sejak dini.

Hal itu disampaikan Dr Dimitri Mahayana, Dosen Sekolah Teknik Elektro Informatika (STEI) ITB, dalam bedah buku karyanya, Filsafat Sains: Dari Newton, Eisntein, Hingga Sains Data, di Auditorium IPTEK CC Timur ITB.

Menurut dia, situasi itu terjadi karena ada dua kesalahan mindset terhadap AI. Pertama, ada jargon “let the data explain itself”.

Baca juga: Belajar dari Perang Ukraina-Rusia, ITB Sebut Indonesia Harus Mandiri Alutsista

Pengetahuan baru diyakini dapat dijelaskan langsung dari lautan data itu sendiri, sehingga manusia tidak memerlukan kerangka teori ilmiah untuk mengkonstruksi dan memperoleh data.

"Paradigma let the data explain itself ini menciptakan model berbasis data yang tidak dapat dipertanggungjawabkan dan tidak dapat dijelaskan, sehingga melanggar prinsip dasar tata kelola AI," ujar Dimitri dalam rilis yang diterima Kompas.com, Rabu (29/11/2023).

"Pendekatan berbasis data di berbagai industri seperti credit scoring untuk perbankan misalnya, terkadang berdampak fatal bahkan membuat korporasi bangkrut," tutur dia.

Baca juga: Kronologi Pembunuhan Mahasiswi ITB Inhu, 2 Minggu Hilang Ditemukan Tinggal Kerangka

Pola pikir ini berpotensi membuat pendekatan berbasis data menghasilkan ketidakadilan. Contoh sederhananya, berdasarkan model machine learning misalnya. Seseorang diduga atau diprediksi menjadi koruptor padahal ini hanya prediksi faktual yang semu (false positive).

Paradigma kedua adalah radikalisme data. Di era big data sekarang, manusia tidak perlu lagi menjawab pertanyaan kenapa.

Manusia hanya perlu memaksimalkan perolehan data dan mengungkap manfaat langsung yang bisa dijelaskan dan diperoleh dengan melihat hubungan antar data, baik hubungan statistik sederhana atapun hubungan yang diperoleh melalui teknik pembelajaran mesin statistik.

"Dilatari fondasi demikian, pseudosains bisa terjadi karena ada proposisi, temuan, atau sistem penjelasan yang disajikan sebagai sains namun tidak memiliki ketelitian penting dalam metode ilmiah. Ini terjadi karena AI memang merupakan hasil penelitian, tapi didasarkan premis yang salah, desain eksperimen yang cacat, atau data yang buruk," sambung Chief Lembaga Riset Telematika Sharing Vision ini.

Dimitri mencontohkan kasus trading digital berbasis AI pada peristiwa Indra Kenz, Doni Salmanan, dan Reza Paten.

Reza sudah menjadi tersangka dengan 150 rekening dari 25 bank miliknya Pusat Pelaporan dan Analisis Transaksi Keuangan/PPATK dengan perputaran uang di seluruh rekening lebih dari Rp 1 triliun!

Reza dikenal sebagai pedagang mata uang asing dan menggeluti dunia trading sejak 2019.

Laki-laki berusia 38 tahun itu lulusan Teknik Informatika, dia terjun di dunia trading berbarengan berdirinya Net89 yang merupakan platform buatan PT Simbiotik Multitalenta Indonesia dengan selalu menawarkan trading berbasis AI.

"Saya pribadi pernah melakukan riset bersama di STEI ITB berjudul Deep Reinforcement Learning to Automate Cryptocurrency Trading pada Juni 2022, kesimpulannya penggunaan algoritma optimasi kebijakan proksimal dalam pasar Bitcoin tidak terbukti menghasilkan keuntungan," katanya.

Hal ini sesuai riset global lainnya seperti Andrew W Lo dan Jasmina Hasanhodzic berjudul The Evolution of Technical Analysis: Financial Prediction from Babylonian Tablets to Bloomberg Terminals (2010), bahwa keefektifan analisis teknis dan fundamental dibantah efficient-market hypothesis, yakni harga pasar saham pada dasarnya tidak dapat diprediksi.

Karenanya, sambung riset Paulos, JA pada A Mathematician Plays the Stock Market (2003), penerapan AI pada mesin trading masih dianggap akademisi sebagai pseudoscience.

Dimitri menjelaskan sinyalemen AI sebagai ilmu palsu juga terjadi dalam proses rekrutmen karyawan.

Dinamakan sebagai "Mesin Kepribadian", sistem AI ini disebut laman Science Daily dan Tech Crunch, menggunakan gambar wajah orang dalam mencari lima besar ciri kepribadian yang lazim dipakai dalam human resources. Yakni ekstrovert, ramah, terbuka, waspada, dan neurotisisme/prasangka negatif.

"Ternyata, hasil yang ada tidak akurat karena sebagaimana dilansir laman teknologi sebuah studi menemukan bahwa prediksi perangkat lunak dipengaruhi perubahan ekspresi wajah, pencahayaan, latar belakang, dan pakaian orang. Mengapa AI bisa begitu? Studi menjelaskan, hal ini disebabkan fakta bahwa pembelajaran mesin yang digunakan untuk alat AI menggunakan data ketinggalan zaman," katanya.

Solusi Hindari Pseudo Sains

Dimitri mengatakan, solusi pertama secara metode ilmiah, mengikuti Karl Raymund Popper (filsuf sains kondang abad 20) bahwa kita harus memastikan AI benar-benar diuji melalui pengujian yang ketat.

Mulai dari pengujian empirikal dan pengujian pragmatik dengan skenario uji yang lengkap dan mewakili kondisi nyata.

Kedua, perusahaan dan institusi yang menerapkan AI direkomendasikan segera menerapkan AI governance yang setidaknya mengimplementasikan prinsip-prinsip seperti accountability, explainability, safety dan human-centered.

AI governance ini sebaiknya diangkat setidaknya setara dengan tata kelola teknologi informasi (IT Governance) maupun tata kelola informasi/data (Information/Data Governance).

"Kemudian pemerintah perlu mulai mengantisipasi dan memikirkan bagaimana agar booming penerapan AI di tanah air terkendali, tertata dengan baik, dan tidak menghasilkan banyak pseudo-science yang malah akan menjadi boomerang menimbulkan banyak kerugian di masyarakat. Tanpa langkah-langkah yang jelas dari pemerintah, komunitas ilmiah, industri yang menerapkan AI, maka AI benar-benar akan jadi pseudo sains," ucap dia. 

Sementara itu, Dekan STEI ITB, Dr Tutun Juhana mengatakan, acara ini digelar untuk memberi pencerahan aspek ontologis, epistemologis, dan aksiologis dari data science dan AI di masyarakat yang terus jadi bahasan publik.

"Bahasan-bahasan filosofis selalu dibutuhkan dunia akademik, bahkan untuk menjawab pertanyaan yang mendasar tentang kehidupan maupun penerapan teknologi terkini," tutur dia.

Wakil Dekan STEI ITB Dr Widyawardana Adiprawita menjelaskan, tanda dosen malas adalah saat membimbing mahasiswa, sedikit-sedikit bertanya ke AI.

"Gusti Allah memberi kita akal budi, kemampuan berfilsafat, tapi kalau males, let the data explain itself, maka jadi pas banget kita diingatkan diskusi ini agar tidak malas," katanya.

Karena itu, sesi diskusi ini sangat bermakna yakni mengingatkan semua bahwa tempatkan AI  pada posisinya yakni sebagai tools atau perpanjangan tangan saja.

"Jangan biarkan AI mengambil keputusan untuk kita, karena kalau sampai ambil keputusan, AI sendiri tidak seutuhnya mengerti namun kita kasih AI kesempatan ambil keputusan," ungkapnya.