Peneliti ITB Sebut AI Bisa Jadi Ilmu Palsu, Masyarakat Diminta Waspada

BANDUNG, KOMPAS.com - Kecerdasan buatan (Artificial Intellegence/AI) di Indonesia berpotensi menjadi ilmu palsu (pseudoscience) yang bisa sangat merugikan masyarakat. Untuk itu, semua pihak perlu bersama mengaturnya sejak dini.

Hal itu disampaikan Dr Dimitri Mahayana, Dosen Sekolah Teknik Elektro Informatika (STEI) ITB, dalam bedah buku karyanya, Filsafat Sains: Dari Newton, Eisntein, Hingga Sains Data, di Auditorium IPTEK CC Timur ITB.

Menurut dia, situasi itu terjadi karena ada dua kesalahan mindset terhadap AI. Pertama, ada jargon “let the data explain itself”.

Baca juga: Belajar dari Perang Ukraina-Rusia, ITB Sebut Indonesia Harus Mandiri Alutsista

Pengetahuan baru diyakini dapat dijelaskan langsung dari lautan data itu sendiri, sehingga manusia tidak memerlukan kerangka teori ilmiah untuk mengkonstruksi dan memperoleh data.

"Paradigma let the data explain itself ini menciptakan model berbasis data yang tidak dapat dipertanggungjawabkan dan tidak dapat dijelaskan, sehingga melanggar prinsip dasar tata kelola AI," ujar Dimitri dalam rilis yang diterima Kompas.com, Rabu (29/11/2023).

"Pendekatan berbasis data di berbagai industri seperti credit scoring untuk perbankan misalnya, terkadang berdampak fatal bahkan membuat korporasi bangkrut," tutur dia.

Baca juga: Kronologi Pembunuhan Mahasiswi ITB Inhu, 2 Minggu Hilang Ditemukan Tinggal Kerangka

Pola pikir ini berpotensi membuat pendekatan berbasis data menghasilkan ketidakadilan. Contoh sederhananya, berdasarkan model machine learning misalnya. Seseorang diduga atau diprediksi menjadi koruptor padahal ini hanya prediksi faktual yang semu (false positive).

Paradigma kedua adalah radikalisme data. Di era big data sekarang, manusia tidak perlu lagi menjawab pertanyaan kenapa.

Manusia hanya perlu memaksimalkan perolehan data dan mengungkap manfaat langsung yang bisa dijelaskan dan diperoleh dengan melihat hubungan antar data, baik hubungan statistik sederhana atapun hubungan yang diperoleh melalui teknik pembelajaran mesin statistik.

"Dilatari fondasi demikian, pseudosains bisa terjadi karena ada proposisi, temuan, atau sistem penjelasan yang disajikan sebagai sains namun tidak memiliki ketelitian penting dalam metode ilmiah. Ini terjadi karena AI memang merupakan hasil penelitian, tapi didasarkan premis yang salah, desain eksperimen yang cacat, atau data yang buruk," sambung Chief Lembaga Riset Telematika Sharing Vision ini.

Dimitri mencontohkan kasus trading digital berbasis AI pada peristiwa Indra Kenz, Doni Salmanan, dan Reza Paten.

Reza sudah menjadi tersangka dengan 150 rekening dari 25 bank miliknya Pusat Pelaporan dan Analisis Transaksi Keuangan/PPATK dengan perputaran uang di seluruh rekening lebih dari Rp 1 triliun!

Reza dikenal sebagai pedagang mata uang asing dan menggeluti dunia trading sejak 2019.

Laki-laki berusia 38 tahun itu lulusan Teknik Informatika, dia terjun di dunia trading berbarengan berdirinya Net89 yang merupakan platform buatan PT Simbiotik Multitalenta Indonesia dengan selalu menawarkan trading berbasis AI.

"Saya pribadi pernah melakukan riset bersama di STEI ITB berjudul Deep Reinforcement Learning to Automate Cryptocurrency Trading pada Juni 2022, kesimpulannya penggunaan algoritma optimasi kebijakan proksimal dalam pasar Bitcoin tidak terbukti menghasilkan keuntungan," katanya.