PM Singapura serukan keseimbangan keamanan dan inovasi AI

"Hal tersebut bukanlah risiko hipotetis. Itu sudah terjadi," tuturnya.

Dia menambahkan bahwa pertanyaan-pertanyaan yang lebih sulit akan muncul seiring sistem AI semakin tersemat secara mendalam di bidang-bidang seperti perawatan kesehatan dan kendaraan otonomos.

Dia menyebut berbagai contoh, termasuk diagnosis medis yang salah dan insiden mematikan yang melibatkan mobil otonomos, sembari mempertanyakan siapa yang harus dimintai pertanggungjawaban saat sistem AI menyebabkan kerugian.

"Apakah pihak pengembang yang membangunnya, pihak yang menulis algoritmanya, perusahaan yang menerapkan mesin itu, atau pihak yang menggunakannya?" tanya sang PM.

Wong mengatakan kerangka hukum yang ada saat ini tidak dirancang untuk dunia di mana mesin-mesin dapat mengambil keputusan yang berdampak besar, dan pemerintah perlu meninjau kembali isu-isu seputar tanggung jawab, kewajiban, dan pertanggungjawaban.

"Sekali lagi, ini tidak akan mudah. Melangkah terlalu lambat, dan hukum akan tertinggal, sementara masyarakat berpotensi celaka. Melangkah terlalu cepat dan kita berisiko menghambat inovasi," tambah Wong.

Meski teknologi berkembang pesat, dia menekankan bahwa keadilan dan kesetaraan pada akhirnya harus tetap menjadi ranah penilaian manusia alih-alih algoritma.