Mengapa Memahami Algorithmic Decision-Making Penting Bagi Sarjana Hukum?

Literasi Hukum - Artikel ini menjelaskan mengenai pentingnya memahami konsep ADS (Algorithmic Decision-Making) bagi mahasiswa hukum.

Algorithmic decision-making atau yang disingkat menjadi ADS merupakan satu teknologi, sesuai dengan namanya, dapat memberikan decision atau keputusan berdasarkan algoritma dalan suatu konteks tertentu. Basis bagi teknologi ini untuk mengambil keputusan adalah berdasarkan dengan data, yang kemudian diolah oleh algoritma. Pasca pandemi, di mana ranah digital telah secara masif terdisrupsi sedemikian rupa, penggunaan machine learning serta ADS dalam pemerintahan berkembang secara pesat. Kekhawatiran serta kritik muncul akibat banyak pihak yang mempertanyakan persoalan legitimasi, baik legitimasi dari ADS itu sendiri dan legitimasi pemerintah yang memutuskan untuk memanfaatkan teknologi ini. Pihak lain juga mempertanyakan mengenai hal yang lebih fundamental, yaitu persoalan empati serta etis.

Kekhawatiran tersebut bukan tanpa dasar, beberapa penelitian menunjukkan bahwa penggunaan ADS dapat disalahgunakan sehingga menimbulkan dampak negatif mulai dari tindakan diskriminasi, memperjelas ketimpangan sosial, hingga pelanggaran hak asasi manusia. Beberapa kasus juga menunjukkan bahwa praktik penggunaan teknologi ADS yang mengadopsi fitur face…