Mafindo–Dalam beberapa tahun terakhir, kecerdasan buatan (AI) telah berkembang pesat dan membawa dampak besar bagi berbagai sektor, mulai dari ekonomi, pendidikan, kesehatan, hingga pemerintahan. Teknologi ini menawarkan peluang besar untuk meningkatkan efisiensi dan inovasi, tetapi di sisi lain juga menimbulkan tantangan etis dan risiko yang harus dikelola dengan baik.

Menyadari pentingnya regulasi dan tata kelola yang bertanggung jawab, ASEAN(2024) telah merumuskan tujuh prinsip utama untuk memastikan pengembangan dan penggunaan AI yang etis dan berkelanjutan. Prinsip-prinsip ini bertujuan untuk menjaga keseimbangan antara kemajuan teknologi dan perlindungan hak-hak individu, keamanan data, serta nilai-nilai kemanusiaan.

Artikel ini akan membahas ketujuh prinsip tersebut dan bagaimana ASEAN berupaya membangun ekosistem AI yang transparan, adil, dan bermanfaat bagi seluruh masyarakat di kawasan Asia Tenggara.

Berikut adalah ketujuh prinsip tersebut:

1. Ketangguhan dan Keandalan (Robustness and Reliability): Sistem AI Generatif (Gen AI) harus tangguh dan andal dalam menghadapi kesalahan eksekusi, input yang tidak terduga, serta perubahan lingkungan operasional. Namun, ketidak konsistenan output akibat bias data, kualitas data, atau arsitektur model menjadi tantangan utama. Untuk mengatasinya, diperlukan tolok ukur kuantitatif, standar hasil yang dapat diterima, serta pengamanan (guardrails) agar respons tetap dalam konteks yang wajar. Meskipun Gen AI tidak selalu deterministik, hasilnya harus tetap berada dalam batas yang dapat dipertanggungjawabkan.
2. Keadilan dan Kesetaraan (Fairness and equity): Prinsip keadilan dan kesetaraan dalam AI bertujuan mencegah AI memperkuat diskriminasi yang ada. Pengembangan Gen AI harus dilakukan secara adil, menghindari bias yang merugikan kelompok tertentu. Karena model AI sering dilatih dengan data internet, ada risiko bias sosial dan ketidakseimbangan representasi budaya. Jika tidak dikelola, Gen AI dapat memperbesar bias melalui data pelatihan, umpan balik bias, atau input pengguna. Oleh karena itu, organisasi harus memperhatikan kualitas dan keberagaman data, serta melakukan pengujian dan evaluasi menyeluruh agar output AI adil dan representatif bagi semua kelompok masyarakat.
3. Transparansi dan Keterjelasan (Transparency and Explainability): Transparansi dan keterjelasan dalam AI melibatkan pengungkapan jelas tentang penggunaannya, proses keputusan, jenis data, dan tujuannya agar pengguna lebih terinformasi. Eksplainabilitas memastikan AI dapat menjelaskan bagaimana suatu keputusan dibuat, misalnya melalui dokumentasi repeatabilitas atau traceability. Gen AI sering lebih kompleks dengan algoritma black box, sehingga membangun kepercayaan publik sangat penting. Pengguna harus mengetahui interaksi mereka dengan AI dan bagaimana data mereka digunakan. Pengembang perlu menyeimbangkan transparansi dengan perlindungan informasi hak milik agar tetap memberikan kejelasan tanpa mengorbankan kepentingan bisnis.
4. Keamanan dan Keselamatan (Security and Safety): AI harus dirancang dengan keamanan dan keselamatan yang kuat untuk melindungi sistem dari ancaman dan menjaga keselamatan pengguna. Keselamatan AI mencakup penilaian risiko serta langkah mitigasi bagi pengembang, penyedia, dan pengguna. Keamanan AI berfokus pada perlindungan data, integritas sistem, dan pencegahan serangan berbahaya. Dalam Gen AI, metode seperti RLHF dan Constitutional AI digunakan untuk meminimalkan risiko output yang tidak aman, sementara red teaming menguji potensi perilaku berbahaya. Namun, standar evaluasi dan mitigasi masih perlu dikembangkan karena keluaran AI sering tidak terduga. Pengembang juga harus melindungi data, mencegah shadow IT, prompt injection, dan data poisoning, serta memiliki strategi tanggap darurat terhadap pelanggaran keamanan. NIST AI 100-2 E2023 dapat digunakan sebagai referensi dalam mengklasifikasikan ancaman ini.
5. Privasi dan Tata Kelola Data (Privacy and Data Governance): Privasi dan tata kelola data dalam AI harus memastikan perlindungan data pribadi dengan mekanisme yang kuat serta kepatuhan terhadap regulasi. Privasi AI melindungi data dari akses dan penggunaan yang tidak sah, sementara tata kelola data mencakup pengelolaan pengumpulan, penggunaan, dan pembuangan data secara tepat. Gen AI menghadapi tantangan terkait privasi dan kekayaan intelektual karena sering menggunakan data dari internet melalui scraping, yang dapat mengandung informasi pribadi. Risiko pengungkapan data juga meningkat karena kemampuan Gen AI untuk “mengingat” data pelatihan. Aktor jahat dapat menyalahgunakan AI untuk memperoleh informasi sensitif atau membuat konten palsu. Untuk mengatasi risiko ini, organisasi harus menerapkan privacy-by-design, seperti meminimalkan pengumpulan data, menganonimkan informasi, dan memasang perlindungan dalam model. Data traceability juga diperlukan untuk memastikan sumber, akurasi, dan kepatuhan data terhadap regulasi. Transparansi dalam sumber data dan proses pengolahan sangat penting, namun harus tetap seimbang dengan perlindungan informasi hak milik atau komersial.
6. Akuntabilitas dan Integritas (Accountability and Integrity): menuntut pengembang dan operator bertanggung jawab atas kinerja sistem serta menjaga integritas dalam seluruh proses pengembangan dan operasionalisasi. Kendali manusia dan tata kelola yang jelas diperlukan untuk memastikan pengawasan yang tepat. Dalam Gen AI, tanggung jawab dapat berpindah di antara pengembang, penyedia, dan pengguna, sehingga penting untuk menetapkan mekanisme tata kelola yang efektif. Karena hasil AI di dunia nyata bisa berbeda dari niat awal penciptanya, pengujian dinamis diperlukan untuk mengatasi perilaku tak terduga. Mekanisme akuntabilitas juga harus fleksibel agar tetap dapat dikelola seiring dengan evolusi sistem AI.
7. Berpusat pada Manusia (Human-centricity): AI harus memastikan manfaat bagi masyarakat dan tidak merugikan nilai-nilai kemanusiaan. Pendekatan human-centric bertujuan meningkatkan kesejahteraan individu dan mencegah dampak negatif, yang tidak akan terjadi secara otomatis tanpa upaya sadar dari pemangku kepentingan. Tanpa pendekatan ini, AI dapat menyebabkan gangguan ketenagakerjaan, berkurangnya manfaat sosial, dan eksklusi. Oleh karena itu, nilai-nilai kemanusiaan, martabat, dan kesejahteraan harus menjadi prioritas dalam pengembangan AI. Gen AI tidak hanya menghasilkan konten tetapi juga meniru inovasi manusia, sehingga harus digunakan untuk mendorong kreativitas dan kolaborasi, memperluas potensi individu daripada membatasinya.

Penerapan ketujuh prinsip ini diharapkan dapat mendorong inovasi AI yang sejalan dengan nilai-nilai etika dan hak asasi manusia, serta memperkuat kerjasama dan interoperabilitas kerangka kerja AI di seluruh negara anggota ASEAN.