Mafindo–Pada tahun 2024, ASEAN menerbitkan “Panduan ASEAN yang Diperluas tentang Tata Kelola dan Etika AI – AI Generatif” sebagai pelengkap dari “Panduan ASEAN tentang Tata Kelola dan Etika AI” yang dirilis sebelumnya. Dokumen ini bertujuan untuk memberikan panduan kebijakan terkait adopsi AI Generatif (Gen AI) yang bertanggung jawab di kawasan ASEAN.

Kecerdasan buatan, atau yang lebih dikenal dengan AI (Artificial Intelligence), telah menimbulkan kekhawatiran di kalangan banyak orang. Kekhawatiran ini muncul akibat perkembangan AI yang sangat pesat, melampaui kecepatan alat pengawasan dan validasinya. Dalam situasi seperti ini, penting untuk kembali menekankan peran manusia sebagai pengendali utama teknologi tersebut. Pada dasarnya, AI merupakan hasil ciptaan manusia yang dirancang untuk mendukung berbagai tugas. Oleh karena itu, teknologi ini tidak boleh mengurangi nilai-nilai kemanusiaan penciptanya. Agar AI dapat digunakan dengan bijak, diperlukan pedoman dalam proses perancangan, pengembangan, dan penerapannya.

Oleh karena itu, ASEAN, sebagai organisasi regional di Asia Tenggara, menilai penting untuk merilis panduan praktis bagi setiap organisasi di kawasan ini dalam merancang, mengembangkan, dan menerapkan sistem AI Generatif, baik untuk aplikasi komersial maupun penggunaan ganda (dual-use application) di luar sektor militer.

AI Generatif merupakan teknologi yang mampu menghasilkan konten seperti teks, gambar, audio, dan video berdasarkan data yang telah dipelajari. Meskipun menawarkan potensi ekonomi dan sosial yang signifikan, Gen AI juga membawa sejumlah risiko yang perlu dikelola dengan bijak. Panduan ini dirancang untuk membantu pembuat kebijakan di ASEAN memahami tantangan dan peluang yang terkait dengan Gen AI, serta mengusulkan langkah-langkah kebijakan untuk mempromosikan penggunaan Gen AI yang tepercaya dan bertanggung jawab di kawasan ini.

Resiko yang Diidentifikasi

Panduan ini mengidentifikasi enam risiko utama yang terkait dengan Gen AI:

1. Kesalahan dan antropomorfisme: Kemampuan Gen AI untuk menghasilkan konten yang mirip dengan buatan manusia dapat menyebabkan pengguna menganggapnya lebih andal daripada yang sebenarnya.

2. Respon faktual yang tidak akurat dan disinformasi: Gen AI dapat menghasilkan informasi yang salah atau menyesatkan, berpotensi menyebarkan disinformasi.

3. Deepfakes, peniruan, dan aktivitas jahat: Kemampuan Gen AI untuk membuat konten yang sangat realistis dapat disalahgunakan untuk penipuan atau tujuan jahat lainnya.

4. Pelanggaran hak kekayaan intelektual: Penggunaan data yang dilindungi tanpa izin dalam pelatihan model Gen AI dapat melanggar hak cipta.

5. Privasi dan kerahasiaan: Pengolahan data pribadi oleh Gen AI menimbulkan kekhawatiran terkait privasi dan perlindungan data.

6. Propagasi bias yang tertanam: Gen AI dapat memperkuat bias yang ada dalam data pelatihan, menghasilkan output yang diskriminatif atau tidak adil.

Rekomendasi Kebijakan

Untuk mengatasi risiko-risiko tersebut, panduan ini mengajukan beberapa rekomendasi kebijakan, antara lain:

• Akuntabilitas: Menetapkan tanggung jawab yang jelas bagi pengembang, penyedia, dan pengguna Gen AI untuk memastikan penggunaan yang etis dan bertanggung jawab.

• Data: Mendorong praktik pengelolaan data yang baik, termasuk transparansi sumber data dan perlindungan data pribadi.

• Pengembangan dan Penerapan Tepercaya: Memastikan bahwa Gen AI dikembangkan dan diterapkan dengan mempertimbangkan keamanan dan keandalan.

• Pelaporan Insiden: Membangun mekanisme pelaporan insiden terkait Gen AI untuk meningkatkan respons dan mitigasi risiko.

• Pengujian dan Jaminan: Melakukan pengujian dan verifikasi terhadap sistem Gen AI untuk memastikan kinerja yang sesuai dengan standar yang ditetapkan.

• Keamanan: Mengidentifikasi dan mengatasi potensi ancaman keamanan yang ditimbulkan oleh Gen AI.

• Asal Usul Konten: Mendorong penandaan dan verifikasi asal usul konten yang dihasilkan oleh Gen AI untuk mencegah penyebaran informasi palsu.

• Riset dan Pengembangan Keamanan serta Penyesuaian: Mendukung penelitian yang berfokus pada peningkatan keamanan dan penyesuaian Gen AI dengan nilai-nilai masyarakat.

• AI untuk Kebaikan Publik: Memanfaatkan Gen AI untuk kepentingan publik, seperti peningkatan layanan pemerintah dan solusi untuk tantangan sosial.

Studi Kasus

Panduan ini juga menyajikan empat studi kasus dari berbagai negara anggota ASEAN yang telah mengimplementasikan praktik tata kelola dan etika AI:

• PhoGPT oleh VinAI (Vietnam): Pengembangan model bahasa besar (LLM) yang disesuaikan untuk bahasa Vietnam.

• Program AI Bertanggung Jawab oleh Accenture (ASEAN-wide): Inisiatif internal untuk memastikan penerapan AI yang etis di seluruh operasi perusahaan di ASEAN.

• Proyek Moonshot oleh AI Verify Foundation (Singapura): Upaya untuk mengembangkan alat verifikasi AI yang tepercaya dan transparan.

• ThaiLLM oleh BDI, NSTDA, VISTEC, dan kolaborator lainnya (Thailand): Kolaborasi untuk menciptakan model bahasa besar yang mendukung bahasa Thai.

Dengan panduan ini, ASEAN berkomitmen untuk mempromosikan adopsi Gen AI yang bertanggung jawab, aman, dan bermanfaat bagi seluruh masyarakat di kawasan. Pendekatan ini diharapkan dapat mendorong inovasi sekaligus melindungi kepentingan publik dan memastikan interoperabilitas kebijakan AI di seluruh negara anggota.

(sumber: asean.org)