(Beritadaerah-Jakarta) Kemajuan teknologi kecerdasan artifisial (AI) yang berlangsung sangat cepat dinilai membawa manfaat besar bagi berbagai sektor, namun di saat yang sama juga memunculkan tantangan baru, terutama terkait keamanan digital dan maraknya praktik penipuan berbasis teknologi.
Wakil Menteri Komunikasi dan Digital, Nezar Patria, menilai penggunaan teknologi deepfake yang mampu merekayasa suara, gambar, hingga video secara realistis menjadi salah satu ancaman yang perlu mendapat perhatian serius. Menurutnya, kemampuan AI saat ini telah memungkinkan pembuatan konten palsu yang semakin sulit dibedakan dari kondisi sebenarnya.
Dalam pidato kunci pada Indonesia Ethical AI Summit di Jakarta Selatan, Nezar menjelaskan bahwa perkembangan AI tidak lagi hanya berada pada tahap generative AI, tetapi mulai memasuki era agentic AI, yakni sistem yang mampu melakukan penalaran serta mengambil keputusan secara lebih mandiri.
Ia mengungkapkan bahwa kemajuan tersebut membuka peluang besar bagi peningkatan produktivitas dan inovasi digital. Namun, di sisi lain, risiko penyalahgunaan teknologi juga meningkat, termasuk untuk penyebaran informasi menyesatkan dan berbagai bentuk kejahatan siber.
Menurut Nezar, rendahnya pemahaman sebagian masyarakat mengenai perkembangan AI membuat mereka lebih rentan menjadi korban penipuan digital. Kondisi tersebut diperparah oleh munculnya konsep synthetic reality atau realitas sintetis, di mana hasil manipulasi AI semakin menyerupai kenyataan dan sulit dikenali.
Untuk mengurangi risiko tersebut, ia menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan sistem AI generasi terbaru. Pendekatan itu memastikan bahwa keputusan-keputusan penting yang dihasilkan AI tetap berada di bawah pengawasan dan kendali manusia.
Selain aspek pengawasan, Nezar juga menilai penerapan etika dalam pengembangan AI harus menjadi bagian yang terintegrasi sejak tahap perancangan teknologi. Prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan dinilai tidak cukup hanya menjadi komitmen sukarela, tetapi perlu diterapkan melalui pendekatan ethics by design.
Ia berpandangan bahwa setiap produk AI harus dibangun dengan mempertimbangkan dampak sosial dan keamanan sejak awal proses pengembangannya, sehingga risiko penyalahgunaan dapat diminimalkan.
Lebih lanjut, Nezar mendorong penguatan kolaborasi antara pemerintah, kalangan akademisi, pelaku industri, pengembang teknologi, serta komunitas pengguna AI dalam menyusun tata kelola yang adaptif terhadap perkembangan teknologi. Kerja sama lintas sektor tersebut dinilai penting untuk memastikan inovasi AI berkembang secara bertanggung jawab dan memberikan manfaat yang optimal bagi masyarakat.
Menurutnya, Indonesia Ethical AI Summit menjadi wadah strategis untuk menghimpun berbagai pandangan dan rekomendasi yang dapat menjadi masukan dalam penyusunan kebijakan AI nasional yang lebih komprehensif dan berlandaskan nilai-nilai etika.
Melalui forum tersebut, pemerintah berharap ekosistem AI di Indonesia dapat berkembang secara aman, inklusif, dan berkelanjutan, sekaligus mampu menghadapi berbagai tantangan baru yang muncul seiring pesatnya transformasi digital.