Ini Tantangan yang Diwaspadai dari Perkembangan Teknologi AI

BeritaNasional.com - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, membahas tantangan yang perlu diantisipasi dalam perkembangan teknologi kecerdasan buatan (AI), terutama dari segi etika.

Menurutnya, terdapat tujuh tantangan etika dalam AI yang harus diperhatikan. Salah satu tantangan utama adalah bias dan diskriminasi.
"Karena AI menggunakan data, dan pengolahan data ini dilakukan atau disiapkan oleh sebuah foundation model, yang berisi algoritma tertentu dan penyusunan algoritma ini terkadang juga tidak luput dari bias para developernya," ujar Nezar dalam sambutannya di acara Tech & Telco Summit 2025 di Jakarta, Jumat.

Nezar menjelaskan bahwa bias ini bersumber dari manusia, dalam hal ini para pengembang AI, yang memiliki sudut pandang serta keyakinan tertentu. Selain itu, data yang digunakan AI sering kali berasal dari sumber yang sudah mengandung bias, baik dalam aspek ras, suku, maupun agama. Akibatnya, hasil yang dihasilkan oleh AI cenderung mendukung kelompok masyarakat tertentu.

Tantangan kedua adalah transparansi dan akuntabilitas. Nezar mengungkapkan bahwa banyak sistem AI bekerja seperti black box atau kotak hitam, yang proses internalnya sulit dipahami.
"Jadi kadang-kadang sulit ditebak dengan model yang ada, dan sudah banyak riset juga bagaimana memecahkan persoalan black box dalam prosesing data yang dilakukan oleh artificial intelligence ini," ucapnya.

Kondisi ini menyebabkan kesulitan dalam menilai serta menentukan siapa yang bertanggung jawab atas keputusan yang diambil oleh AI.

Tantangan ketiga berkaitan dengan privasi, keamanan, dan pengawasan. Nezar menyoroti bahwa AI memerlukan jumlah data yang sangat besar agar dapat menghasilkan keputusan yang optimal. Namun, di dalamnya terdapat risiko terhadap data sensitif, termasuk data pribadi.
"Hal ini menimbulkan kecemasan dan juga kekhawatiran terkait pengumpulan, penyimpanan, dan penggunaan data yang dapat melanggar privasi individu," tuturnya.

Keempat, dampak AI terhadap tenaga kerja juga menjadi perhatian. Menurut Nezar, isu ini semakin menjadi perbincangan di tingkat global. Kemajuan AI memang membuka peluang pekerjaan baru, tetapi di sisi lain juga berisiko menghilangkan pekerjaan di beberapa sektor industri akibat otomatisasi.
"Karena itu dalam membuat policy dan membuat kebijakan di masa transisi atau di masa transformasi digital ini, dibutuhkan data-data yang cukup valid. Lalu strategi yang tepat juga agar kita bisa memastikan pekerjaan yang terdampak, dapat beradaptasi dengan perubahan," imbuhnya.

Kelima, isu tentang kreativitas dan kepemilikan karya seni yang dihasilkan AI juga menjadi tantangan. Nezar menekankan bahwa status kepemilikan atas karya seni buatan AI masih belum jelas, sehingga memunculkan berbagai keluhan serta perdebatan mengenai hak cipta.

Keenam, penggunaan algoritma AI untuk manipulasi sosial juga menjadi perhatian serius. Nezar menjelaskan bahwa algoritma AI dapat dimanfaatkan untuk merekayasa opini publik melalui media sosial, sehingga berpotensi digunakan untuk tujuan yang tidak etis.

Terakhir, ia menyoroti pengembangan senjata otonom berbasis AI yang mampu beroperasi tanpa kendali manusia.
"Senjata itu bisa terbang sendiri dengan sejumlah data-data yang ada di dalamnya ya. Dan dia bisa melakukan reasoning sendiri lalu mengambil keputusan sendiri," ungkapnya.

Nezar menyamakan teknologi ini dengan AI agentik yang saat ini tengah berkembang dan memprediksi bahwa senjata otonom dapat menjadi tren selanjutnya setelah era AI generatif.

Sumber: Antaranews