Wamen Komdigi: AI Kesehatan Perlu Uji Etik dan Regulasi Sebelum Go Public
potretmaluku.id – Pemanfaatan kecerdasan artifisial (AI) di sektor kesehatan memerlukan perhatian khusus untuk memastikan bahwa teknologi ini aman, etis, dan sesuai dengan kebutuhan masyarakat. Wakil Menteri Komunikasi dan Digital, Nezar Patria, menekankan pentingnya proses pengembangan dan pengawasan melalui pendekatan sandboxing.
“AI harus melewati pengujian dalam lingkungan terbatas dan terkontrol sebelum diimplementasikan secara luas. Dengan proses ini, kita bisa memastikan kepatuhan sistem terhadap regulasi, mitigasi risiko, dan kesesuaian dengan use case yang diajukan,” ujar Nezar kepada Kelompok Kerja Komunikasi Risiko dan Pelibatan Masyarakat (Pokja RCCE+) di Jakarta Pusat, Jumat (2/5/2025).
Proses sandboxing memungkinkan pemangku kepentingan untuk menilai berbagai aspek teknis dan etis dari teknologi AI, termasuk kesiapan operasional dan dampaknya terhadap masyarakat. Nezar mencontohkan Tiongkok sebagai negara yang berhasil mengoptimalkan teknologi AI melalui sandboxing domestik sebelum memasarkannya secara global.
“Tiongkok sudah mencapai level advanced dalam pengembangan AI, termasuk menciptakan robot yang mampu menjalankan berbagai tugas. Sebelum memasuki pasar internasional, mereka terlebih dahulu melakukan pengujian di dalam negeri,” tuturnya.
Namun, tantangan dalam penerapan model Agentic AI, yang mampu membuat keputusan sendiri, tidak bisa diabaikan. Nezar menggarisbawahi bahwa risiko AI di sektor kesehatan meliputi aspek teknis, sosial, dan etis. Salah satu risiko terbesar adalah disinformasi, yang menempati posisi kedua tertinggi setelah politik.
“Kita harus punya kebijakan soal human in the loop untuk memastikan keputusan AI tetap melibatkan manusia. Tantangan lainnya adalah bias komersial yang dapat memengaruhi rekomendasi medis tanpa uji klinis yang memadai,” jelasnya.
Sebagai solusi, Nezar mendorong pengembangan AI berbasis data nasional yang telah divalidasi oleh para ahli dalam negeri. Pendekatan ini diyakini dapat menghasilkan sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila.
“Dengan data yang telah dikurasi, kita bisa membangun AI kesehatan yang mendukung kemajuan teknologi tanpa mengabaikan keselamatan dan etika,” tegasnya.(TIA)
IKUTI BERITA DAN ARTIKEL LAINNYA DI GOOGLE NEWS
Penulis : Redaksi
Editor : Redaksi
