SILTV.COM – Perkembangan teknologi kecerdasan buatan (AI) semakin banyak diterapkan dalam sistem pengawasan dan pengenalan objek. Namun, kemampuan tersebut ternyata masih memiliki celah yang dapat dimanfaatkan melalui sebuah pola visual tertentu.
Hal tersebut ditunjukkan desainer asal Jerman, Simon Weckert, melalui sebuah proyek bernama Digital Camouflage. Ia menciptakan kemeja dengan desain khusus yang ditujukan untuk mengganggu sistem computer vision ketika mencoba mengenali seseorang.
Kemeja tersebut memiliki pola abstrak dengan perpaduan warna hijau, merah muda, dan oranye. Sekilas, desainnya terlihat seperti kumpulan bentuk menyerupai sirip ikan, sisik reptil, kipas tradisional, hingga jamur yang tersusun secara simetris.
Namun, di balik tampilannya yang unik, pola tersebut memiliki fungsi khusus.
Dirancang untuk Mengacaukan Computer Vision
Weckert menggunakan teknik yang dikenal sebagai adversarial attack dalam proses pembuatan pola Digital Camouflage.
Teknik tersebut pada dasarnya memanfaatkan perubahan visual tertentu agar sistem AI mengalami kesulitan dalam mengidentifikasi sebuah objek.
Dalam proyek ini, pola pada kemeja dirancang untuk mengganggu karakteristik visual yang biasanya digunakan algoritma pendeteksi objek saat mencari dan mengenali bentuk tubuh manusia.
Weckert bahkan menggunakan AI dalam proses merancang pola tersebut. Sistem pendeteksi objek YOLO (You Only Look Once) yang bersifat open source digunakan sebagai bagian dari eksperimen.
Dengan demikian, proyek tersebut seolah memperlihatkan bagaimana satu teknologi berbasis AI dapat digunakan untuk menguji sekaligus mengganggu kemampuan teknologi AI lainnya.
Sistem AI Tidak Lagi Mengenali Pemakai sebagai Manusia
Dalam demonstrasi yang ditampilkan Weckert, sistem kamera berbasis AI yang diuji di Berlin, Jerman, biasanya memberikan label “Person” ketika menangkap seseorang di dalam bidang pandangnya.
Namun, ketika seseorang mengenakan kemeja Digital Camouflage, sistem tersebut terlihat mengalami kesulitan dalam mengenali pemakainya sebagai manusia.
Perubahan hasil deteksi inilah yang menjadi inti dari eksperimen Weckert. Pola pada pakaian bukan sekadar dekorasi, tetapi dibuat dengan mempertimbangkan bagaimana algoritma pengenalan objek membaca bentuk dan karakteristik visual.
Bukan Berarti Bisa Mengelabui Semua Kamera AI
Meski terlihat berhasil dalam demonstrasi, Digital Camouflage tidak berarti mampu membuat seseorang otomatis tidak terdeteksi oleh seluruh kamera pengawas berbasis AI.
Weckert sendiri tidak mengklaim kemeja tersebut sebagai alat yang dapat memberikan anonimitas secara menyeluruh.
Pengujian yang dilakukan menggunakan sistem YOLO generik dan open source. Sistem tersebut tentu berbeda dengan teknologi pengawasan yang mungkin digunakan oleh berbagai lembaga atau perusahaan.
Perbedaan algoritma, kamera, kualitas gambar, pencahayaan, jarak, sudut pengambilan gambar, serta konfigurasi sistem dapat memengaruhi hasil deteksi.
Karena itu, keberhasilan pola tersebut terhadap satu sistem AI tidak dapat dijadikan jaminan bahwa pola yang sama akan bekerja pada sistem lainnya.
Sebuah Proyek Seni dan Kritik terhadap Pengawasan AI
Digital Camouflage juga tidak sekadar menjadi eksperimen teknologi. Weckert menjadikan proyek tersebut sebagai karya seni yang mengangkat isu mengenai semakin luasnya penggunaan AI untuk melakukan pengawasan di ruang publik.
Melalui kemeja tersebut, ia ingin mengajak masyarakat mempertanyakan sejauh mana teknologi pengenalan berbasis AI dapat dipercaya.
Eksperimen itu menunjukkan bahwa sistem AI yang terlihat canggih sekalipun tetap memiliki keterbatasan. Perubahan pola visual pada sebuah pakaian saja dapat memengaruhi cara sistem komputer membaca dan mengklasifikasikan objek.
Dengan kata lain, Digital Camouflage menjadi media untuk mengkritisi hubungan antara manusia, teknologi, dan sistem pengawasan yang semakin banyak hadir di ruang publik.
Proyek Simon Weckert tersebut memperlihatkan bahwa perkembangan AI tidak hanya menghadirkan kemampuan baru, tetapi juga memunculkan pertanyaan mengenai akurasi, keterbatasan, serta tingkat kepercayaan manusia terhadap sistem otomatis.
