Inklusi Digital Memerlukan Hak untuk Memahami dan Menolak

- Advertisement -

My Assisten

Perbincangan tentang akses AI sering dimulai dengan pertanyaan siapa yang dapat menggunakan alat. Pertanyaan itu penting, tetapi belum cukup. Seseorang yang dapat membuka sebuah layanan belum tentu memahami apa yang akan dikerjakan atas namanya, bagaimana menilai usulan, atau kapan ia berhak mengatakan tidak.

Saya berpendapat bahwa inklusi digital perlu mencakup kemampuan ikut mengambil keputusan. Pengguna yang baru belajar seharusnya memiliki kesempatan untuk meminta penjelasan, membatasi lingkup pekerjaan, melibatkan pendamping, dan menunda persetujuan. Tanpa kesempatan tersebut, kemudahan penggunaan dapat memindahkan keputusan kepada pihak yang paling memahami sistem, sementara tanggung jawab atas dampaknya tetap berada pada pemilik layanan.

Bayangkan kelompok warga yang mengelola halaman kegiatan dan ingin memperbarui formulir pendaftaran. Seorang anggota mengetahui kebutuhan warga, sementara anggota lain membantu sisi teknis. Keduanya perlu memahami apakah perubahan hanya menambah pertanyaan, mengubah alur pengiriman, atau memengaruhi data yang diterima pengurus. Ilustrasi ini bukan kisah kelompok tertentu; tujuannya menunjukkan mengapa keputusan sederhana membutuhkan informasi yang dapat dibagi.

Penjelasan yang baik menghubungkan tindakan dengan akibat. Alih-alih hanya menyatakan bahwa formulir akan diperbaiki, usulan perlu menjawab bagian mana yang diubah, apa yang akan dilihat pengunjung, dan bagaimana hasilnya diperiksa. Bila ada kemungkinan layanan terganggu, pengelola perlu tahu cara menguji pada lingkungan terpisah dan apa rencana jika hasilnya tidak sesuai.

Bahasa yang mudah dipahami bukan berarti semua rincian harus dihilangkan. Seorang pemilik usaha mungkin tidak membutuhkan uraian teknis yang panjang, tetapi ia perlu mengetahui apakah pelanggan masih bisa memesan. Seorang pengelola teknis membutuhkan rincian yang lebih dalam untuk menilai risiko. Keduanya membutuhkan gambaran yang konsisten agar dapat membuat keputusan bersama.

Hak untuk menolak sama pentingnya dengan hak untuk menyetujui. Permintaan untuk memeriksa satu bagian website bukan persetujuan untuk mengubah bagian lain. Jika penjelasan terlalu kabur, orang yang berwenang perlu memiliki ruang untuk meminta perbaikan usulan. Keputusan menunda pekerjaan bukan kegagalan memakai teknologi; dalam keadaan tertentu, justru itulah bentuk tanggung jawab kepada pengguna layanan.

Tanggung jawab tidak berada pada pemilik layanan saja. Penyedia alat harus menjelaskan batas kemampuan dan ketidakpastiannya. Pendamping teknis perlu memastikan ia mempunyai kewenangan yang tepat dan dapat menerangkan dampak pekerjaannya. Organisasi yang menggunakan alat perlu menetapkan siapa yang meninjau usulan dan siapa pengelola yang menyetujui perubahan pada layanan aktif.

Dalam pendidikan, prinsip tersebut dapat dilatih melalui proyek kecil. Mahasiswa menuliskan masalah pengguna, membandingkan dua pilihan, lalu menjelaskan alasan memilih salah satunya. Penilaian tidak berhenti pada hasil akhir; pendidik juga dapat menanyakan apa yang belum diketahui peserta dan kapan mereka akan meminta bantuan. Latihan seperti ini membangun kemampuan bertanya ketika jawaban alat terlihat meyakinkan tetapi belum tentu sesuai konteks.

Dalam pendampingan UMKM, pengelola usaha perlu diberi kesempatan menilai dampak dengan ukuran yang dekat dengan pekerjaannya: apakah pelanggan masih dapat menyelesaikan pesanan, apakah informasi tambahan memang diperlukan, dan siapa yang memeriksa bila terjadi masalah. Pendamping dapat membantu menguji usulan tanpa mengambil alih seluruh keputusan pemilik usaha.

Pertanyaan tentang siapa yang menanggung akibat juga perlu dibicarakan sebelum pengujian. Bila sebuah layanan pendaftaran gagal sementara, dampaknya tidak hanya dirasakan oleh pengelola. Warga yang ingin mendaftar mungkin harus kembali lagi, sedangkan petugas perlu memeriksa apakah permintaan mereka tercatat. Menentukan waktu pengujian, memakai data contoh, dan menyiapkan cara kembali ke kondisi sebelumnya merupakan bagian dari menghormati waktu orang lain.

- Advertisement -

Namun, tanggung jawab tidak dapat dibebankan pada satu orang yang menekan tombol persetujuan. Ia memerlukan kesempatan untuk memperoleh penjelasan dan bantuan sesuai tugasnya. Organisasi perlu memberi waktu untuk peninjauan, mencatat pihak yang mengambil keputusan, serta membuka jalur perbaikan jika penjelasan atau hasilnya keliru. Kejelasan proses itu sama pentingnya bagi kelompok kecil maupun tim yang pekerjaannya dibagi di antara banyak orang.

Saya bagian dari tim DigitalBulwark, yang sedang menyiapkan platform AI untuk pengembangan aplikasi dan keamanan siber. Afiliasi ini perlu dinyatakan karena produk kami menjadi salah satu contoh pendekatan yang sedang direncanakan, bukan bukti bahwa persoalan inklusi telah selesai. Jalur API, CLI, aplikasi DigitalBulwark Studio, dan konsol web masih dalam rencana.

Rencana pengembangan keamanannya mencakup offensive untuk pengujian pada aset berizin, defensive untuk perlindungan dan perbaikan, serta referee untuk membantu mengevaluasi bukti dan kesesuaian dengan ruang lingkup. Hasil penilaian tetap memerlukan tinjauan manusia. Pengamanan berlapis yang direncanakan mencakup penolakan permintaan merusak atau serangan tanpa izin, persetujuan pengelola sebelum perubahan pada layanan aktif, dan pemisahan pengujian berisiko. Status penerapan tiap pengaman masih perlu dikonfirmasi; tidak satu pun dapat dipakai sebagai jaminan keamanan mutlak.

Kebijakan produk juga perlu membedakan siapa yang memiliki akun dan siapa yang berwenang atas aset. Hak memakai sebuah alat tidak dengan sendirinya memberi hak menguji website pihak lain. Ruang lingkup, izin, dan tanggung jawab terhadap orang yang memakai layanan harus tetap jelas.

Ukuran inklusi yang lebih baik bukan hanya jumlah orang yang mencoba alat, melainkan apakah mereka dapat memahami keputusan dan menyampaikan keberatan. Penyedia dan pengelola perlu memberi tempat bagi pertanyaan itu sejak awal, termasuk ketika jawabannya adalah belum melanjutkan perubahan.

Informasi persiapan DigitalBulwark tersedia di https://digitalbulwark.id; status akses dapat diperiksa di https://console.digitalbulwark.id.

Ilustrasi: Zen Chung/Pexels — https://www.pexels.com/photo/crop-multiracial-students-writing-on-sticky-notepad-near-laptop-5537517/

Facebook Comment
- Advertisement -