Etika Penanganan Data (Data Handling Ethics)

Back to IF3140 Sistem Basis Data

Etika Penanganan Data (Data Handling Ethics)

Questions/Cues

• Apa itu Data Handling Ethics?

• Apa 3 konsep inti etika data?

• Apa 3 Prinsip Etika fundamental?

• Apa itu prinsip Respect for persons?

• Apa itu prinsip Beneficence? (2 elemen)

• Apa itu prinsip Justice?

• Apa saja risiko penanganan data yang tidak etis?

• Apa itu Bias dalam data?

• Apa itu GDPR?

• Apa 7 prinsip GDPR?

• Apa 4 langkah membangun budaya etis?

• Apa peran Data Governance dalam etika?

Reference Points

• Slides “14 - Data Management.pdf” (Slide 26-32)

• DAMA DMBOK, Chapter 2

Apa itu Etika Penanganan Data?

Etika Penanganan Data adalah bidang yang berfokus pada cara mendapatkan, menyimpan, mengelola, menggunakan, dan menghapus data dengan cara yang selaras dengan prinsip-prinsip etis.

Ini berpusat pada tiga konsep inti:

1. Dampak pada Manusia (Impact on people): Bagaimana penggunaan data ini memengaruhi individu?

2. Potensi Penyalahgunaan (Potential for misuse): Bisakah data ini disalahgunakan untuk merugikan?

3. Nilai Ekonomi Data: Bagaimana nilai data diseimbangkan dengan hak individu?

Tiga Prinsip Etika Fundamental

1. Respect for persons (Menghormati Martabat Manusia)

   • Memperlakukan orang dengan cara yang menghormati martabat dan otonomi mereka sebagai individu.

   • Membutuhkan perlindungan ekstra bagi mereka yang “otonominya berkurang” (misal: anak-anak).

2. Beneficence (Berbuat Kebaikan)

   Memiliki dua elemen:

   1. Do not harm (Jangan merugikan).

   2. Maximize possible benefits (Maksimalkan manfaat) dan Minimize possible harms (Minimalkan kerugian).

3. Justice (Keadilan)

   • Mempertimbangkan perlakuan yang adil dan merata terhadap semua orang. Apakah manfaat dan beban dari penggunaan data didistribusikan secara adil?

Risiko Penanganan Data yang Tidak Etis

1. Berbohong/Menyesatkan: Baik dengan sengaja menghilangkan data tertentu atau memasukkan data yang tidak relevan untuk menggiring opini.

2. Visualisasi Menyesatkan: Mengubah skala pada grafik (chart) agar tren terlihat lebih baik atau lebih buruk dari kenyataannya.

3. Perbandingan Tidak Valid: Menggunakan definisi yang tidak jelas untuk menyiratkan sesuatu yang tidak didukung oleh data.

4. Bias: Bias dapat masuk di setiap tahap siklus hidup data:

   • Saat pengumpulan (misal: survei hanya ke 1 kelompok usia).

   • Saat pemilihan (memilih data yang mendukung hipotesis).

   • Saat analisis (memilih model yang bias).

   • Saat presentasi (menyoroti hasil yang bias).

5. Obfuscating (Anonimisasi) yang Gagal: Upaya anonimisasi data sensitif mungkin tidak cukup jika data tersebut dapat digabungkan kembali (re-identification) di hilir.

Contoh Regulasi: GDPR

GDPR (General Data Protection Regulation) adalah regulasi Uni Eropa yang menjadi standar global untuk perlindungan data pribadi.

7 Prinsip Utama GDPR:

1. Fairness, Lawfulness, Transparency: Proses data harus adil, sah, dan transparan bagi subjek data.

2. Purpose Limitation: Data dikumpulkan untuk tujuan spesifik & sah, tidak boleh diproses untuk tujuan lain.

3. Data Minimization: Data harus relevan dan terbatas pada apa yang diperlukan saja.

4. Accuracy: Data harus akurat dan up-to-date.

5. Storage Limitation: Data tidak boleh disimpan lebih lama dari yang diperlukan.

6. Integrity and Confidentiality: Data harus diproses dengan aman (melindungi dari kebocoran, kehilangan, perusakan).

7. Accountability: Pengendali data (Data Controller) bertanggung jawab dan mampu membuktikan kepatuhan terhadap semua prinsip ini.

5. Membangun Budaya Etis & Peran Tata Kelola

Langkah-langkah membangun budaya etis:

1. Tinjau praktik penanganan data saat ini.

2. Identifikasi prinsip, praktik, dan faktor risiko.

3. Buat strategi dan roadmap penanganan data yang etis.

4. Adopsi model risiko etis yang bertanggung jawab secara sosial.

Peran Data Governance (Tata Kelola Data):

Data Governance adalah alat vital untuk memastikan etika. Tata kelola menetapkan standar, kebijakan, dan pengawasan untuk:

“Siapa bisa melakukan apa, dengan data apa, dan dalam kondisi apa pemrosesan data itu dianggap pantas atau diperlukan.”

Summary

Etika Penanganan Data berfokus pada pengelolaan data (dari pengumpulan hingga pembuangan) yang selaras dengan 3 prinsip moral: Respect (martabat manusia), Beneficence (jangan merugikan, maksimalkan manfaat), dan Justice (keadilan). Pelanggaran etika sering terjadi melalui bias, presentasi yang menyesatkan, atau kegagalan anonimisasi. Regulasi seperti GDPR menetapkan aturan ketat (misal: Purpose Limitation, Data Minimization). Untuk menegakkan ini, Data Governance berperan penting dalam menetapkan kebijakan dan pengawasan praktik data yang etis di seluruh organisasi.

Additional Information

Pendalaman Teknis: Bias dalam AI/Machine Learning

Risiko bias (Slide 29) menjadi sangat berbahaya dalam sistem AI/ML. Jika data historis yang digunakan untuk melatih model sudah mengandung bias sosial dari masa lalu, AI akan mempelajari dan mengotomatiskan bias tersebut dalam skala besar.

• Contoh 1 (Rekrutmen): AI dilatih menggunakan data rekrutmen 20 tahun terakhir, di mana mayoritas yang diterima adalah pria. AI mungkin akan “belajar” bahwa pelamar pria lebih baik daripada wanita dan secara otomatis menurunkan skor pelamar wanita.

• Contoh 2 (Kredit Bank): AI dilatih pada data historis di mana pinjaman lebih sering disetujui untuk lingkungan tertentu. AI mungkin akan “belajar” untuk menolak aplikasi dari lingkungan lain, meskipun pemohonnya layak.

Inilah mengapa Data Governance dan Etika sangat penting di Fase 1 (pengumpulan data) dan Fase 2 (pemilihan data) sebelum data tersebut digunakan untuk melatih AI.

Pendalaman Teknis: De-identification vs. Anonymization

• De-identification (Pseudonymization): Data sensitif (misal: Nama, NIK) diganti dengan token atau ID acak. Masih bisa dikembalikan ke data asli jika seseorang memiliki “kunci” pemetaannya. GDPR menganggap ini masih data pribadi.

• Anonymization: Data sensitif dihapus atau diagregasi sedemikian rupa sehingga tidak mungkin (atau sangat sulit) untuk mengidentifikasi individu kembali.

“Kegagalan Obfuscating” (Slide 29) sering terjadi ketika peneliti merilis data yang mereka anggap anonim, tetapi analis lain menggabungkannya dengan dataset publik lain (misal: daftar pemilih) dan berhasil mengidentifikasi ulang individu.

Sumber & Referensi Lanjutan:

• Buku: DAMA DMBOK: Data Management Body of Knowledge, 2nd Edition, Chapter 2.

• Regulasi: Teks lengkap “General Data Protection Regulation (GDPR)“.

• Konsep: “Algorithmic Bias”, “AI Ethics”, “Data Anonymization Techniques”.