Introduction to Bayesian Networks

Back to IF3170 Inteligensi Artifisial

Topic: Introduction to Bayesian Networks (Structure & Components)

Questions/Cues

• Definisi Probabilistic Reasoning

• Joint Probability vs BN

• Komponen BN

• Struktur DAG

• CPT (Conditional Probability Table)

• Reduksi Kompleksitas

Reference Points

• File: 27. IF3170_Materi12_Seg01...pdf

• Halaman: 1-3, 8-12

1. Probabilistic Reasoning System (PRS)

PRS adalah bentuk Supervised Learning dengan ketidakpastian (Non-Deterministic).

• Fungsi: Menghitung peluang kejadian $x$ berdasarkan kondisi/bukti $e$ ($P(x|e)$).

• Dasar: Teori probabilitas sebagai model “derajat kepercayaan” (degree of belief).

2. Masalah Joint Probability Distribution

Untuk merepresentasikan dunia dengan $N$ variabel biner, distribusi probabilitas gabungan (Full Joint Probability Distribution) membutuhkan $2^N$ nilai probabilitas.

• Jika $N=5$, butuh $2^5=32$ entri.

• Jika $N$ besar, ukuran tabel menjadi intractably large (terlalu besar untuk dikelola).

3. Solusi: Bayesian Network (BN)

BN (disebut juga Belief Nets atau Causal Networks) memanfaatkan hubungan independensi antar variabel untuk mengurangi jumlah probabilitas yang perlu disimpan secara drastis.

• Contoh $N=5$: Full Joint butuh 32 nilai, BN dengan struktur kausal mungkin hanya butuh 20 nilai.

4. Struktur & Komponen BN

BN merepresentasikan ketergantungan kausal secara grafis.

• Struktur: Harus berupa DAG (Directed Acyclic Graph). Tidak boleh ada cycle (loop).

• Nodes: Merepresentasikan variabel kejadian (misal: Burglary, Earthquake).

• Arcs (Panah): Merepresentasikan hubungan sebab-akibat (causal dependencies). Arah panah dari Cause ke Effect.

• Numerical Parameters:

  • Untuk node tanpa orang tua (root): Probabilitas Prior ($P(A)$).

  • Untuk node dengan orang tua: Tabel Probabilitas Kondisional / CPT ($P(Effect|Cause)$).

5. Topologi Jaringan

Topologi menentukan asumsi independensi. Node $X$ dipengaruhi langsung oleh Parents-nya. BN encoding informasi: “Diberikan parents-nya, sebuah node independen terhadap non-descendants-nya”.

Summary

Bayesian Network adalah solusi efisien untuk merepresentasikan ketidakpastian dibandingkan Tabel Joint Probability yang eksponensial. BN menggunakan struktur grafik DAG di mana Node adalah variabel dan Arc adalah hubungan kausal. Efisiensi BN berasal dari pemanfaatan sifat Conditional Independence antar variabel, sehingga kita hanya perlu menyimpan Tabel Probabilitas Kondisional (CPT) lokal untuk setiap node.

Ad Libitum: Ilustrasi Joint Probability vs BN

Bayangkan N=5 Variabel Biner:

• Cara Lama (Joint Distribution): Anda harus menuliskan tabel raksasa dengan $2^5=32$ baris, di mana setiap baris adalah kombinasi kejadian (T,T,F,T,F) beserta peluangnya.

• Cara BN: Anda menggambar peta penyebab. Jika A menyebabkan B, Anda hanya simpan $P(B|A)$. Jika C tidak berhubungan dengan A dan B, Anda tidak perlu menyimpan $P(C|A,B)$. Ini menghemat memori dan komputasi secara masif.

Spaced Repetition Questions

1. Apa syarat utama struktur grafik pada Bayesian Network?

Grafik harus berupa DAG (Directed Acyclic Graph), artinya memiliki arah panah dan tidak boleh ada siklus/loop yang kembali ke node asal.

2. Bagaimana BN mengurangi kompleksitas penyimpanan dibandingkan Full Joint Probability?

Dengan memanfaatkan hubungan independensi kondisional. Alih-alih menyimpan semua kombinasi kemungkinan ($2^N$), BN hanya menyimpan probabilitas lokal (CPT) berdasarkan hubungan parent-child.