Zum Inhalt springen
Startseite

Bayessches Netzwerk – Definition, Aufbau & Anwendungen

Bayessches Netzwerk: Definition, Aufbau und Anwendungen im maschinellen Lernen – vom Bayes-Theorem bis zu Bild-, Sprach- und Dokumentenerkennung. Grundlagen, Praxisbeispiele und Einsatzfelder.

Autor: Erstellt: Aktualisiert:

Bayessches Netzwerk (auch Bayes'sches Netzwerk) ist ein gerichteter azyklischer Graph, der zur Modellierung von unsicheren Zusammenhängen zwischen Variablen verwendet wird. Die Zufallsvariablen des Modells werden durch Knoten dargestellt; gerichtete Kanten kodieren bedingte Abhängigkeiten. Jedes Kind hat dabei eine bedingte Wahrscheinlichkeitsverteilung gegeben seine Eltern, oft als bedingliche Wahrscheinlichkeitstabelle (CPT) dargestellt. Aus den lokalen Verteilungen lässt sich die gemeinsame Verteilung der Variablen faktorisieren: P(X1,...,Xn) = ∏ P(Xi | Eltern(Xi)). Dadurch können komplexe, multivariate Wahrscheinlichkeitsverteilungen kompakt beschrieben werden.

Aufbau und wichtige Begriffe

  • Knoten: Repräsentieren einzelne Zufallsvariablen (diskret oder kontinuierlich).
  • Kanten: Gerichtete Kanten zeigen direkte Einfluss-Beziehungen bzw. bedingte Abhängigkeiten an.
  • Gerichteter azyklischer Graph (DAG): Der Graph darf keine Zyklen enthalten – das macht viele mathematische Eigenschaften handhabbar.
  • Bedingte Wahrscheinlichkeitsverteilungen (CPTs): Zu jedem Knoten gehört eine Verteilung P(Knoten | Eltern). Bei diskreten Variablen wird dies als Tabelle angegeben.
  • Unabhängigkeitsannahmen: Die Struktur kodiert, welche Variablen bei Kenntnis ihrer Eltern unabhängig voneinander sind (bedingte Unabhängigkeiten).

Inference (Schlussfolgerung)

Häufig möchte man aus beobachteten Daten die Wahrscheinlichkeit einer oder mehrerer unbekannter Variablen berechnen (z. B. Diagnose: P(Krankheit | Symptome)). Es gibt zwei Hauptklassen von Verfahren:

  • Exakte Methoden: Variable Elimination, Belief Propagation (für Bäume und dünne Graphen), Junction-Tree-Algorithmus (für allgemeinere Graphen).
  • Approximate Methoden: Sampling-Verfahren wie Gibbs-Sampling oder andere MCMC-Methoden, sowie Variationsansätze. Diese werden eingesetzt, wenn exakte Berechnung zu teuer ist.

Lernen von Bayesschen Netzwerken

Beim Lernen unterscheidet man zwei Aufgaben:

  • Parameterschätzung: Gegeben eine feste Struktur, werden die CPTs aus Daten gelernt. Methoden sind Maximum-Likelihood-Schätzung und bayessche Schätzung (mit Prioren). Bei fehlenden Daten kommt oft der EM-Algorithmus zum Einsatz.
  • Strukturlernen: Struktur kann aus Daten gelernt werden. Verfahren sind:
    • Score-basierte Methoden (z. B. BIC, BDe) kombiniert mit Suchstrategien (Greedy, Hill-Climbing, MCMC).
    • Constraint-basierte Methoden (z. B. PC-Algorithmus), die bedingte Unabhängigkeiten testen.

Anwendungen

Bayessche Netzwerke werden breit eingesetzt, insbesondere im Bereich des maschinellen Lernens. Typische Anwendungsfelder sind:

  • Medizinische Diagnose und klinische Entscheidungsunterstützung (Symptome → Krankheiten).
  • Fehlerdiagnose in technischen Systemen und Zuverlässigkeitsanalyse.
  • Bioinformatik (Genregulationsnetzwerke, Genexpressionsanalyse).
  • Spracherkennung, Bild- und Dokumentenklassifikation sowie Information Retrieval.
  • Robotik und Entscheidungsplanung unter Unsicherheit (teilweise kombiniert mit Entscheidungstheorie und Einflussdiagrammen).
  • Wahrscheinlichkeitsbasierte Modelle in Wirtschaft, Finanzen und Risikomanagement.

Bezug zu Bayes’ Theorem

Die Grundlagen gehen zurück auf die Entdeckung von Reverend Thomas Bayes; das Bayes-Theorem liefert die Formel, wie Vorwissen und Beobachtungen kombiniert werden, und ist Grundlage für die bedingte Wahrscheinlichkeit in Bayesschen Netzen.

Vorteile und Grenzen

  • Vorteile: Intuitive grafische Darstellung, klare Interpretation bedingter Unabhängigkeiten, modularer Aufbau (lokale Modellierung), Kombination von Daten und Expertenwissen.
  • Grenzen: Struktur- und Parameterlernen können bei vielen Variablen rechenintensiv sein. Für kontinuierliche Variablen oder sehr dichte Netze sind Approximationen nötig. Außerdem beruhen Modelle auf den angenommenen Unabhängigkeiten – falsche Annahmen können zu verzerrten Ergebnissen führen.

Kurzbeispiel

Ein einfaches diagnostisches Netzwerk: Knoten für Grippe, Fieber und Husten. Kanten von Grippe zu Fieber bzw. Husten. Aus den CPTs lässt sich z. B. P(Grippe | Fieber = ja, Husten = ja) berechnen. Solche Modelle helfen, implizite Ursachenwahrscheinlichkeiten aus beobachteten Symptomen abzuleiten.

In der Praxis existieren zahlreiche Softwarepakete und Bibliotheken zur Konstruktion, Visualisierung und Auswertung Bayesscher Netzwerke; bei der Modellwahl spielt die Datenmenge, die gewünschte Genauigkeit und die Frage nach Interpretierbarkeit eine große Rolle.

Geschichte

Der Begriff "Bayesianische Netzwerke" wurde 1985 von Judea Pearl geprägt, um drei Aspekte hervorzuheben:

  1. Die oft subjektive Natur der eingegebenen Informationen.
  2. Der Rückgriff auf Bayes' Konditionierung als Grundlage für die Aktualisierung von Informationen.
  3. Die Unterscheidung zwischen kausalen und beweiskräftigen Argumentationsmodi, die Thomas Bayes' posthum veröffentlichte Arbeit von 1763 unterstreicht.

In den späten 1980er Jahren fassten die wegweisenden Texte Probabilistic Reasoning in Intelligent Systems und Probabilistic Reasoning in Expert Systems die Eigenschaften von Bayes'schen Netzwerken zusammen und trugen dazu bei, Bayes'sche Netzwerke als Studiengebiet zu etablieren.

Informelle Varianten solcher Netzwerke wurden erstmals 1913 vom Rechtsgelehrten John Henry Wigmore in Form von Wigmore-Tafeln zur Analyse von Prozessbeweisen verwendet. Eine andere Variante, genannt Pfaddiagramme, wurde von dem Genetiker Sewall Wright entwickelt und in den Sozial- und Verhaltenswissenschaften verwendet (meist mit linearen parametrischen Modellen).

Fragen und Antworten

F: Was ist ein Bayes'sches Netzwerk?

A: Ein Bayes'sches Netzwerk ist eine Art von Graph, der zur Modellierung unbeobachtbarer Ereignisse verwendet wird und für Schlussfolgerungen genutzt werden kann.

F: Welche Art von Graph wird in einem Bayes'schen Netzwerk verwendet?

A: Ein gerichteter Graph, der keine Zyklen enthält.

F: Was stellen die Knoten des Graphen in einem Bayes'schen Netzwerk dar?

A: Die Knoten stellen Zufallsvariablen dar.

F: Wie werden zwei Knoten in einem Bayes'schen Netzwerk miteinander verbunden?

A: Zwei Knoten können durch eine Kante verbunden werden, und die Kante hat eine zugehörige Übertragungswahrscheinlichkeit von einem Knoten zum anderen.

F: In welchem Bereich werden Bayes'sche Netzwerke hauptsächlich eingesetzt?

A: Bayes'sche Netzwerke werden vor allem im Bereich des (ungestützten) maschinellen Lernens verwendet.

F: Können Bayes'sche Netzwerke für die Klassifizierung von Informationen verwendet werden?

A: Ja, Bayes'sche Netzwerke können für die Klassifizierung von Informationen in Bereichen wie Bild-, Dokumenten- oder Spracherkennung und Information Retrieval verwendet werden.

F: Was ist die Grundlage eines Bayes'schen Netzwerks?

A: Ein Bayes'sches Netzwerk basiert auf der Entdeckung von Reverend Thomas Bayes in den 1740er Jahren, dem Bayes'schen Theorem.

Verwandte Artikel

Autor

AlegsaOnline.com Bayessches Netzwerk – Definition, Aufbau & Anwendungen

URL: https://de.alegsaonline.com/art/9691

Teilen

Quellen