Wir wollen den unbekannten Parameter eines Bernoulli-Experiments anhand einer konkreten Stichprobe vom Umfang 100 schätzen. Zur Erinnerung: ein Bernoulli-Experiment nimmt mit Wahrscheinlichkeit den Wert 1 (=Erfolg) und mit Wahrscheinlichkeit 1-p den Wert 0 (=Mißerfolg) an. Die Zufallsvariable X nimmt also nur 2 Werte an, deren (höchsttriviale) Verteilung ist in Mathematica unter dem Namen "BernoulliDistribution[p]" verfügbar.
(Wir merken uns den Wert für später, um die Güte unserer Schätzung beurteilen zu können. Normalerweise ist aber sowieso unbekannt!)
Die Idee des Verfahrens ist nun: Für unbekanntes p ermitteln wir die Wahrscheinlichkeit für das Auftreten einer konkreten Stichprobe , d.h. die Wahrscheinlichkeit
Für unabhängige Zufallsvariable gilt nun ein Multiplikationssatz (ähnlich dem für unabhängige Ereignisse), sodaß wir die gesuchte Wahrscheinlichkeit durch
erhalten. Diese Funktion hängt nun noch von den Werten der konkreten Stichprobe und von dem in der Zufallsvariable X enthaltenen unbekannten Parameter p ab. Setzen wir aber die bekannten Werte der konkreten Stichprobe ein, so erhalten wir eine Funktion, die nur mehr von p abhängt!
Wir nennen diese Funktion die Likelihood-Funktion der konkreten Stichprobe . Wir erinnern uns daran, daß diese Funktion die Wahrscheinlichkeit für das Auftreten der vorliegenden konkreten Stichprobe beschreibt.
Aufgrund dieser Grafik erscheint es sinnvoll, den Wert in der Nähe von 0.7 zu schätzen, genauer gesagt
Wir können das Maximum auch exakt berechnen, indem wir die Nullstelle der 1. Ableitung ermiteln.
Wir können uns gleich für die Zukunft merken: Die Funktion hat an der gleichen Stelle wie ein Maximum, das in vielen Fällen einfacher zu ermitteln ist.
Der Tip lautet also:
So weit waren wir also gar nicht entfernt!