Autoregressiv Gleitend Durchschnittlich In R

Einführung in ARIMA Nichtseasonale Modelle. ARIMA p, d, q Vorhersage Gleichung ARIMA Modelle sind in der Theorie die allgemeinste Klasse von Modellen für die Vorhersage einer Zeitreihe, die gemacht werden kann, um stationär zu sein, indem sie gegebenenfalls, wenn auch in Verbindung mit nichtlinearen Transformationen, differenziert werden Wie z. B. Protokollierung oder Ablehnung, wenn nötig Eine zufällige Variable, die eine Zeitreihe ist, ist stationär, wenn ihre statistischen Eigenschaften alle über die Zeit konstant sind Eine stationäre Serie hat keinen Trend, ihre Variationen um ihren Mittelwert haben eine konstante Amplitude, und sie wackelt in einer konsistenten Weise Dh ihre kurzfristigen zufälligen Zeitmuster sehen immer in einem statistischen Sinn gleich aus. Die letztere Bedingung bedeutet, dass ihre Autokorrelationskorrelationen mit ihren eigenen vorherigen Abweichungen vom Mittel konstant über die Zeit bleiben oder äquivalent, dass sein Leistungsspektrum über die Zeit konstant bleibt Variable dieses Formulars kann wie gewöhnlich als eine Kombination von Signal und Rauschen betrachtet werden, und das Signal, wenn man offensichtlich ist, könnte ein Muster der schnellen oder langsamen mittleren Reversion oder sinusförmigen Oszillation oder eines schnellen Wechseles im Zeichen sein, und es könnte auch haben Eine saisonale Komponente Ein ARIMA-Modell kann als ein Filter betrachtet werden, der versucht, das Signal vom Rauschen zu trennen, und das Signal wird dann in die Zukunft extrapoliert, um Prognosen zu erhalten. Die ARIMA-Prognosegleichung für eine stationäre Zeitreihe ist eine lineare, dh regression - Typ-Gleichung, in der die Prädiktoren aus Verzögerungen der abhängigen Variablen und / oder Verzögerungen der Prognosefehler bestehen. Das ist. Gezahlter Wert von Y eine Konstante und / oder eine gewichtete Summe aus einem oder mehreren neueren Werten von Y und einer gewichteten Summe von eins oder Neuere Werte der Fehler. Wenn die Prädiktoren nur aus verzögerten Werten von Y bestehen, ist es ein reines autoregressives, selbstregressives Modell, das nur ein Spezialfall eines Regressionsmodells ist und mit Standardregressionssoftware ausgestattet werden könnte Erstklassiges autoregressives AR 1 - Modell für Y ist ein einfaches Regressionsmodell, bei dem die unabhängige Variable nur Y um eine Periode LAG Y, 1 in Statgraphics oder YLAG1 in RegressIt liegt. Wenn einige der Prädiktoren Fehler der Fehler sind, ein ARIMA-Modell Es handelt sich dabei nicht um ein lineares Regressionsmodell, denn es gibt keine Möglichkeit, den letzten Periodenfehler als eigenständige Variable anzugeben, die Fehler müssen auf einer Periodendauer berechnet werden, wenn das Modell an die Daten angepasst ist. Aus technischer Sicht ist die Problem bei der Verwendung von verzögerten Fehlern als Prädiktoren ist, dass die Vorhersagen des Modells keine linearen Funktionen der Koeffizienten sind, obwohl sie lineare Funktionen der vergangenen Daten sind. Daher müssen Koeffizienten in ARIMA-Modellen, die verzögerte Fehler enthalten, durch nichtlineare Optimierungsmethoden hill-climbing geschätzt werden Anstatt nur ein System von Gleichungen zu lösen. Das Akronym ARIMA steht für Auto-Regressive Integrated Moving Average Lags der stationären Serie in der Prognose Gleichung heißen autoregressive Begriffe, Verzögerungen der Prognosefehler werden als gleitende durchschnittliche Ausdrücke und eine Zeitreihe bezeichnet Die gestört werden muss, um stationär zu sein, soll eine integrierte Version einer stationären Serie sein. Random-Walk - und Random-Trend-Modelle, autoregressive Modelle und exponentielle Glättungsmodelle sind alle Sonderfälle von ARIMA-Modellen. Ein nicht seasonales ARIMA-Modell wird klassifiziert Als ARIMA p, d, q Modell, wobei p die Anzahl der autoregressiven Terme ist. d ist die Anzahl der für die Stationarität benötigten Nichtseasonalunterschiede und ist die Anzahl der verzögerten Prognosefehler in der Vorhersagegleichung. Die Prognosegleichung ist Konstruiert wie folgt Zuerst bezeichne y die d-te Differenz von Y, die bedeutet. Hinweis, dass die zweite Differenz von Y der d 2 Fall ist nicht der Unterschied von 2 Perioden vor Vielmehr ist es die erste Differenz-of-the-first Unterschied, das ist das diskrete Analog einer zweiten Ableitung, dh die lokale Beschleunigung der Serie und nicht die lokale Tendenz. In Bezug auf y die allgemeine Prognose Gleichung ist. Hier sind die gleitenden durchschnittlichen Parameter s definiert, so dass ihre Zeichen sind negativ in der Gleichung, nach der Konvention von Box und Jenkins eingeführt Einige Autoren und Software einschließlich der R-Programmiersprache definieren sie so, dass sie Pluszeichen statt haben Wenn die tatsächlichen Zahlen in die Gleichung gesteckt sind, gibt es keine Mehrdeutigkeit, aber es ist wichtig zu wissen, welche Konvention Ihre Software verwendet, wenn Sie die Ausgabe lesen Oft werden die Parameter dort mit AR 1, AR 2, und MA 1, MA 2, etc. identifiziert. Um das passende ARIMA-Modell für Y zu identifizieren, beginnen Sie mit der Bestimmung der Reihenfolge der differenzierenden d Notwendigkeit Um die Serie zu stationieren und die Brutto-Features der Saisonalität zu entfernen, vielleicht in Verbindung mit einer Varianz-stabilisierenden Transformation wie Logging oder Deflating Wenn Sie an dieser Stelle stoppen und voraussagen, dass die differenzierte Serie konstant ist, haben Sie nur einen zufälligen Spaziergang oder zufällig platziert Trendmodell Allerdings können die stationärisierten Serien noch autokorrelierte Fehler aufweisen, was darauf hindeutet, dass in der Prognosegleichung auch eine Anzahl von AR-Terme p1 und / oder einige Anzahl MA-Terme q1 erforderlich sind. Verfahren zur Bestimmung der Werte von p, d und Q, die am besten für eine gegebene Zeitreihe sind, werden in späteren Abschnitten der Notizen besprochen, deren Links oben auf dieser Seite stehen, aber eine Vorschau auf einige der Arten von nicht-seasonalen ARIMA-Modellen, die häufig angetroffen werden, ist unten angegeben. ARIMA 1 , 0,0 erstklassiges autoregressives Modell, wenn die Serie stationär und autokorreliert ist, vielleicht kann es als ein Vielfaches ihres eigenen vorherigen Wertes prognostiziert werden, plus eine Konstante Die Prognosegleichung in diesem Fall ist. das ist Y, das auf sich selbst zurückgeblieben ist Eine Periode Dies ist ein ARIMA 1,0,0 Konstante Modell Wenn der Mittelwert von Y Null ist, dann wäre der konstante Term nicht enthalten. Wenn der Steigungskoeffizient 1 positiv und kleiner als 1 in der Größenordnung ist, muss er kleiner als 1 in sein Größe, wenn Y stationär ist, beschreibt das Modell das Mittel-Rückkehr-Verhalten, bei dem der nächste Perioden-s-Wert 1 mal so weit weg von dem Mittelwert liegen sollte, wie dieser Periodenwert Wenn 1 negativ ist, prognostiziert er das Mittel-Rückkehr-Verhalten mit Wechsel Von Zeichen, dh es sagt auch voraus, dass Y unterhalb der mittleren nächsten Periode sein wird, wenn es über dem Mittelwert dieser Periode liegt. In einem autoregressiven Modell der zweiten Ordnung ARIMA 2,0,0 würde es einen Y-t-2-Term geben Genau so gut und so weiter Abhängig von den Zeichen und Größenordnungen der Koeffizienten könnte ein ARIMA 2.0,0 Modell ein System beschreiben, dessen mittlere Reversion in einer sinusförmig oszillierenden Weise stattfindet, wie die Bewegung einer Masse auf einer Feder, die Wird zufälligen Schocks ausgesetzt. ARIMA 0,1,0 zufälliger Spaziergang Wenn die Serie Y nicht stationär ist, ist das einfachste Modell für sie ein zufälliges Spaziergangmodell, das als Begrenzungsfall eines AR 1 - Modells betrachtet werden kann Autoregressiver Koeffizient ist gleich 1, dh eine Reihe mit unendlich langsamer mittlerer Reversion Die Vorhersagegleichung für dieses Modell kann wie überall geschrieben werden, wo der konstante Term die durchschnittliche Periodenänderung ist, dh die Langzeitdrift in Y Dieses Modell könnte sein Als ein Nicht-Intercept-Regressionsmodell, bei dem die erste Differenz von Y die abhängige Variable ist, da sie nur eine nicht-seasonale Differenz und einen konstanten Term enthält, wird sie als ARIMA 0,1,0-Modell mit Konstante klassifiziert. Die zufällige Walk - Ohne - Drift-Modell wäre ein ARIMA-0,1,0-Modell ohne constant. ARIMA 1,1,0 differenzierte Autoregressive Modell erster Ordnung Wenn die Fehler eines zufälligen Walk-Modells autokorreliert sind, kann das Problem eventuell durch Hinzufügen einer Verzögerung behoben werden Der abhängigen Variablen zur Vorhersagegleichung - dh durch Rückkehr der ersten Differenz von Y auf sich selbst verzögert um eine Periode Dies würde die folgende Vorhersagegleichung ergeben, die umgeordnet werden kann. Dies ist ein autoregressives Modell erster Ordnung mit einer Ordnung von Nonseasonal differenzing und ein konstanter term - dh ein ARIMA 1,1,0 model. ARIMA 0,1,1 ohne konstante einfache exponentielle Glättung Eine weitere Strategie zur Korrektur autokorrelierter Fehler in einem zufälligen Walk-Modell wird durch das einfache exponentielle Glättungsmodell vorgeschlagen Für einige nichtstationäre Zeitreihen, z. B. solche, die geräuschvolle Schwankungen um ein langsam variierendes Mittel aufweisen, führt das zufällige Spaziergangmodell nicht so gut wie ein gleitender Durchschnitt der vergangenen Werte. Anders ausgedrückt, anstatt die jüngste Beobachtung als die Prognose der Nächste Beobachtung ist es besser, einen Durchschnitt der letzten Beobachtungen zu verwenden, um das Rauschen herauszufiltern und den lokalen Mittel genauer zu schätzen. Das einfache exponentielle Glättungsmodell verwendet einen exponentiell gewichteten gleitenden Durchschnitt der vergangenen Werte, um diesen Effekt zu erzielen. Die Vorhersagegleichung Denn das einfache exponentielle Glättungsmodell kann in einer Anzahl von mathematisch äquivalenten Formen geschrieben werden, von denen eine die sogenannte Fehlerkorrekturform ist, in der die vorherige Prognose in Richtung des von ihr vorgenommenen Fehlers eingestellt wird. Weil e t-1 Y T-1 - t-1 per definitionem kann dies umgeschrieben werden, da ist eine ARIMA 0,1,1 - without-konstante Prognosegleichung mit 1 1 - das bedeutet, dass man eine einfache exponentielle Glättung platzieren kann, indem man sie als ARIMA 0,1,1 Modell ohne Konstante, und der geschätzte MA 1 - Koeffizient entspricht 1-minus-alpha in der SES-Formel Erinnern Sie sich, dass im SES-Modell das Durchschnittsalter der Daten in den Prognosen von 1 Periode 1 beträgt Was bedeutet, dass sie tendenziell hinter Trends oder Wendepunkten um etwa 1 Perioden zurückbleiben. Daraus folgt, dass das Durchschnittsalter der Daten in den 1-Periodenprognosen eines ARIMA 0,1,1 - without-constant-Modells 1 1 - 1 Wenn also 1 0 8 das Durchschnittsalter 5 ist, so nähert sich das ARIMA 0,1,1 - without-konstantes Modell zu einem sehr langfristigen gleitenden Durchschnitt, und wenn 1 sich nähert, wird es Ein zufälliges Spaziergang ohne Drift-Modell. Was ist der beste Weg, um die Autokorrelation zu korrigieren, indem man AR-Terme hinzufügt oder MA-Terme hinzufügt. In den vorangegangenen zwei Modellen, die oben diskutiert wurden, wurde das Problem der autokorrelierten Fehler in einem zufälligen Walk-Modell auf zwei verschiedene Arten festgelegt Durch Hinzufügen eines verzögerten Wertes der differenzierten Reihe zur Gleichung oder Hinzufügen eines verzögerten Wertes des Prognosefehlers, welcher Ansatz am besten ist. Ein Schlüsselbund für diese Situation, der später ausführlicher erörtert wird, ist die positive Autokorrelation In der Regel am besten behandelt durch Hinzufügen eines AR-Begriffs zum Modell und negative Autokorrelation ist in der Regel am besten durch Hinzufügen eines MA-Begriffs In Business-und wirtschaftlichen Zeitreihen, negative Autokorrelation oft entsteht als Artefakt der Differenzierung Im Allgemeinen, differenziert reduziert positive Autokorrelation und kann sogar verursachen Ein Wechsel von positiver zu negativer Autokorrelation So wird das ARIMA-0,1,1-Modell, bei dem die Differenzierung von einem MA-Term begleitet wird, häufiger als ein ARIMA 1,1,0-Modell verwendet. ARIMA 0,1,1 mit konstantem Einfache exponentielle Glättung mit Wachstum Durch die Implementierung des SES-Modells als ARIMA-Modell erhalten Sie tatsächlich eine gewisse Flexibilität Zunächst einmal darf der geschätzte MA 1 - Koeffizient negativ sein, dies entspricht einem Glättungsfaktor größer als 1 in einem SES-Modell In der Regel nicht erlaubt durch das SES-Modell-Anpassungsverfahren Zweitens haben Sie die Möglichkeit, einen konstanten Begriff in das ARIMA-Modell einzubeziehen, wenn Sie es wünschen, um einen durchschnittlichen Nicht-Null-Trend zu schätzen. Das ARIMA-0,1,1-Modell mit Konstante hat Die Vorhersagegleichung. Die Prognosen für ein Periodenabschätzung von diesem Modell sind qualitativ ähnlich denen des SES-Modells, mit der Ausnahme, dass die Trajektorie der Langzeitprognosen typischerweise eine abfallende Linie ist, deren Steigung gleich mu ist, anstatt einer horizontalen Linie. ARIMA 0,2,1 oder 0,2,2 ohne konstante lineare exponentielle Glättung Lineare exponentielle Glättungsmodelle sind ARIMA-Modelle, die zwei Nichtseason-Differenzen in Verbindung mit MA-Terme verwenden. Der zweite Unterschied einer Serie Y ist nicht einfach der Unterschied zwischen Y und Selbst ist von zwei Perioden verzögert, aber vielmehr ist es der erste Unterschied der ersten Differenz - der Wechsel-in-der-Änderung von Y in der Periode t. Somit ist die zweite Differenz von Y in der Periode t gleich Yt-Y T-1 - Y t-1 - Y t-2 Y t - 2Y t-1 Y t-2 Eine zweite Differenz einer diskreten Funktion ist analog zu einer zweiten Ableitung einer stetigen Funktion, die die Beschleunigung oder Krümmung in der Funktion misst Zu einem gegebenen Zeitpunkt. Das ARIMA-0,2,2-Modell ohne Konstante prognostiziert, dass die zweite Differenz der Serie gleich einer linearen Funktion der letzten beiden Prognosefehler ist, die umgestellt werden kann, wo 1 und 2 die MA 1 sind Und MA 2 Koeffizienten Dies ist ein allgemeines lineares exponentielles Glättungsmodell, das im Wesentlichen das gleiche wie das Holt-Modell ist, und das Brown-Modell ist ein Spezialfall Es verwendet exponentiell gewichtete Bewegungsdurchschnitte, um sowohl eine lokale Ebene als auch einen lokalen Trend in der Serie zu schätzen. Term-Prognosen aus diesem Modell konvergieren zu einer Geraden, deren Steigung von der durchschnittlichen Tendenz abhängt, die gegen Ende der Serie beobachtet wird. ARIMA 1,1,2 ohne konstante gedämpfte Trend lineare exponentielle Glättung. Dieses Modell ist in den begleitenden Folien auf ARIMA dargestellt Modelle Es extrapoliert den lokalen Trend am Ende der Serie, aber legt es bei längeren Prognosehorizonten ab, um eine Note des Konservatismus einzuführen, eine Praxis, die empirische Unterstützung hat. Sehen Sie den Artikel auf Warum der gedämpfte Trend von Gardner und McKenzie und der Goldenen Regel arbeitet Artikel von Armstrong et al für Details. Es ist in der Regel ratsam, an Modellen, in denen mindestens eines von p und q ist nicht größer als 1, dh nicht versuchen, ein Modell wie ARIMA 2,1,2, wie dies zu passen Dürfte zu Überfüllung und Gemeinsamen Faktoren führen, die in den Anmerkungen zur mathematischen Struktur von ARIMA-Modellen näher erörtert werden. Spreadsheet-Implementierung ARIMA-Modelle wie die oben beschriebenen sind einfach in einer Tabellenkalkulation implementierbar. Die Vorhersagegleichung ist einfach ein Lineare Gleichung, die sich auf vergangene Werte der ursprünglichen Zeitreihen und vergangene Werte der Fehler bezieht. So können Sie eine ARIMA-Prognosekalkulationstabelle einrichten, indem Sie die Daten in Spalte A, die Prognosemethode in Spalte B und die Fehlerdaten abzüglich Prognosen in Spalte speichern C Die Prognoseformel in einer typischen Zelle in Spalte B wäre einfach ein linearer Ausdruck, der sich auf Werte in vorhergehenden Zeilen der Spalten A und C bezieht, multipliziert mit den entsprechenden AR - oder MA-Koeffizienten, die in anderen Zellen auf der Kalkulationstabelle gespeichert sind. Autoregressive Moving Average ARMA p , Q Modelle für die Zeitreihenanalyse - Teil 3.Dies ist der dritte und letzte Posten in der Mini-Serie auf Autoregressive Moving Average ARMA Modelle für die Zeitreihenanalyse Wir haben Autoregressive Modelle und Moving Average Modelle in den beiden vorherigen Artikeln eingeführt. Jetzt ist es Zeit, um sie zu kombinieren, um ein anspruchsvolleres Modell zu produzieren. Dies führt uns schließlich zu den ARIMA - und GARCH-Modellen, die es uns erlauben, die Vermögensrenditen vorherzusagen und die Volatilität zu prognostizieren. Diese Modelle bilden die Grundlage für den Handel mit Signalen und Risikomanagementtechniken Lesen Sie Teil 1 und Teil 2 Sie werden gesehen haben, dass wir dazu neigen, ein Muster für unsere Analyse eines Zeitreihenmodells zu folgen. Ich werde es kurz hier wiederholen. Begründung - Warum interessieren wir uns für dieses spezielle Modell. Definition - Eine mathematische Definition zu reduzieren Ambiguity. Correlogram - Plotten eines Beispiel-Korrelogramms, um ein Modell-Verhalten zu visualisieren. Simulation und Anpassung - Anpassung des Modells an Simulationen, um sicherzustellen, dass wir das Modell richtig verstanden haben. Real Financial Data - Bewerben Sie das Modell auf echte historische Vermögenspreise. Prediction - Prognose nachfolgende Werte, um Trading-Signale oder Filter zu bauen. Um diesen Artikel zu folgen, ist es ratsam, einen Blick auf die vorherigen Artikel auf Zeitreihenanalyse Sie können alle hier gefunden werden. Bayesian Information Criterion. In Teil 1 dieser Artikelserie wir Schaute auf die Akaike Information Criterion AIC als Mittel, um uns zu helfen, zwischen separaten besten Zeitreihenmodellen zu wählen. Ein eng verwandtes Werkzeug ist das Bayesian Information Criterion BIC Im Wesentlichen hat es ein ähnliches Verhalten gegenüber der AIC, dass es Modelle für mit zu vielen Parametern bestraft Kann zu Überfüllung führen Der Unterschied zwischen der BIC und AIC ist, dass die BIC ist strenger mit der Bestrafung der zusätzlichen Parameter. Bayesian Information Criterion. Wenn wir die Wahrscheinlichkeit Funktion für ein statistisches Modell, die k Parameter hat und L maximiert die Wahrscheinlichkeit Dann ist die Bayesian Information Criterion gegeben. Wo n ist die Anzahl der Datenpunkte in der Zeitreihe. Wir werden die AIC und BIC unten bei der Auswahl geeigneter ARMA p, q models. Ljung-Box Test. In Teil 1 dieser Artikel-Serie Rajan erwähnt in der Disqus kommentiert, dass die Ljung-Box-Test war besser geeignet als mit dem Akaike Information Criterion der Bayesian Information Criterion bei der Entscheidung, ob ein ARMA-Modell war eine gute Passform zu einer Zeitreihe. Die Ljung-Box-Test ist ein Klassischer Hypothesentest, der entworfen ist, um zu testen, ob ein Satz von Autokorrelationen eines angepassten Zeitreihenmodells sich signifikant von Null unterscheidet. Der Test testet nicht jede einzelne Verzögerung für Zufälligkeit, sondern prüft die Zufälligkeit über eine Gruppe von lags. Ljung-Box Test. Wir definieren die Nullhypothese als die Zeitreihendaten bei jeder Verzögerung, dh die Korrelationen zwischen den Populationsreihenwerten sind Null. Wir definieren die Alternativhypothese als Die Zeitreihendaten sind nicht iid und besitzen eine serielle Korrelation. Wir berechnen die folgenden Teststatistik Q. Wenn n die Länge der Zeitreihenprobe ist, ist H die Stichprobenautokorrelation bei der Verzögerung k und h die Anzahl der Verzögerungen unter dem Test. Die Entscheidungsregel, ob die Nullhypothese zurückgewiesen werden soll, besteht darin, zu prüfen, ob Q chi 2, für eine chi-quadratische Verteilung mit h Freiheitsgraden bei dem 100-1-alpha-ten Perzentil. Während die Details des Tests etwas komplex erscheinen können, können wir in der Tat R verwenden, um den Test für uns zu berechnen Prozedur etwas. Autogressive Moving Average ARMA Modelle der Ordnung p, q. Jetzt haben wir den BIC und den Ljung-Box Test besprochen, wir sind bereit, unser erstes gemischtes Modell zu besprechen, nämlich den Autoregressiven Moving Average der Ordnung p, q oder ARMA p, q. Zum haben wir autoregressive Prozesse und gleitende Mittelprozesse betrachtet. Das bisherige Modell betrachtet sein eigenes vergangenes Verhalten als Inputs für das Modell und als solche Versuche, Marktteilnehmereffekte wie Impuls und Mittelwertreduktion im Aktienhandel zu erfassen. Das letztere Modell wird verwendet, um Schock-Informationen zu einer Serie zu charakterisieren, wie etwa eine Überraschungs-Gewinn-Ankündigung oder ein unerwartetes Ereignis wie die BP Deepwater Horizon Ölpest. Daher versucht ein ARMA-Modell, diese beiden Aspekte bei der Modellierung von finanziellen Zeitreihen zu erfassen. Beachten Sie, dass ein ARMA-Modell nicht berücksichtigt Volatilität Clustering, eine wichtige empirische Phänomene von vielen finanziellen Zeitreihen Es ist kein bedingt heteroscedastisches Modell Für das müssen wir auf die ARCH und GARCH Modelle warten. Das ARMA p, q-Modell ist Eine lineare Kombination von zwei linearen Modellen und ist somit selbst noch linear. Autoregressive Moving Average Modell der Ordnung p, qA Zeitreihenmodell, ist ein autoregressives gleitendes durchschnittliches Modell der Ordnung p, q ARMA p, q, wenn. Beginnen xt alpha1 x alpha2 x ldots wt beta1 w beta2 w ldots betaq w end. Wo ist weißes Rauschen mit E wt 0 und Varianz Sigma 2.Wenn wir den Rückwärtsschaltoperator sehen, sehen wir einen vorherigen Artikel dann können wir das oben als Funktion umschreiben Theta und phi von. Wir können einfach sehen, dass durch die Einstellung p neq 0 und q 0 wir wieder das AR p Modell Ähnlich, wenn wir p 0 und q neq 0 setzen wir wieder das MA q Modell. Eines der wichtigsten Features des ARMA-Modells Ist, dass es sparsam und redundant in seinen Parametern ist. Das heißt, ein ARMA-Modell benötigt oft weniger Parameter als ein AR - oder MA q-Modell alleine. Wenn wir die Gleichung in Bezug auf das BSO umschreiben, dann können die Theta - und Phi-Polynome Manchmal teilen sich ein gemeinsamer Faktor, was zu einem einfacheren Modell führt. Simulationen und Correlograms. Mit den autoregressiven und gleitenden Durchschnittsmodellen werden wir nun verschiedene ARMA-Serien simulieren und dann versuchen, ARMA-Modelle an diese Realisierungen anzupassen. Wir führen das aus, weil wir wollen Stellen Sie sicher, dass wir das Anpassungsverfahren verstehen, einschließlich der Berechnung von Konfidenzintervallen für die Modelle, sowie sicherstellen, dass das Verfahren tatsächlich angemessene Schätzungen für die ursprünglichen ARMA-Parameter wiederherstellt. In Teil 1 und Teil 2 haben wir die AR - und MA-Serie manuell konstruiert Indem man N Samples aus einer Normalverteilung zeichnet und dann das spezifische Zeitreihenmodell unter Verwendung von Verzögerungen dieser Samples erstellt. Jedoch gibt es einen einfacheren Weg, um AR, MA, ARMA und sogar ARIMA Daten zu simulieren, einfach durch Verwendung der Methode in R. Lassen Sie es mit dem einfachsten nicht-trivialen ARMA-Modell beginnen, nämlich dem ARMA 1,1-Modell Das ist ein autoregressives Modell der Ordnung, kombiniert mit einem gleitenden Durchschnittsmodell der Ordnung Ein solches Modell hat nur zwei Koeffizienten, Alpha und Beta, Die die ersten Verzögerungen der Zeitreihe selbst und die Schock-Weiß-Rausch-Terme darstellen. Ein solches Modell wird gegeben durch. Wir müssen die Koeffizienten vor der Simulation angeben. Setzen wir alpha 0 5 und beta -0 5. Die Ausgabe ist wie folgt. Realisierung eines ARMA 1,1 Modells mit alpha 0 5 und beta 0 5.Let s auch das Korrelogram. Korrelogramm eines ARMA 1,1 Modells mit alpha 0 5 und beta 0 5.We sehen, dass es keine gibt Signifikante Autokorrelation, die von einem ARMA 1,1-Modell zu erwarten ist. Schließlich lassen Sie versuchen, die Koeffizienten und ihre Standardfehler mit der arima-Funktion zu bestimmen. Wir können die Konfidenzintervalle für jeden Parameter mit den Standardfehlern berechnen. Das Vertrauen Intervalle enthalten die wahren Parameterwerte für beide Fälle, aber wir sollten beachten, dass die 95 Konfidenzintervalle eine sehr große Konsequenz der vernünftig großen Standardfehler sind. Lass jetzt ein ARMA 2,2 Modell versuchen Das ist ein AR 2 Modell kombiniert Mit einem MA 2 - Modell Wir müssen vier Parameter für dieses Modell alpha1, alpha2, beta1 und beta2 angeben. Nehmen wir alpha1 0 5, alpha2 -0 25 beta1 0 5 und beta2 -0 3.Die Ausgabe unseres ARMA 2,2-Modells Ist wie folgt. Realisierung eines ARMA 2,2-Modells mit alpha1 0 5, alpha2 -0 25, beta1 0 5 und beta2 -0 3.Und die entsprechende autocorelation. Correlogramm eines ARMA 2,2 Modells mit alpha1 0 5 , Alpha2 -0 25, beta1 0 5 und beta2 -0 3. Wir können nun versuchen, ein ARMA 2,2-Modell an die Daten anzupassen. Wir können auch die Konfidenzintervalle für jeden Parameter berechnen. Nichts, dass die Konfidenzintervalle für die Koeffizienten für Die gleitende Mittelkomponente beta1 und beta2 enthalten eigentlich nicht den ursprünglichen Parameterwert. Hierbei handelt es sich um die Gefahr, dass man versucht, Modelle auf Daten zu bringen, auch wenn wir die wahren Parameterwerte kennen. Für alle Zwecke müssen wir nur eine prädiktive Kraft haben Übertrifft Chance und produziert genügend Gewinn über Transaktionskosten, um auf lange Sicht rentabel zu sein. Nun, dass wir einige Beispiele für simulierte ARMA-Modelle gesehen haben, brauchen wir Mechanismus für die Auswahl der Werte von p und q bei der Anpassung an die Modelle zu echten finanziellen Data. Choosing the Best ARMA p, q Modell. Um zu bestimmen, welche Reihenfolge p, q des ARMA-Modells für eine Serie geeignet ist, müssen wir die AIC oder BIC über eine Teilmenge von Werten für p, q und dann verwenden Wenden Sie den Ljung-Box-Test an, um festzustellen, ob eine gute Passung erreicht ist, für bestimmte Werte von p, q. Um diese Methode zu zeigen, werden wir zunächst einen bestimmten ARMA p, q Prozess simulieren. Wir werden dann alle paarweisen Werte von P in und q in und berechnen die AIC Wir wählen das Modell mit dem niedrigsten AIC und führen dann einen Ljung-Box-Test auf die Residuen, um festzustellen, ob wir eine gute fit. Let s beginnen, indem Sie eine ARMA 3,2 Serie simulieren. Wir erstellen nun ein Objekt endgültig, um die beste Modell-Fit und den niedrigsten AIC-Wert zu speichern. Wir schlagen über die verschiedenen p, q-Kombinationen und verwenden das aktuelle Objekt, um die Anpassung eines ARMA i, j-Modells für die Looping-Variablen i und zu speichern J. Wenn die aktuelle AIC kleiner als jede zuvor berechnete AIC ist, setzen wir die endgültige AIC auf diesen aktuellen Wert und wählen diese Reihenfolge aus. Nach Beendigung der Schleife haben wir die Reihenfolge des ARMA-Modells und das ARIMA p, d, q passen Selbst mit der integrierten d-Komponente auf 0 gespeichert als. Lose s Ausgabe der AIC, Ordnung und ARIMA Koeffizienten. Wir können sehen, dass die ursprüngliche Reihenfolge des simulierten ARMA-Modells wiederhergestellt wurde, nämlich mit p 3 und q 2 Wir können das Corelogramm zeichnen Von den Resten des Modells zu sehen, ob sie aussehen wie eine Realisierung von diskreten weißen Rauschen DWN. Correlogram der Reste der besten passenden ARMA p, q Modell, p 3 und q 2.Das Corelogramm sieht in der Tat wie eine Realisierung von DWN Schließlich führen wir den Ljung-Box-Test für 20 Verzögerungen durch, um dies zu bestätigen. Nichts, dass der p-Wert größer als 0 05 ist, was besagt, dass die Residuen auf der 95-Ebene unabhängig sind und somit ein ARMA-3,2-Modell gut ist Modell fit. Clearly das sollte der Fall sein, da wir die Daten selbst simuliert haben. Allerdings ist dies genau das Verfahren, das wir verwenden werden, wenn wir kommen, um ARMA p, q Modelle auf den S P500 Index in den folgenden Abschnitt passen. Finanzdaten. Now Dass wir das Verfahren für die Auswahl des optimalen Zeitreihenmodells für eine simulierte Serie skizziert haben, es ist ziemlich einfach, es auf Finanzdaten anzuwenden. Für dieses Beispiel werden wir noch einmal den S P500 US Equity Index wählen Schließt die Preise mit quantmod und schafft dann die log returns stream. Let s führt die gleiche Anpassungsprozedur wie für die simulierte ARMA 3,2 Serie oben auf der Log-Returns-Serie des S P500 mit dem AIC. Das beste passende Modell hat Bestellung ARMA 3 , 3.Let s Plot die Residuen des angepassten Modells auf die S P500 log täglich Rückkehr Stream. Correlogram der Reste der besten passenden ARMA p, q Modell, p 3 und q 3, um die S P500 täglichen Log Rückgabestrom. Beachten Sie, dass es einige signifikante Gipfel gibt, vor allem bei höheren Verzögerungen Dies ist ein Hinweis auf eine schlechte Passung Lassen Sie uns einen Ljung-Box-Test durchführen, um zu sehen, ob wir statistische Beweise dafür haben. Als wir vermuteten, ist der p-Wert weniger als 0 05 Und als solche können wir nicht sagen, dass die Residuen eine Realisierung von diskreten weißen Rauschen sind. Daher gibt es eine zusätzliche Autokorrelation in den Residuen, die nicht durch das passende ARMA 3,3 Modell erklärt wird. Wie wir in dieser Artikelreihe, die wir gesehen haben, Nachweis der bedingten Heterosedastions-Volatilitäts-Clustering in der S P500-Serie, vor allem in den Perioden um 2007-2008 Wenn wir ein GARCH-Modell später in der Artikelserie verwenden, werden wir sehen, wie man diese Autokorrelationen beseitigt. In der Praxis sind ARMA-Modelle niemals im Allgemeinen gut passt Für Log-Aktien Rückkehr Wir müssen die bedingte Heterosedastizität berücksichtigen und eine Kombination aus ARIMA und GARCH verwenden Der nächste Artikel wird ARIMA betrachten und zeigen, wie sich die integrierte Komponente von dem ARMA-Modell unterscheidet, das wir in diesem Artikel berücksichtigt haben Quantitative Trading. Autoregressive Moving Average ARMA p, q Modelle für die Zeitreihenanalyse - Teil 2.In Teil 1 betrachteten wir das Autoregressive Modell der Ordnung p, auch bekannt als AR p Modell Wir führten es als Erweiterung des zufälligen Spaziergangsmodells ein Ein Versuch, zusätzliche serielle Korrelation in finanziellen Zeitreihen zu erklären. Und endlich erkannten wir, dass es nicht ausreichend flexibel war, um alle Autokorrelation in den Schlusskursen von Amazon Inc AMZN und dem S P500 US Equity Index wirklich zu erfassen. Der Hauptgrund dafür ist das Beide dieser Vermögenswerte sind bedingt heteroskedastisch, was bedeutet, dass sie nicht stationär sind und Perioden unterschiedlicher Varianz oder Volatilität aufweisen, die nicht durch das AR p-Modell berücksichtigt werden. In zukünftigen Artikeln werden wir schließlich zum Autoregressiven Integrierten Umzug aufbauen Durchschnittliche ARIMA-Modelle sowie die bedingt heteroskedastischen Modelle der ARCH - und GARCH-Familien Diese Modelle werden uns mit unseren ersten realistischen Versuchen zur Prognose von Vermögenspreisen versorgen. In diesem Artikel werden wir jedoch das Modell des Moving Average of Order q vorstellen , Bekannt als MA q Dies ist ein Bestandteil des allgemeineren ARMA-Modells und als solches müssen wir es verstehen, bevor wir weiterfahren. Ich empfehle Ihnen, die vorherigen Artikel in der Zeitreihenanalyse-Sammlung zu lesen, wenn Sie dies nicht getan haben Finden Sie hier. Moving Average MA Modelle der Ordnung qA Moving Average Modell ist ähnlich wie ein Autoregressive Modell, außer dass anstatt eine lineare Kombination von Vergangenheit Zeitreihen Werte ist, ist es eine lineare Kombination der Vergangenheit weißen Lärm Begriffe. Intuitiv, dies Bedeutet, dass das MA-Modell solche zufälligen weißen Rauschschocks direkt bei jedem aktuellen Wert des Modells sieht. Dies steht im Gegensatz zu einem AR-Modell, bei dem die weißen Rauschschocks nur indirekt über Regression auf vorherige Terme der Serie gesehen werden Ist, dass das MA-Modell nur die letzten q-Schocks für ein bestimmtes MA-q-Modell sehen wird, während das AR-P-Modell alle vorherigen Schocks berücksichtigt, wenn auch in einer abnehmend schwachen Weise. Mathematisch ist das MA q ein lineares Regressionsmodell Und ist ähnlich strukturiert zu AR p. Moving Average Modell der Ordnung qA Zeitreihenmodell, ist ein gleitendes durchschnittliches Modell der Ordnung q MA q, wenn. Begin xt wt beta1 w ldots betaq w end. Wo ist weißes Rauschen mit E wt 0 und Varianz Sigma 2.If wir den Rückwärts-Shift Operator sehen einen vorherigen Artikel dann können wir die oben als Funktion phi von umschreiben. Begin xt 1 beta1 beta2 2 ldots betaq q wt phiq wt end. We wird Gebrauch von der phi-Funktion in späteren Artikeln. Sekonder Ordnung Eigenschaften. As mit AR p der Mittelwert eines MA q Prozess ist null Dies ist leicht zu sehen, wie die Gemein ist einfach eine Summe von Mitteln von weißen Lärmbegriffen, die alle selbst null sind. Begin text enspace mux E xt sum E wi 0 end begin text enspace sigma 2w 1 beta 21 ldots beta 2q end text enspace rhok links q end right. Where beta0 1. Wir werden nun einige simulierte Daten generieren und es verwenden, um Korrelogramme zu erstellen Dies wird die obige Formel für rhok etwas konkreter machen. Simulationen und Correlograms. Let s Start mit einem MA 1 Prozess Wenn wir setzen Beta1 0 6 erhalten wir das folgende Modell. Als mit den AR p Modelle im vorherigen Artikel können wir R verwenden Um eine solche Serie zu simulieren und dann das Korrelogram zu plotten Da wir in der vorherigen Zeitreihenanalyse-Artikelreihe der Durchführung von Plots viel Übung hatten, werde ich den R-Code vollständig schreiben, anstatt ihn aufzuteilen. Die Ausgabe ist wie Folgt. Realisierung von MA 1 - Modell mit Beta1 0 6 und assoziiertem Correlogram. Als wir oben in der Formel für rhok gesehen haben, für kq, sollten alle Autokorrelationen null sein. Da q 1, sollten wir einen signifikanten Peak bei k 1 sehen und dann unbedeutend sein Peaks im Anschluss an das Allerdings, wegen der Stichproben-Bias sollten wir erwarten, um 5 marginal signifikante Peaks auf einer Probe Autokorrelation Plot. This genau das, was das Korrelogram zeigt uns in diesem Fall Wir haben einen signifikanten Peak bei k 1 und dann unbedeutende Peaks für k 1, außer bei k 4, wo wir einen geringfügig signifikanten Peak haben. In der Tat ist dies eine nützliche Möglichkeit zu sehen, ob ein MA q-Modell angemessen ist. Wenn man sich das Korrelogramm einer bestimmten Serie anschaut, können wir sehen, wie viele sequentielle Nicht - zero lags exist If q such lags exist then we can legitimately attempt to fit a MA q model to a particular series. Since we have evidence from our simulated data of a MA 1 process, we re now going to try and fit a MA 1 model to our simulated data Unfortunately, there isn t an equivalent ma command to the autoregressive model ar command in R. Instead, we must use the more general arima command and set the autoregressive and integrated components to zero We do this by creating a 3-vector and setting the first two components the autogressive and integrated parameters, respectively to zero. We receive some useful output from the arima command Firstly, we can see that the parameter has been estimated as hat 0 602 , which is very close to the true value of beta1 0 6 Secondly, the standard errors are already calculated for us, making it straightforward to calculate confidence intervals Thirdly, we receive an estimated variance, log-likelihood and Akaike Information Criterion necessary for model comparison. The major difference between arima and ar is that arima estimates an intercept term because it does not subtract the mean value of the series Hence we need to be careful when carrying out predictions using the arima command We ll return to this point later. As a quick check we re going to calculate confidence intervals for hat. We can see that the 95 confidence interval contains the true parameter value of beta1 0 6 and so we can judge the model a good fit Obviously this should be expected since we simulated the data in the first place. How do things change if we modify the sign of beta1 to -0 6 Let s perform the same analysis. The output is as follows. Realisation of MA 1 Model, with beta1 -0 6 and Associated Correlogram. We can see that at k 1 we have a significant peak in the correlogram, except that it shows negative correlation, as we d expect from a MA 1 model with negative first coefficient Once again all peaks beyond k 1 are insignificant Let s fit a MA 1 model and estimate the parameter. hat -0 730 , which is a small underestimate of beta1 -0 6 Finally, let s calculate the confidence interval. We can see that the true parameter value of beta1 -0 6 is contained within the 95 confidence interval, providing us with evidence of a good model fit. Let s run through the same procedure for a MA 3 process This time we should expect significant peaks at k in , and insignificant peaks for k 3.We are going to use the following coefficients beta1 0 6 , beta2 0 4 and beta3 0 2 Let s simulate a MA 3 process from this model I ve increased the number of random samples to 1000 in this simulation, which makes it easier to see the true autocorrelation structure, at the expense of making the original series harder to interpret. The output is as follows. Realisation of MA 3 Model and Associated Correlogram. As expected the first three peaks are significant However, so is the fourth But we can legitimately suggest that this may be due to sampling bias as we expect to see 5 of the peaks being significant beyond k q. Let s now fit a MA 3 model to the data to try and estimate parameters. The estimates hat 0 544 , hat 0 345 and hat 0 298 are close to the true values of beta1 0 6 , beta2 0 4 and beta3 0 3 , respectively We can also produce confidence intervals using the respective standard errors. In each case the 95 confidence intervals do contain the true parameter value and we can conclude that we have a good fit with our MA 3 model, as should be expected. Financial Data. In Part 1 we considered Amazon Inc AMZN and the S P500 US Equity Index We fitted the AR p model to both and found that the model was unable to effectively capture the complexity of the serial correlation, especially in the cast of the S P500, where long-memory effects seem to be present. I won t plot the charts again for the prices and autocorrelation, instead I ll refer you to the previous post. Amazon Inc AMZN. Let s begin by trying to fit a selection of MA q models to AMZN, namely with q in As in Part 1, we ll use quantmod to download the daily prices for AMZN and then convert them into a log returns stream of closing prices. Now that we have the log returns stream we can use the arima command to fit MA 1 , MA 2 and MA 3 models and then estimate the parameters of each For MA 1 we have. We can plot the residuals of the daily log returns and the fitted model. Residuals of MA 1 Model Fitted to AMZN Daily Log Prices. Notice that we have a few significant peaks at lags k 2 , k 11 , k 16 and k 18 , indicating that the MA 1 model is unlikely to be a good fit for the behaviour of the AMZN log returns, since this does not look like a realisation of white noise. Let s try a MA 2 model. Both of the estimates for the beta coefficients are negative Let s plot the residuals once again. Residuals of MA 2 Model Fitted to AMZN Daily Log Prices. We can see that there is almost zero autocorrelation in the first few lags However, we have five marginally significant peaks at lags k 12 , k 16 , k 19 , k 25 and k 27 This is suggestive that the MA 2 model is capturing a lot of the autocorrelation, but not all of the long-memory effects How about a MA 3 model. Once again, we can plot the residuals. Residuals of MA 3 Model Fitted to AMZN Daily Log Prices. The MA 3 residuals plot looks almost identical to that of the MA 2 model This is not surprising, as we re adding a new parameter to a model that has seemingly explained away much of the correlations at shorter lags, but that won t have much of an effect on the longer term lags. All of this evidence is suggestive of the fact that an MA q model is unlikely to be useful in explaining all of the serial correlation in isolation at least for AMZN. If you recall, in Part 1 we saw that the first order differenced daily log returns structure of the S P500 possessed many significant peaks at various lags, both short and long This provided evidence of both conditional heteroskedasticity i e volatility clustering and long-memory effects It lead us to conclude that the AR p model was insufficient to capture all of the autocorrelation present. As we ve seen above the MA q model was insufficient to capture additional serial correlation in the residuals of the fitted model to the first order differenced daily log price series We will now attempt to fit the MA q model to the S P500.One might ask why we are doing this is if we know that it is unlikely to be a good fit This is a good question The answer is that we need to see exactly how it isn t a good fit, because this is the ultimate process we will be following when we come across much more sophisticated models, that are potentially harder to interpret. Let s begin by obtaining the data and converting it to a first order differenced series of logarithmically transformed daily closing prices as in the previous article. We are now going to fit a MA 1 , MA 2 and MA 3 model to the series, as we did above for AMZN Let s start with MA 1.Let s make a plot of the residuals of this fitted model. Residuals of MA 1 Model Fitted to S P500 Daily Log Prices. The first significant peak occurs at k 2 , but there are many more at k in This is clearly not a realisation of white noise and so we must reject the MA 1 model as a potential good fit for the S P500.Does the situation improve with MA 2.Once again, let s make a plot of the residuals of this fitted MA 2 model. Residuals of MA 2 Model Fitted to S P500 Daily Log Prices. While the peak at k 2 has disappeared as we d expect , we are still left with the significant peaks at many longer lags in the residuals Once again, we find the MA 2 model is not a good fit. We should expect, for the MA 3 model, to see less serial correlation at k 3 than for the MA 2 , but once again we should also expect no reduction in further lags. Finally, let s make a plot of the residuals of this fitted MA 3 model. Residuals of MA 3 Model Fitted to S P500 Daily Log Prices. This is precisely what we see in the correlogram of the residuals Hence the MA 3 , as with the other models above, is not a good fit for the S P500.We ve now examined two major time series models in detail, namely the Autogressive model of order p, AR p and then Moving Average of order q, MA q We ve seen that they re both capable of explaining away some of the autocorrelation in the residuals of first order differenced daily log prices of equities and indices, but volatility clustering and long-memory effects persist. It is finally time to turn our attention to the combination of these two models, namely the Autoregressive Moving Average of order p, q , ARMA p, q to see if it will improve the situation any further. However, we will have to wait until the next article for a full discussion. Just Getting Started with Quantitative Trading.