MathData-SoSe22

Material für die Vorlesung "Mathematische Methoden in der Datenanalyse" im SoSe 2022 an der Universität Osnabrück.

Das Skript ist unter diesem Link verfügbar (im Laufe der Vorlesung wird mehr Inhalt hinzugefügt werden).

---

Vorlesungen

1. Vorlesung:

• Verschiedene Interpretationen einer n × m Matrix A.
• Orthogonale Zerlegung von ℝⁿ und ℝᵐ.
• Die Pseudo-Inverse.

2. Vorlesung:

• Die Singulärwertzerlegung.
• Eindeutigkeit von Singulärwerten.

3. Vorlesung:

• Frequentistischer und Bayes'scher Wahrscheinlichkeitsbegriff.
• Zufallsvariablen.
• Bayes' Theorem.

4. Vorlesung:

• Bayes' Theorem für Dichten.
• Erwartungswert und Varianz.
• Normalverteilung

5. Vorlesung:

• Die Laplace Matrix.

6. Vorlesung:

• Das Spektrum eines Graphen.
• Beziehung zwischen Struktur eines Graphen und dessen Spektrum.

7. Vorlesung:

• Eigenvektoren der Laplace Matrix.
• Notebook 2.

8. Vorlesung:

• Durchmesser eines Graphen.
• Spannbäume.
• Definition Markov-Prozess.

9. Vorlesung:

• Übergangsmatrix.
• Stationäre Verteilung.

10. Vorlesung:

• Beweis von Existenz und Eindeutigkeit stationärer Verteilungen.
• Metropolis-Hastings Algorithmus.

11. Vorlesung:

• Beweis von Existenz und Eindeutigkeit stationärer Verteilungen.
• Metropolis-Hastings Algorithmus.

12. Vorlesung:

• Was ist Maschinelles Lernen?
• Daten, Modelle und Lernen.

13. Vorlesung:

• Lineare Regression.
• Least-Squares, Ridge-Regression und MLE.

14. Vorlesung:

• Nicht-lineare Regression.
• MAP und Bayes'scher Ansatz.

15. Vorlesung:

• Das Modell "Neuronales Netz".

16. Vorlesung:

• Support Vector Machines.
• Primale und Duale SVMs.

17. Vorlesung:

• Duale SVM cont'd.
• Kernels.

18. Vorlesung:

• PCA.

19. Vorlesung:

• PCA und SVD.
• PCA mit Gauss'schem Prior.

20. Vorlesung:

• Ansatz in der Topologische Datenanalyse.
• Simplices.

21. Vorlesung:

• Simpliziale Komplexe.
• Cech und Vietoris-Rips Komplex.

22. Vorlesung:

• Vergleich Cech und Vietoris-Rips Komplex.
• Homologie von planaren Komplexen.

23. Vorlesung:

• Homologie.
• Betti Zahlen.
• Euler Charakteristik.

24. Vorlesung:

• Persistente Homologie.

---

Julia und Jupyter Notebooks

Dieses Repository enthält die Jupyter Notebooks aus der Vorlesung.

Um die Notebooks zu verwenden wie folgt vorgehen:

• Notebooks downloaden (per Klick auf den grünen Code Button entweder als Zip File oder mit einem Git Client wie Github Desktop oder Sublime).
• Die neueste Version von Julia downloaden
• Julia starten.
• In Julia per ] in den Package manager wechseln.
• add IJulia ausführen
• Den Package manager per Backslash verlassen.
• using IJulia ausführen
• notebook() ausführen

Dann sollte sich ein Browserfenster öffnen, in dem lokal gespeicherte Notebooks geöffnet werden können.

Ergänzendes Material aus der Julia Academy:

• Introduction to Julia

• Data Science

• Foundations of Machine Learning

• Data Frames

---

Literatur

Die folgenden Referenzen bieten zusätzliches Material zum Inhalt der Vorlesung.

1. Lineare Algebra

The Fundamental Theorem of Linear Algebra, Gilbert Strang.

2. Wahrscheinlichkeitstheorie

Wikipedia Artikel

Basic Probability Theory, Robert B. Ash.

3. Netzwerkanalyse

Spectral Graph Theory (insbesondere Kapitel 1), Fan Chung.

Spectral Graph Theory (insbesondere Vorlesung 5), Thomas Sauerwald and He Sun

Graph Theory in the Information Age, Fan Chung.

Computer Science Theory for the Information Age (insbesondere Notes 5), Venkatesan Guruswami and Ravi Kannan.

4. Maschinelles Lernen

Mathematics for Machine Learning (insbesondere Kapitel 8-12), Marc Peter Deisenroth, A. Aldo Faisal und Cheng Soon Ong.

Neural Network Theory, Philipp Christian Petersen

5. Matrizen und Tensoren

Geometric Methods on Low-Rank Matrix and Tensor Manifolds, André Uschmajew and Bart Vandereycken.

Tensor Decompositions and Applications, Tamara G. Kolda und Brett W. Bader.

6. Topologische Datenanalyse

Topological Data Analysis Spring 2020, Magnus Bakke Botnan.

Topological Data Analysis, Ulderico Fugacci.