ALBERT-LUDWIGS-UNIVERSITÄT FREIBURG
INSTITUT FÜR INFORMATIK
Lehrstuhl für Mustererkennung und Bildverarbeitung
Prof. Dr.-Ing. Hans Burkhardt
Georges-Köhler-Allee 
Geb.052, Zi 01-029 
D-79110 Freiburg 
Tel. 0761 - 203 - 8260

Hier befinden sich die gesamten Aufzeichnungen und Folien der Vorlesung "Grundlagen der Bilderzeugung und Bildanalyse" (Mustererkennung) des WS 02/03. Im Rahmen des ULI-Projektes wird dieses Material für die Vorlesung "Mustererkennung" im WS 02/03 und den folgenden Jahren verwendet.


Gliederung der Vorlesung

Kapitel 0 - Vorbemerkungen

01. Vorlesung, 15.10.2002, Teil 1

Kapitel 1 - Einleitung und Anwendungsgebiete

  • Einleitung und Anwendungsgebiete
01. Vorlesung, 15.10.2002, Teil 2
01. Vorlesung, 15.10.2002, Teil 3
01. Vorlesung, 15.10.2002, Teil 4
02. Vorlesung, 17.10.2002, Teil 1
03. Vorlesung, 22.10.2002, Teil 1

Kapitel 2 - Grundlagen der Mustererkennung

  • Äquivalenzklassen, lageinvariante Merkmalsextraktion
03. Vorlesung, 22.10.2002, Teil 2
04. Vorlesung, 24.10.2002, Teil 1
04. Vorlesung, 24.10.2002, Teil 2

Kapitel 3 - Lageinvariante Graubilderkennung

  • Die Klasse CT, parallele Implementierung, zweidimensionale Erweiterungen, Reaktion auf systematische und stochastische Störungen, Clustereigenschaften
05. Vorlesung, 26.10.2002, Teil 1
06. Vorlesung, 31.10.2002, Teil 1
06. Vorlesung, 31.10.2002, Teil 2
07. Vorlesung, 05.11.2002, Teil 1

Kapitel 4 - Lageinvariante Konturbilderkennung

  • Konturextraktion, Fourieranalyse, Fourierdeskriptoren für die Äquivalenzklasse ähnlicher und affiner Muster
07. Vorlesung, 05.11.2002, Teil 2
08. Vorlesung, 07.11.2002, Teil 1
08. Vorlesung, 07.11.2002, Teil 2
08. Vorlesung, 07.11.2002, Teil 3
08. Vorlesung, 07.11.2002, Teil 4
09. Vorlesung, 12.11.2002, Teil 1
09. Vorlesung, 12.11.2002, Teil 2
10. Vorlesung, 14.11.2002, Teil 1

Kapitel 5 - Allgemeine Ansätze zur Berechnung von Invarianten

  • Integralinvarianten, Differentialinvarianten, Normalisierungsverfahren
10. Vorlesung, 14.11.2002, Teil 2
11. Vorlesung, 19.11.2002, Teil 1
12. Vorlesung, 21.11.2002, Teil 1
12. Vorlesung, 21.11.2002, Teil 2

Kapitel 6 - Optimale Merkmalsselektion

  • Karhunen-Loeve Transformation
13. Vorlesung, 26.11.2002, Teil 1
14. Vorlesung, 28.11.2002, Teil 1

Kapitel 7 - Bayes- oder Optimalklassifikator

  • Optimalklassifikator, MAP- und MLE-Kriterium, rekursive Schätzung
14. Vorlesung, 28.11.2002, Teil 2
15. Vorlesung, 03.12.2002, Teil 1
15. Vorlesung, 03.12.2002, Teil 2
16. Vorlesung, 05.12.2002, Teil 1
16. Vorlesung, 05.12.2002, Teil 2

Kapitel 8 - Neuronales Netz

  • Regression mit neuronalen Netzen, Perzeptron, Multilagen-Perzeptron, Backpropagation Algorithmus
16. Vorlesung, 05.12.2002, Teil 3
17. Vorlesung, 10.12.2002, Teil 1
18. Vorlesung, 12.12.2002, Teil 1
18. Vorlesung, 12.12.2002, Teil 2
19. Vorlesung, 17.12.2002, Teil 1
20. Vorlesung, 19.12.2002, Teil 1

Kapitel 9 - Polynomklassifikator

  • Polynomiale Regression, Lernregel für Polynomklassifikator
21. Vorlesung, 07.01.2003, Teil 1
22. Vorlesung, 09.01.2003, Teil 1

Kapitel 10 - Support-Vektor-Maschine

  • VC-Theorie, optimale trennende Hyperebene, Trick mit Kernen
23. Vorlesung, 14.01.2003, Teil 1
24. Vorlesung, 16.01.2003, Teil 1
25. Vorlesung, 21.01.2003, Teil 1

Kapitel 11 - SVM-Anwendungen

  • Exemplarische Projekte
26. Vorlesung, 23.01.2003, Teil 1
27. Vorlesung, 30.01.2003, Teil 1
28. Vorlesung, 06.02.2003, Teil 1

Vorlesungsaufzeichnungen und Folien


1. Vorlesung, 15.10.2002 Aufzeichnungen Folien

Teil 1:
Vorbemerkungen. ULI, allgemeine Anmerkungen zum Vertiefungsblock und zu entsprechenden Veranstaltungen.

TSCC Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Einführung in das Gebiet. Literaturangaben, Mensch vs. Maschine im Hinblick auf die Mustererkennung. Einführendes Beispiel zur Klassifikation von Objekten basierend auf einfachen Merkmalen. Diagramm zur Handschrifterkennungs-Demo.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 3:
Ausführliches Beispiel Handschrifterkennung in MATLAB.

Aufzeichnung   DivX Aufzeichnung  s.o. 

Teil 4:
Anwendungsgebiete der digitalen Bildverarbeitung und Mustererkennung.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

2. Vorlesung, 17.10.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung Anwendungsgebiete, allgemeines Schema der Mustererkennung, Definitionen Musterraum, Objektraum, mathematische Beschreibung von Sensoren.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

3. Vorlesung, 22.10.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung Sensoren, Einbettung der Mustererkennung in die allgemeine Schätztheorie, Signalschätzung, Detektion, Mustererkennung mit Beispielen, Merkmalsextraktion und Klassifikation.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Grundlagen der Mustererkennung, Äquivalenzklassen, Gruppen, geometrische Transformationen: Translationen, Kongruenzabbildungen, affine Abbildungen.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

4. Vorlesung, 24.10.2002 Aufzeichnungen Folien

Teil 1:
Affine Abbildungen, Bewegung und Projektion einer Kurve im Raum, Invarianten geometrischer Abbildungen, bilineare Interpolation.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Klassifikation durch direkten Vergleich, Komplexität, Motivation für Klassifikation mit invarianten Merkmalen, Skalarprodukt, Metrik, notwendige Bedingung der Invarianz, hinreichende Bedingung zur Vollständigkeit, Grad der Vollständigkeit, Separierbarkeit.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

5. Vorlesung, 29.10.2002 Aufzeichnungen Folien

Teil 1:
Lageinvariante Graubilderkennung, Definition CT-Transformation, rekursive Zerlegung, Butterfly-Graph, Berechnungskomplexität, Laufzeitgewinn, Basis 3 Faktorisierung.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

6. Vorlesung, 31.10.2002 Aufzeichnungen Folien

Teil 1:
RT, QT, MT, BT, Beweis für Translationsinvarianz der CT, Diskussion der MT.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
CT in 2D, Faktorisierung, homogene Struktur der 2D CT_SZ, Diagonaltransformation, Kombination von Translationsinvarianten, Eigenschaften der RT, Dynamikumfang der CT.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

7. Vorlesung, 05.11.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung Dynamikumfang der CT, Suchfeldstategie mit überlappenden Fenstern, Hexagonalabtastung.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Lageinvariante Konturbilderkennung, Konturerfassung, Kantenextraktion, Konturbeschreibung in der komplexen Ebene, Konturdarstellung durch endliche Fourierreihen, Freiheitsgrade, Rotationssymmetrie.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

8. Vorlesung, 07.11.2002 Aufzeichnungen Folien

Teil 1:
Fourierkoeffizienten von Polygonzügen, Äquivalenzklassen ähnlicher Muster, Invarianzeigenschaften des Leistungsspektrums, fehlende Vollständigkeit, Satz über Vollständigkeit, Invarianz, Minimalität von Fourierdeskriptoren bezüglich Ähnlichkeiten. Modifikation für Anwendung bei Kongruenzabbildungen. Konstruktiver Beweis des Satzes. Ermittlung der Lageparameter. Interpretation als kanonische Darstellung.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Beispiele für Fourierkoeffizienten und Fourierdeskriptoren einer Kontur.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 3:
Beispiel Anwendung Zahnräder, Eigenschaften der Fourierdeskriptoren.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 4:
Affininvariante Fourierdeskriptoren
Wiederholung geometrischer Transformationen, vektorielle Konturparametrisierung.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

9. Vorlesung, 12.11.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung Parametrisierung der Konturbeschreibung für Affininvarianz, Aussenprodukt und seine geometrische Bedeutung, Differentialinvarianten 1. und 2. Ordnung.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Fortsetzung Differentialinvarianten, affine Fourierdeskriptoren von Polygonzügen, Eigenschaften der Fourierreihe.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

10. Vorlesung, 14.11.2002 Aufzeichnungen Folien
Teil 1:
Diophantische Gleichungen und der erweiterte Euklidsche Algorithmus.
Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien
Teil 2:
Allgemeine Ansätze zur Berechnung von Invarianten, Integration über die Transformationsgruppe, differentieller Ansatz, Normalisierung, Gruppenmittel, lokale Funktionen.
Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

11. Vorlesung, 19.11.2002 Aufzeichnungen Folien

Teil 1:
Gruppenmittel, Veranschaulichung als Schnitt von Mannigfaltigkeiten, Beziehungen zur CT, schwach kommutative Abbildungen, Steigerung der Separationsfähigkeit.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

12. Vorlesung, 21.11.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung Invarianten für zyklische Translationen, Trenneigenschaften polynomialer Merkmale, Invarianten durch Gruppenmittelung, Integralinvarianten, Monte Carlo Integration, Erkennung von Objekten mit Gelenken, Erkennung von Objekten in einer Szene, topologische Deformation.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Anwendungen zu Invarianten über Gruppenmittel: Sichtprüfung von Textilien, Bildsuchmaschine SIMBA , Klassifikation von Blütenpollen.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

13. Vorlesung, 26.11.2002 Aufzeichnungen Folien

Teil 1:
Optimale Merkmalsselektion, Merkmalsselektion mit linearen Transformationen, Charakterisierung von Zufallsereignissen, stochastischer Prozess, Autokorrelation, Autokovarianz, Kreuzkovarianz, Gaussverteilung, Herleitung der Karhunen-Loeve Transformation (KLT) bzw. Hauptachsentransformation aus Ansatz der Bestapproximation.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

14. Vorlesung, 28.11.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung Bestapproximation, Approximationsfehler, Interpretation der KLT als Projektion auf Unterraum, KLT für Bilder, Eigenschaften der KLT, Datenreduktion, Informationsverdichtung.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Bayes- oder Optimalklassifikator, Entwurf optimaler Klassifikatoren, Verbundverteilung, Stochastisches Modell, Minimierung von Fehlentscheidungen, MAP-, Bayes-Klassifikator, Bayes-Theorem, maximum Likelihood, MLE, N-dimensionale Normalverteilung, Varianz, Erwartungswert, Standardabweichung, Kovarianzmatrix, positive Definitheit, klassenweise normalverteilte Merkmale, Grenzflächen, Klassengebiete.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

15. Vorlesung, 03.12.2002 Aufzeichnungen Folien

Teil 1:
Klassenweise normalverteilte Merkmale mit identischen Kovarianzmatrizen, Mahalanobis Abstandsklassifikator, minimum Abstandsklassifikator, sphärisch invariante Verhältnisse, Voronoi Diagramme, Wahrscheinlichkeit für Fehlklassifikation aus der Gauss'schen Fehlerfunktion.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Merkmalsselektion und Klassifikation im Unterraum, Beispiel handgeschriebene Ziffern.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

16. Vorlesung, 05.12.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung Beispiel handgeschriebener Ziffern:
Visualisierung der Erwartungswerte, der Kovarianzmatrix und Eigenvektoren.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Schätzung der Kovarianzmatrix, geringe Stichprobe, Overfitting, Generalisierungsfähigkeit, rekursive Schätzung statistischer Kenngrössen.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 3:
Neuronale Netze, Ansätze zum Entwurf eines Klassifikators:
statistische Parametrisierung und Funktionsapproximation. Regression mit Neuronalen Netzen, Modell eines Neurons, Multilagen Perzeptron, Funktionsweise des Perzeptrons, XOR Problem.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

17. Vorlesung, 10.12.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung XOR Problem mit 2-Lagen Perzeptron, 3-Lagen Perzeptron mit Schwellwertfunktion, automatisches Training durch Perzeptron-Algorithmus.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

18. Vorlesung, 12.12.2002 Aufzeichnungen Folien

Teil 1:
Fortsetzung Perzeptron-Algorithmus, Eigenschaften des Perzeptron-Algorithmus.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

Teil 2:
Lernstrategie für Neuronale Netze: Backpropagation. Sigmoidfunktion, Dimensionierung des Netzes, Berechnungskomplexität, Backpropagation-Algorithmus.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

19. Vorlesung, 17.12.2002 Aufzeichnungen Folien

Teil 1:
Wiederholung Backpropagation bei individuellem Lernen, Dimensionierung von Neuronalen Netzen, Generalisierungsfähigkeit, Beschleunigung. MATLAB Demos.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

20. Vorlesung, 19.12.2002 Aufzeichnungen Folien

Teil 1:
Weitere MATLAB Demos, verschiedene Optimierungsverfahren, Hauptkomponentenanalyse mit Neuronalen Netzen.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

21. Vorlesung, 07.01.2003 Aufzeichnungen Folien

Teil 1:
Polynomklassifikator, polynomiale Regression, Herleitung durch Variationsansatz, Orthogonalität des Schätzfehlers, rekursive Lernregel.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

22. Vorlesung, 09.01.2003 Aufzeichnungen Folien

Teil 1:
Polynomklassifikator für XOR-Problem, MATLAB Demo. Radiale-Basis-Funktionen-Netzwerke, Einführung, Eigenschaften und Beispiele.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

23. Vorlesung, 14.01.2003 Aufzeichnungen Folien

Teil 1:
Support-Vektor-Maschine. Basis in der statistischen Lerntheorie, VC-Theorie. Problemstellung überwachtes Lernen, erwartetes Risiko, empirisches Risiko, Abschätzung der Generalisierungsfähigkeit, VC-Dimension, Structural Risk Minimization. Bias/Varianz Kompromiss.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

24. Vorlesung, 16.01.2003 Aufzeichnungen Folien

Teil 1:
Lineare separable SVM, maximal trennende Hyperebene, Optimierungsproblem und Lösung. MATLAB Demo zu linearer, separabler SVM. Erweiterung zu nichtseparabler SVM. MATLAB Demo zu linearer, nichtseparabler SVM, Optimalitätseigenschaften.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

25. Vorlesung, 21.01.2003 Aufzeichnungen Folien

Teil 1:
Nichtlinearer Fall. Abbildung in höherdimensionalen Raum, Trick mit Kernfunktionen, Beispiele von Kernen, Mercer-Theorem. Erweiterung zu nichtlinearer SVM. MATLAB Demo. Anwendung offline-Zeichenerkennung.
SVM & VC-Abschätzung. SVM Eigenschaften und Berechnungskomplexität, Literatur.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

26. Vorlesung, 23.01.2003 Aufzeichnungen Folien

Teil 1:
Dynamic Time Warping-Techniken in der online Handschriftenerkennung. Unterschiedliche OCR-Problemstellungen, Merkmalgewinnung, Dynamic Time Warping und Algorithmen. MATLAB Demo zu DTW. Strahlsuche, statistisches DTW. SVM für sequentielle Daten, Gauss-DTW Kern, MATLAB Demo. Experimentelle Ergebnisse, Implementation auf iPAQ.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

27. Vorlesung, 30.01.2003 Aufzeichnungen Folien

Teil 1:
Anwendung Erkennung von Blütenpollen in 3D Volumendaten. Motivation, Proben- und Datengewinnung. Grauwertinvarianten, Multiskalenansatz. Veranschaulichung im Merkmalsraum.
Klassifikation der Pollensorten, Multiklassenansätze bei SVM, Klassifikationsergebnisse. Gewinnung von 3D-Daten mit Lichtmikroskop via Entfaltung.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 

28. Vorlesung, 06.02.2003 Aufzeichnungen Folien

Teil 1:
Transformationswissen in SVM. Motivation OCR, Arten von a-priori Wissen, Arten von Transformationsvorwissen. Fokus differenzierbare Transformationen.
Ansatz zu Invarianz in SVM: virtuelle Support-Vektor Methode. Tangentendistanz, Anwendung auf OCR. Weiterer Ansatz zu Invarianz in SVM: Tangentendistanz-Kerne. Experimentelle Ergebnisse zu Tangenteninvarianz in SVM.

Aufzeichnung   DivX Aufzeichnung PDF Folien  PS Folien

 


Software

Windows-Anleitung: Die Aufzeichnungen sind im verlustfreien TSCC-Format erstellt, um ideale Qualität zu gewährleisten. Hierfür muss jedoch der entsprechende Codec zunächst installiert werden, indem die Datei tscc.exe ausgeführt wird. Beim Abspielen (mit jedem beliebigen Player) ist für einwandfreie Qualität darauf zu achten, dass die exakte Originalauflösung eingestellt ist. Der Camtasia Player gewährleistet dies automatisch.

Linux-Anleitung: Der TSCC Codec wird offiziell nicht für Linux angeboten. Es gibt jedoch trotzdem einige Möglichkeiten, die Dateien abzuspielen. Der neueste mplayer z.B. ist mit der entsprechenden Windows-dll des TSCC-Codecs hierzu in der Lage. Ansonsten erlauben Windows-Emulatoren, z.B. das (kostenpflichtige) CrossOver Office, direkte Installation des TSCC-Codecs und anschließendes Abspielen.

Als Alternative sind alle Aufzeichnungen im DivX-Format vorhanden. Um vergleichbare Dateigröße wie die TSCC-Aufzeichnungen zu erreichen wurden hier deutliche Abstriche in der Bildqualität gemacht.

Weiter steht eine Funktionensammlung Presto-Box ( presto-box.tgz, presto-box.zip ) für eigene Experimente zur Verfügung. Es handelt sich um eine Scilab Bibliothek, die Konzepte und Funktionen der Vorlesung von der Merkmalsextraktion bis zur Klassifikation enthält.