Module


General information
KI: Advanced Deep Learning
AI: Advanced Deep Learning
KIADL
KIAdvDeepLea-01-MA-M
Prof. Dr. Schneider, Stephan (stephan.schneider@haw-kiel.de)
Prof. Dr. Schneider, Stephan (stephan.schneider@haw-kiel.de)
Wintersemester 2021/22
1 Semester
In der Regel jedes Semester
Deutsch
Curricular relevance (according to examination regulations)
Study Subject Study Specialization Study Focus Module type Semester
M.Sc. - MIE - Information Engineering (PO 2022, V3) Business IT-Management Wahlmodul
M.A. - DBM - Digital Business Management (Aufnahme bis SoSe 25) Wahlmodul
M.Sc. - MCS - Computer Science (PO 2023, V1) Wahlmodul
M.Sc. - MIE - Information Engineering (PO 2022, V3) Information Technology and Systems Wahlmodul

Qualification outcome
Areas of Competence: Knowledge and Understanding; Use, application and generation of knowledge; Communication and cooperation; Scientific self-understanding / professionalism.
Studierende können speziell (inhaltlich)…
• den Begriff Deep Learning (DL) erläutern und im Kontext der künstlichen Intelligenz (KI) einordnen,
• die Konzepte, Methoden und Modelle des überwachten und unüberwachten Lernens benennen, abgrenzen, beschreiben und erläutern,
• die mathematischen und statistischen Grundlagen sowie Vertiefungen der verschiedenen Typen künstlicher neuronaler Netze durchdringen,
• grundlegende und erweiterte Methoden der Datenanalyse und Daten-vorverarbeitung, insb. der Beschaffung, Transformation, Bereinigung, Partition, Skalierung, Visualisierung und statischen Beschreibung benennen und erläutern,
• den kompletten Prozess der Durchführung eines DL-Projekts von der Analyse und Vorverarbeitung der Daten über die Anwendung der Methoden und Entwicklung von Modellen bis hin zur Nachverarbeitung der Daten (z.B. modellbasierte Prognose) beschreiben.

Studierende haben/können allgemein…
• ihr Wissen auf Bachelorebene wesentlich vertieft und erweitert,
• Besonderheiten und Grenzen der Verfahren und Modelle definieren und interpretieren,
• auf der Grundlage des vorhandenen Wissens sowohl forschungs- als auch anwendungsorientiert eigenständige generalisierte und spezialisierte Ideen zu den Verfahren und Modellen entwickeln und anwenden,
• die Richtigkeit ihres erweiterten und ggf. eigenständig modifizierten Wissens unter Einbezug wissenschaftlich-disziplinärer (z. B. der Mathematik und Statistik) und methodischer Überlegungen abwägen und darauf basierend wissenschaftliche und praxisrelevante Probleme lösen.
Studierende können speziell (inhaltlich)…
• die Einsatzpotenziale von KI bzw. DL in unterschiedlichen und ggf. unbekannten Anwendungskontexten identifizieren und beurteilen,
• unter Verwendung der Sprachen R oder Python und Applikationen konkrete Problemstellungen weitgehend selbstgesteuert lösen.

Studierende können allgemein…
• neue Informationen in das vorhandene Wissensnetzwerk einordnen und/oder vorhandenes Wissen weiterverarbeiten und weiterentwickeln und sich somit selbstständig neues Wissen aneignen,
• ihr Wissen und Verstehen sowie ihre Fähigkeiten zur Problemlösung auch in neuen, unvertrauten und unvorhersehbaren Situationen anwenden, die in einem breiteren oder multidisziplinären Zusammenhang mit ihrem Studienfach stehen, indem sie vorhandenes und neues Wissen in komplexen Zusammenhängen integrieren,
• mit einem hohen Maß an Komplexität und Kompliziertheit hinsichtlich wissenschaftlicher und praxisbezogener Aufgabenstellungen umgehen,
• wissenschaftlich fundierte Entscheidungen treffen,
• in rein wissenschaftlicher Hinsicht Forschungsfragen entwerfen, begründet Forschungsmethoden auswählen und Forschungsergebnisse kritisch interpretieren.
Studierende können allgemein…
• sich sach- und fachbezogen mit Vertreterinnen und Vertretern unterschiedlicher akademischer und nicht-akademischer Handlungsfelder sowie über alternative, theoretisch begründbare Problemlösungen austauschen,
• Beteiligte unter der Berücksichtigung der jeweiligen Gruppensituation zielorientiert in Aufgabenstellungen einbinden,
• Konfliktpotentiale in der Zusammenarbeit mit Anderen erkennen und diese vor dem Hintergrund situationsübergreifender Bedingungen reflektieren,
• durch konstruktives, konzeptionelles Handeln die Durchführung von situationsadäquaten Lösungsprozessen gewährleisten.
Studierende können allgemein…
• ein berufliches Selbstbild, das sich an Zielen und Standards professionellen Handelns sowohl in der Wissenschaft als auch den Berufsfeldern außerhalb der Wissenschaft orientiert entwickeln,
• das eigene berufliche Handeln mit theoretischem und methodischem Wissen begründen und es hinsichtlich alternativer Entwürfe reflektieren,
• die eigenen Fähigkeiten einschätzen, sachbezogene Gestaltungs- und Entscheidungsfreiheiten autonom nutzen und diese unter Anleitung weiterentwickeln,
• situations-adäquat und situations-übergreifend Rahmenbedingungen beruflichen Handelns erkennen und Entscheidungen verantwortungsethisch reflektieren,
• kritisch ihr berufliches Handeln in Bezug auf gesellschaftliche Erwartungen und Folgen reflektieren und ihr berufliches Handeln weiterentwickeln.
Content information
1. Deep Learning im Kontext der künstlichen Intelligenz
1.1. Zum Verhältnis von Künstlicher Intelligenz (KI), Machine Learning (ML) und Deep Learning (DL)
1.2. Exkurs: Daten und Skalenniveaus
1.3. Problembereiche: Regression, Klassifikation und Clustering
1.4. Generelle Typen von Künstlichen Neuronalen Netzen (KNN)
2. Allgemeine Einführung in den Aufbau und die Funktionsweise einer Unit als Baustein eines KNN
2.1. Das Neuron als biologisches Vorbild
2.2. Mathematische Beschreibung der Funktionseinheiten einer Unit
2.3. Mathematische Beschreibung des Lernens eines KNN mittels Backpropagation und des Gradientenabstiegsverfahrens
3. Mehrdimensionale Datenstruktur (Array) der Eingabeschicht als passiver Datenlieferant
4. Explorative Datenanalyse und Vorverarbeitung der Daten (Pre-Processing)
4.1. Beschaffung und Transformation
4.2. Statistische Beschreibung und Visualisierung
4.3. Fehlende Werte
4.4. Ausreißer
4.5. Dummifizierung
4.6. Unbalancierte Datenmenge
4.7. Partitionierung
4.8. Skalierung
5. Probleme und Optimierung eines KNN
5.1. Overfitting und Underfitting
5.2. Anpassung der Hyperparameter
5.3. Bestimmung der Prognose- und Modellgüte
6. Multi-Layer Perceptron (MLP) zur Regression
7. Multi-Layer Perceptron (MLP) zur Klassifikation
7.1.1. Binäre Klassifikation
7.1.2. N-äre Klassifikation mit Single-Label Zuordnungen
7.1.3. N-äre Klassifikation mit Multi-Label Zuordnungen
8. Long Short-Term Memory (LSTM) für Zeitreihen
8.1.1. Regression
8.1.2. Klassifikation
8.1.2.1. Skalar-Output
8.1.2.2. Sequenz-Output
9. Convolutional Neural Network (CNN) im Umgang mit Bilddaten
9.1. Image Classification
9.2. Object Recognition/Detection
9.3. Semantic Segmentation
9.4. Instance Segmentation
10. Self-Organizing Map (SOM) zum Clustering
11. Weitere Modellvarianten (Autoencoder, Generative Adversarial Networks (GAN) etc.)
• Haykin, Simon S. (1999): Neural Networks: A Comprehensive Foundation. 2. Aufl., 1999. Upper Saddle River: Pearson Education.
• Haykin, Simon S. (2009): Neural Networks and Learning Machines. 3. Aufl., 2009. Upper Saddle River: Pearson Education.
• Goodfellow, I., Bengio, Y., Courville, A. (2016): Deep Learning. 2016. Cambridge: MIT Press.

Weitere Literatur wird in der Veranstaltung bekannt gegeben.
Teaching formats of the courses
Teaching format SWS
Lehrvortrag + Übung 2
Workload
2 SWS
5,0 Credits
24 Hours
126 Hours
Module Examination
Method of Examination Duration Weighting wird angerechnet gem. § 11 Absatz 2 PVO Graded Remark
Veranstaltungsspezifisch 100 %
Miscellaneous
Das Themenspektrum stellt den Maximalumfang dar und kann abhängig von den verfügbaren Kapazitäten und dem zeitlichen Semesterverlauf in Abstimmung mit den Studierenden zum Vorlesungsbeginn um einzelne Themenbereiche reduziert bzw. modifiziert werden.