Selbstlernende Systeme, die die Diskriminanzanalyse ersetzen, wenn der Klassifikationsalgorithmus nicht mehr durch eine einfache Diskriminanzfunktion (Ein Satz linearer Gleichungen) dargestellt werden kann. 

Grundidee:  

Neuronale Netze bestehen aus einem Netz aus mathematischen Operatoren, deren Parameter anhand von Trainingsdaten optimal eingestellt werden.

Dem System wird also kein fester Algorithmus vorgegeben, durch die Art des Systems wird lediglich dessen Grobstruktur vorgegeben .

Das System bildet selbständig anhand von Trainingsdaten eine Klassifikationsregel (entspricht der Diskriminanzfunktion in der Diskriminanzanalyse und bedeutet hier das Auffinden der optimalen Parameter eines jeden Neurons).

Dieser Prozess heisst Lern- oder Trainingsprozess.

Beispiel- oder auch Trainingsdaten sind Daten mit bekannter Klassifikation.

Verschiedene lernende Systeme unterscheiden sich nur in der Art und Weise,

wie sie die Trainingsdaten zur Bildung einer Klassifikationsregel nutzen.

Damit die Güte der im Lernprozess gefundenen Klassifikationsregel für zukünftige
Messdaten beurteilt werden kann, werden die vorhandenen Daten mit bekannter Klassifikation in Test- und Trainingsdaten
unterteilt.

Eigenschaften Neuraler Netze:

• Sammelbegriff für flexible, nichtlineare, selbstlernende Modelle 

• Verknüpfung/Vernetzung von einfachen Berechungseinheiten, "Neuronen", die jegliche mathematischen Operatoren sein können. Demnach beruhen neurale Netze im Gegensatz zur Diskriminanzanalyse nicht auf dem allgemeinen linearen Modell. 

• Architektur eines neuralen Netzes bedingt dessen Modellgleichung[en] (Diskriminanzfunktion[en]).

Anwendungsgebiete:

• Keine mathematische Formel bekannt, die abhängige Variablen und unabhängige Variablen in Relation setzt.

• Es kommt mehr auf Vorhersage als auf Erklärung an,

• Keine Theorie vorhanden.

• Wenn viele Trainingsdaten vorliegen.