Dans un ordinateur typique, faite d'après ce que l'on appelle une architecture de Von Neumann, les banques de mémoire vive dans un module isolé. Il n'y a qu'un seul processeur, qui traite les instructions et la mémoire réécrit un par un, à l'aide d'une architecture en série. Une approche différente de l'informatique est le réseau neuronal. Dans un réseau de neurones, composée de milliers voire des millions de "neurones" individuelles ou «nœuds», tout traitement est hautement distribuée et parallèle. "Mémoires" sont stockés dans les interconnexions et les pondérations complexes entre les nœuds.
Le réseau neuronal est le type d'architecture informatique utilisé par le cerveau des animaux dans la nature. Ce n'est pas nécessairement parce que le réseau de neurones est un mode intrinsèquement supérieure de traitement de l'informatique série, mais parce qu'un cerveau qui utilise l'informatique série serait beaucoup plus difficile d'évoluer progressivement. Les réseaux de neurones ont aussi tendance à traiter avec "données bruitées" Mieux que les ordinateurs de série.
Dans un réseau neuronal direct, une "couche d'entrée" rempli de nœuds spécialisés prend en informations, puis envoie un signal à une deuxième couche à base de l'information reçue de l'extérieur. Cette information est généralement un binaire "oui ou non" signaux. Parfois, pour passer d'un «non» à un «oui», le nœud doit connaître un certain seuil d'excitation ou de stimulation.
Les données se déplacent de la couche d'entrée aux couches secondaires et tertiaires, et ainsi de suite, jusqu'à ce qu'il atteigne une "couche de sortie" final qui affiche les résultats sur un écran pour les programmeurs à analyser. La rétine humaine fonctionne sur la base de réseaux de neurones. Nœuds de premier niveau détectent les caractéristiques géométriques simples dans le champ visuel, comme les couleurs, les lignes et les bords. Nœuds secondaires commencent à abstraites fonctionnalités plus sophistiquées, telles que le mouvement, la texture et la profondeur. La "sortie" final est ce que notre conscience enregistre quand on regarde le champ visuel. L'apport initial est juste un arrangement complexe de photons qui signifierait peu sans le matériel neurologique à lui donner un sens en termes de qualités significatives, comme l'idée d'un objet durable.
En backpropagating réseaux de neurones, les sorties de couches antérieures peuvent revenir à ces couches pour contraindre d'autres signaux. La plupart de nos sens fonctionnent de cette manière. Les données initiales peuvent déclencher une «supposition éclairée» au résultat final, puis en examinant les données futures dans le cadre de cette supposition éclairée. Dans illusions d'optique, nos sens font des suppositions éclairées qui s'avèrent être faux.
Au lieu de programmer des réseaux neuronaux algorithmiques, les programmeurs doivent configurer un réseau neuronal avec la formation ou l'accord délicat de neurones individuels. Par exemple, la formation d'un réseau de neurones pour reconnaître les visages nécessiterait de nombreuses courses d'entraînement dans lequel des objets différents "facelike" et "unfacelike" ont été présentés au réseau, accompagné par des commentaires positifs ou négatifs pour amadouer le réseau de neurones dans l'amélioration des compétences de reconnaissance.