Au moyen de cet article nous aimerions présenter le travail de Paul Jorion sur les systèmes intelligents, puis ouvrir cette présentation sur les réseaux de neurones, puisque ces deux parties s’inscrivent dans une histoire commune continuée, celle de l’intelligence artificielle, qui en est à ses débuts, mais déjà traversée de ruptures.
Le but de l’expérience était en fait de tester une nouvelle théorie de la conscience, celle dite de l’intégration de l’information (Integrated Information Theory, ou IIT), élaborée par Tononi et largement soutenue par Koch, que ce soit dans son livre Consciousness, Confessions of a Romantic Reductionist
On peut imaginer une telle technologie déjouer les marchés financiers, dépasser les chercheurs humains, les dirigeants humains et développer des armes que nous ne pouvons même pas comprendre. Alors que l’impact à court terme de l’IA dépend de qui la contrôle, celui à long terme dépend de savoir si elle peut être contrôlée par quiconque.
Durant de nombreuses années, l'intelligence était vue comme la capacité d'accumuler des connaissances et de les mettre en application adéquatement dans diverses situations. C'est de cette idée que sont nés les tests standardisés.