Le but de l’expérience était en fait de tester une nouvelle théorie de la conscience, celle dite de l’intégration de l’information (Integrated Information Theory, ou IIT), élaborée par Tononi et largement soutenue par Koch, que ce soit dans son livre Consciousness, Confessions of a Romantic Reductionist
On peut imaginer une telle technologie déjouer les marchés financiers, dépasser les chercheurs humains, les dirigeants humains et développer des armes que nous ne pouvons même pas comprendre. Alors que l’impact à court terme de l’IA dépend de qui la contrôle, celui à long terme dépend de savoir si elle peut être contrôlée par quiconque.