L'Intelligence humaine n'est pas un algorithme

De plus en plus performants, les algorithmes restent faillibles : ils reproduisent les biais implicitement contenus dans les données grâce auxquelles ils apprennent. En 2016, Microsoft a mis en ligne sur Twitter le « chatbot » Tay, devenu, en quelques heures, violent, raciste et antisémite, car il utilisait comme matière première des tweets violents. Pour le psychologue Olivier Houdé, cette faiblesse inhérente aux algorithmes s'explique par leur incapacité à prendre conscience des biais et donc d'inhiber des comportements inappropriés. C'est ce qui nous en distingue ! De fait, nous avons dans le cerveau deux systèmes de raisonnement en compétition. L'un rapide et intuitif, mais sujet à des erreurs ; l'autre algorithmique, permettant une pensée logique. Toutefois, il existe un troisième système qui, en fonction du contexte, peut inhiber nos pensées automatiques pour activer une pensée rationnelle. Cette flexibilité mentale serait la clé de l'intelligence humaine.