Couvre les algorithmes pour résoudre des problèmes mathématiques à l'aide d'un ordinateur, y compris les équations non linéaires et les méthodes d'approximation numérique.
Couvre la représentation de nombres réels dans un ordinateur en utilisant la représentation en virgule flottante et les dangers d'annulation significative de chiffres.