Das augenfälligste Merkmal des Ankylosaurus ist sein Panzer, der aus massiven Knötchen und Knochenplatten besteht, die als Osteoderme oder Knochenschuppen bezeichnet werden und in die Haut eingebettet sind. Osteoderme finden sich auch in der Haut von Krokodilen, Gürteltieren und einigen Eidechsen. Der Knochen war wahrscheinlich von einer zähen, verhornten Keratinschicht überlagert.
Diese Osteoderme waren sehr unterschiedlich groß, von breiten, flachen Platten bis hin zu kleinen, runden Knötchen. Die Platten waren in regelmäßigen horizontalen Reihen an Hals, Rücken und Hüfte des Tieres angeordnet, wobei die vielen kleineren Knötchen die Bereiche zwischen den großen Platten schützten. Kleinere Platten können an den Gliedmaßen und am Schwanz angeordnet worden sein. Verglichen mit dem etwas älteren Ankylosaurus Euoplocephalus waren die Platten des Ankylosaurus glatt, ohne die hohen Kiele, die man auf der Panzerung des gleichzeitigen Nodosaurus Edmontonia fand. Eine Reihe von flachen, dreieckigen Stacheln könnte seitlich entlang jeder Seite des Schwanzes vorgestanden haben. Harte, abgerundete Schuppen schützten die Oberseite des Schädels, während vier große pyramidenförmige Hörner aus den hinteren Ecken des Schädels nach außen ragten.
Darunter war sie mit normaler Haut bedeckt, aber um an sie heranzukommen, musste das Raubtier ein Tier mit einem Gewicht von bis zu 6.000 kg (11.000 lb) umdrehen.
