Nilski konj je treći najveći sisar na kopnu nakon slonova i nosoroga. Ima veliko i nespretno tijelo, dužine tijela 350-450 cm, repne dužine oko 56 cm, te težine 3000-3500 kg, ali je relativno kratko i ima izuzetno kratke udove. Visina na ramenima je samo 140-165 cm, ne tako visoka kao polovina slona. Ima debelu glavu i vrlo velika usta, koja su veća od one bilo koje vrste životinja na kopnu, i mogu se otvoriti pod uglom od 90 stepeni. Zubi u ustima su također vrlo veliki. I sekutići i očnjaci zubi su naličja na očnjake, i glavno su oružje napada. Donji sjekutići ne rastu prema gore, već se protežu paralelno sprijeda kao lopata. Dužina može doseći 60-70 cm, a težina 2-3 kilograma, dužina zuba od očnjaka je oko 75 cm. Oči, nosnice, ušne školjke itd. sve se rađaju na gornjem kraju lica, gotovo u istom avionu. Koža je vrlo debela, debljina leđa i strana može doseći 4-5 cm, tamno smeđa je i crvena ljubičasta, glatka i bez dlaka, a ima samo neke dlake na ustima, unutrašnjim ušima i repom. Svaki od prednje i zadnjih udova ima 4 nožna prsta gotovo jednake veličine, s kopitima na vrhovima nožnog prsta, koji su oblikovani kao ravne kandže s malo mreži između nožnog prsta.
Tijelo nilskog konja je prekriveno debelim slojem kože. Koža je plavo-crna sa oznakama crvene cigle. Osim nekih kratkih dlačica na repu, na tijelu gotovo da nema dlaka. Koža nilskog konja je izvanredno debela, sa slojem masti unutra, što joj omogućava da nemoćno pluta iz vode. Kada je nilski konj izložen zraku, količina vlage na njenoj koži isparava mnogo više od one drugih sisara. Nema znojnih žlijezda na koži nilskog konja, ali postoje i druge žlijezde koje mogu izlučiti crvenkastu vlaznu supstancu sličnu za sunčanju. I može spriječiti ugrize insekata. Nilski konji se ne mogu predugo držati izvan vode. Iz tog razloga nilski konji moraju ostati u vodi ili mokarom staništu kako bi spriječili dehidaciju.