大约5500万年前的古新世。始祖象身高近一米，体型较小，类似于现代的猪。它们生活在沼泽和河畔旁边，可以局部生活在水中，类似河马的习性。始祖象虽然没有长鼻子，但上唇和上下颌的第二对门齿都比较大，头骨较长，眼睛明显靠前，这些特征已显示出向现代大象演化的趋势。然而，需要注意的是，现在很多古生物学家认为始祖象并不是真正的长鼻象的直系祖先，但因其特征而被命名为始祖象。

随着时间的推移，大象逐渐演化成体型更大、特征更明显的物种。约3500万年前，第一只“真正”的大象（与现代大象更为接近的祖先）出现在非洲。这些大象的身体比以前的大象更大，嘴巴更加延长，牙齿也更加高大，这些变化使得它们能够更有效地消化植物。