鱼类，作为地球上最古老的脊椎动物的一个类群，其漫长的演化历史一直是众多的生物学家感兴趣的问题。鱼类的出现，标志着从低等、原始的无脊推动物向脊椎动物进化的一个质的飞跃；鱼类的发展、演化又提出了脊推动物进化的明显谱系。一切高等动物，两栖类、爬行类、鸟类、哺乳类，甚至我们人类自身都是在此基础上发展而来的。
研究古生物通常以化石材料为根据。科学家通过放射性同位素来测定岩石的绝对年龄，并划分成不同的地质年代。这些地质年代中保存下来的古生物，记录了当时的环境条件和生物信息，经过千万年的沉积，形成化石，成为研究地质历史和生物进化史的根据。
鱼类的化石并不十分丰富，但它们依然能够展示出古今各种鱼类发生、发展的过程。最早的鱼类化石沉积在寒武纪和奥陶纪的岩石里，距今已有大约4亿年的历史了。通过对岩石的研究，人们知道这种最早的鱼类生活在咸水环境里，或者说是生活在海洋中，它们的身体外面披有铠甲一样坚硬的外骨骼。这些原始的鱼类浑身布满了硬甲，具有扁平的前背甲。由于它们没有颌，所以被称为无颌类。它们可以说是最古老的鱼类，因为穿了甲胄，它们无疑地不能过游泳生活，只能生活在水底沉积物中。应该说，它们是一群不会游泳的鱼类。无颌类的内骨骼没有被保存下来，所以科学家们推测它们具有软骨骼，像现在我们见到的软骨鱼类鲨鱼和鳃鱼一样。
大量完整的无颌类化石是在泥盆纪找到的、泥盆纪可算是鱼类初生时代，中生代的诛罗纪和白垩纪（距今约1.3亿-1.6亿年），是鱼类中兴时代，新生代时，各种古今鱼类共存于海洋和地球上的其他水域，鱼类家庭达到全盛。
在无颌鱼类的基础上，最早的有颌鱼类也发展了。最初的颌是由几个硬骨鳃弓改造过来的。鳃弓最初埋在肌肉里，在进化过程中，颌与头部背甲融为一体，从而形成了一个更坚固、更有效率的进食器官——咀嚼器。
原始有颌类也称作盾皮鱼，它们在泥盆纪盛极一时，但到泥盆纪末已大部灭绝了，一般认为，软骨鱼类和硬骨鱼类都是由盾皮鱼演化来的，它们分别朝不同的方向发展，但尚未找到十分清楚的证据证明这个推论。一些盾皮鱼仍具有扁平的身体，像它们的祖先一样；但是大多数都变成流线型，甲胄也减少了，这种变化使它们获得了很强的游泳能力。软骨鱼类也脱去了沉重的甲胄（但仍有背板的痕迹），发展出更加强劲有力的适于游泳的肌肉组织。有些科学家认为，软骨鱼类是“原始”鱼类，但它们是否真正地比硬骨鱼原始，还有待证实。
有关脊椎动物颌的发生与进化的研究，是从上个世纪进行的胚胎学研究开始的，它揭示了进化中的一个重要过程。颌的出现，说明动物的某个新的重要的特征的出现可以使一个类群的生活领域扩大到以往不能生活的地区。这以后，鱼类得到了迅速扩展，成为今日最普遍的游泳生物类群。
硬骨鱼最初生活在淡水里，后来逐渐向海洋伸展，终于成为海洋鱼类的优势类群。在进化过程中，它们产生了内部硬骨骼，把僵硬的甲胄变成了薄薄的鳞片，从而使动作敏捷灵活，提高了运动速度。
硬骨鱼有两个类群，其中辐鳍鱼类在数量和种类上都大大超过另一种鱼——内鼻孔鱼类。内鼻孔鱼类包括一些形态和构造都很特殊的原始种类，它们具有内鼻孔构造，可以把嘴闭上而并不影响呼吸。内鼻孔鱼类今天能见到的只有肺鱼和矛尾鱼。矛尾鱼隶属空棘目腔棘纲。它被誉为活化石，在1938年以前一直被科学家们认为是已经灭绝了的种类。第一尾矛尾鱼是1938年被一名渔民在非洲东南海岸捕到的，这一发现轰动世界。以后又陆续捕到，证实这一古老鱼类仍生活在现代的海洋里。腔棘鱼的重要特征是，鳍成叶状，具有肌肉，并有相连的辐棘，从而使一些鱼可以在陆地上爬行。它们与两栖类有密切的亲缘关系。人们认为两栖类就是由它们演化而来的。