2004年8月，雅典奥运会在菲尔普斯等待了4年之后，在希腊隆重开幕。在雅典的泳池里，他没有让那些关心他呵护他的亿万美国民众失望，他一举夺得了6枚金牌1枚银牌1枚铜牌。他成了奥运会历史上第二个在一届奥运会中夺得8块奖牌的人。这时，菲尔普斯仅有19岁！
随后几年里，菲尔普斯并未停下创造辉煌的脚步，他不断刷新自己创造的世界纪录。在2007年3月澳大利亚墨尔本举行的世界游泳锦标赛上，菲尔普斯摘了7金破了5项世界纪录。但他对此并不满足，此时菲尔普斯最大的梦想是超越施皮茨，美国游泳名将施皮茨在1972年的慕尼黑奥运会中，一人包揽7枚奥运金牌。菲尔普斯决定，在2008年北京第29届夏季奥运会上冲击8金。
菲尔普斯的豪言壮语，遭到了“鱼雷”索普等泳坛名将的质疑，因为要拿到8枚金牌，不仅要靠他个人的努力，还有来自队友的鼎力协助。但很快，菲尔普斯的出色表现让所有的质疑者傻眼了。在北京奥运会上，他用不断破纪录拿金牌实现了赛前诺言，不仅一举摘得8枚金牌，还7次打破世界纪录。