1954 年 10 月 5 日，装备 J65-W-7 的第二架 XF-104 （53-7787 ）首次试飞。该机被用作武器试验平台，因此装备了 20 ㎜M61A1 “火神”航炮，以及 AN/ASG-14T-1 火控系统。在最初的对空火力测试中，M61A1 航炮表现良好。但在 12 月 17 日，M61A1 却几乎毁掉了 XF-104 的 2 号机。当时 XF-104 正在进行射击试验，M61A1 突然炸膛，紧接着 J65 发动机转速急剧变化，处于极度不稳定状态。经验丰富的首席试飞员托尼·勒维尔立刻关闭发动机，进行空滑迫降，最后在罗杰斯干湖上成功着陆。事后调查发现，一发 20 ㎜炮弹在膛内爆炸，碎片飞出来击穿中机身油箱。燃油喷到炮舱内，并从舱门缝隙漏到左侧进气道内，使得发动机由于严重富油而熄火。在这件事当中，勒维尔能安全脱险，除了运气之外，精湛的技术和丰富的经验也是不可或缺的。
不过，这架 2 号机还是在 1955 年 4 月 14 日坠毁了。当时 R·菲斯·索曼正在 15,240 米高空进行航炮射击试验。航炮在射击时发生故障，产生严重振动，撞松了飞机腹部的弹射舱门，导致座舱急速失压。索曼的抗荷服因此迅速膨胀起来，挡住了他的视线。他立刻想到 12 月勒维尔的那次事故，认为自己也遇到了同样的事件，没有选择，只能跳伞。然而他事后发现，他本来可以挽救这架飞机的——飞机本身没有严重问题，只要降到低空，抗荷服自然也瘪下来，视线也不会受阻了。由于这次事故，洛克希德损失了仅有的武器试验平台，不得不改装一架 F-94“星火”截击机用来应急。
F-94“星火”截击机也是洛克希德的产品，改装起来相对简单。不过，这种飞机在当时也已经过时，美国空军的“截击机 1954” 工程正是为了研制 F-94 等老式截击机的后继机——其最终成果就是日后广为人知的康维尔 F-102“三角剑”
1955 年 12 月，XF-104 1 号机交付美国空军。但该机最终也于 1957 年 7 月 11 日坠毁。当时它正在为一架 F-104A 伴随护航，却遇到尾翼颤振问题。由于严重颤振，整个尾翼结构被破坏，从机身上脱落，试飞员比尔·帕克被迫跳伞。至此，XF-104 原型机全部损失，没能保存到今天。
1954 年 7 月，美国空军向洛克希德订购 17 架 YF-104A 预生产型用于试飞。按照当时的观点，大量飞机投入试飞将大大加快飞机的研制进度，并且一旦飞机定型投产，这批飞机还可以升级到生产型标准——当然，最大的缺点就是飞机研制计划夭折，那么这批预生产型也就基本上成为废铁了。
由于担心通用电气的 J79 发动机不能按时投入使用，洛克希德采用了保险的策略。在第一架 YF-104A 上仍然准备安装瑞特的 J65-W-7 。不过，这次 J79 总算赶上了进度。1955 年 12 月，通用电气向海军借了一架 XF4D “天光”战斗机，将 J79 装上去试飞。根据试飞结果，J79 很快将获准投入使用，正好赶上 YF-104A 的试飞。于是，最终这 17 架 YF-104A 都按照安装 J79 发动机的标准来制造，它们预计将装备 XJ79-JE-3 发动机，该发动机军用推力 4,218 公斤，加力推力 6,713 公斤。
和 XF-104 相比，YF-104A 主要有以下变化：机身加长了 1.68 米，以容纳 J79 发动机；向后收起的前起落架改为向前收起，以便为座椅向下弹射提供更好的弹射空间；机身背部增加了一个狭窄的背脊；机身内增加了两个油箱；进气口形状修改，并加装在 XF-104 上省略了的激波锥，以适应大推力 J79 的需要；增加的激波锥上有放气狭缝，可以将部分空气由机身通道送往后机身，用于加力燃烧室冷却，并减小飞机尾部阻力；飞机上安装了 AN/ASG-14T-1 火控系统，并加装了 AN/ARN-56 塔康系统；飞机空重略有增加，为 5,698 公斤，无外挂最大起飞重量由 XF-104 的 7,122 公斤增大到 8,564 公斤，全外挂构型（包括 4 个翼下挂点和 1 个机腹挂点） 下最大起飞重量为 11,151 公斤。
YF-104 相对于XF-104， 其气动外形明显改变，激波锥的引入，大幅改善了不同条件下的进气效率。垂尾上的序号表明，该机是17 架原型机中的第7 架
1956 年 2 月， 第一架 YF-104A（55-2955） 出厂，在严格保密情况下运抵爱德华兹空军基地。1956 年 2 月 17 日，该机由洛克希德试飞员赫曼·菲斯·索曼驾驶进行了首次试飞。此前一天，第二架 YF-104A（55-2956 ）已经在洛克希德的伯班克工厂进行了首次正式展出。尽管此次展出未对媒体开放，但也确实证实了航空界关于洛克希德正在研制一种革命性战斗机的传言。当然，根据美国空军的要求，YF-104A 2 号机的进气口被严严实实地遮住了——他们并不想这么早就暴露当时非常先进的激波锥设计。
在今天众多航迷眼里和“落后过时”画等号的三维超音速进气道设计，在当年却是高度机密。即使在今天，能够设计超音速进气道的国家仍然屈指可数。（注：本图中的飞机并非 YF-104 ，而是德国的 F-104G。）
17 架 YF-104A ，加上最初生产的 35 架 F-104A，总共有 52 架飞机参与试飞，并进行相关设备的评估，包括：J79 发动机的改进改型（J79-JE-3、J79-JE-3A 、J79-JE-3B），M61A1 航炮，AIM-9“响尾蛇”导弹，以及挂在翼尖的 170 加仑副油箱等。在试飞过程中，飞机结构进行了相应加强，并对局部设计加以改进。为了获得最好的效果，对不同类型的吹气襟翼进行了试验。尾部加装了腹鳍，以改善超音速时飞机的航向稳定性。
除了试飞外，YF-104A 还被用于创纪录飞行。1958 年 5 月 7 日， 霍华德·C· 约翰逊少校驾机在爱德华兹空军基地上空进行动力跃升飞行，最大飞行高度达到 27,813 米，创造了一项世界高度纪录。5 月 16 日，YF-104A 在沃尔特·W·埃汶上尉操纵下，在 15×25 公里闭合航线上创造了 2,259 公里/时的世界速度纪录。这是航空史上第一次，由同一种飞机同时摘取高度和速度纪录两项桂冠。