【回到陈汤身上，这汉成帝上位之后，已经当了丞相的匡衡又把这件事拿出来说了。
他说，虽然当初赦免了陈汤，但是他还是不适合再当官了。
就这样，陈汤被罢免了官职。
后来，陈汤向汉成帝上书说康居王送来的质子是个假王子。结果汉成帝派人调查后发现是真的。
陈汤因此获罪，本来朝廷是想要定死罪的，但是太中大夫谷永，也就是当初谷吉的儿子上书汉成帝，说：
晋文公因为楚国有子玉得臣而坐得不安稳，强秦因为赵国有廉颇、赵奢而不敢打井陉，文帝时期，因为有郅都、魏尚，匈奴就不敢南下。
当初郅支单于没有人性，到处作恶，西域诸国也因此开始轻视汉朝，正是陈汤历尽千难万险，斩下了郅支单于的脑壳，洗刷了汉朝十年的耻辱，使得西域诸国震服，大汉威名传播四方。
当年，秦国白起向南攻下郢都，向北坑杀赵括，却因为一点小罪就被赐死，秦国百姓纷纷为之痛惜。
如今陈汤因为说的事情错了，就要被处以死罪，圣明的君主是不会这样做的。
于是，陈汤被免除死罪，贬成了普通士兵。
后来，西域都护段会宗遭到乌孙兵马的围攻，请求朝廷派兵支援。
朝廷大臣讨论了几天都没有结果，于是大将军王凤便建议说陈汤对西域很了解，可以找他来问对策。
陈汤得意朝见汉成帝，只不过他的确是很有性格，直接就说：“满朝大臣都是贤才，可以解决的，我就一老弱病残，没有能力谋划大事。”
汉成帝知道他在耍脾气，便说：“国家大事很急，你不要推三阻四。”
于是陈汤就说，这没什么好担心的，乌孙很快就会撤回去的。
汉成帝不解，陈汤便说出了另外一句在后世十分出名的话，那就是：
一汉当五胡！
他说，西域那些人的武器铠甲都很落后，以前一个汉兵能打五个胡兵。现在那些胡人学了汉朝的兵器制作方法，虽然有了进步。
但是，一个汉兵打三个胡兵没有问题。
如此推算，乌孙那群乌合之众的实力根本就没法战胜段会宗的兵马。
即便是发兵去救，轻骑一天可以行军五十里，重骑兵一天行军三十里，根本就救不了急。
依他推断时间，不出五天时间，新的战报就会送来，乌孙肯定退兵了。
结果，第四天，新战报传回，乌孙果然撤退了。
大将军王凤认为陈汤十分有才能，就举荐了陈汤，陈汤再次获官，被封为从事中郎，军中大事，都请他做参谋决断。