虽然汉朝对匈奴一直采取“和亲”政策，并不断送给匈奴许多财物，但匈奴贵族还是时常侵犯中原，使北方地区不得安宁。
汉武帝时，王恢将军对匈奴的做法早就气不过，说：“匈奴不守盟约，和亲后仍是侵犯我边界，我们应该发兵教训他们一下才是。”
汉武帝心里很赞成王恢的建议，但许多大臣胆小怕事，持反对意见，汉武帝也便没了主意，只好表示先和匈奴和亲，然后再考试教训对方一事。
两年后，马邑地方一个叫聂壹的大商人找到王恢，说他琢磨了一个打击匈奴的计策。王恢问：“如何把匈奴引进来呢？”
聂壹又道：“我经常在边界上做买卖，匈奴人都认识我。我可借经商之机，假装把马邑献给单于。单于这人贪心太大，一定会来。我汉军埋伏于附近，只等单于一到马邑，你可带兵断其后路，形成包围之势，活捉单于。”
王恢觉得这计策不错，就和汉武帝讲了。汉武帝一听，认为这是个万无一失的方法，就欣然应允下来；接着进行了部署，派王恢、李广等带兵30万埋伏在马邑旁边的山谷里。
再说聂壹。待伏兵安顿好以后，他故意逃到匈奴，对军臣单于说：“我有办法混进马邑，杀死那里的官吏，然后稳稳地拿下马邑。”接着滔滔讲了起来。
军臣单于听了虽然高兴，但还是没个准谱儿。为了有把握起见，他派了少数心腹跟聂壹一同回到马邑，只等聂壹真的把官吏杀了，再发兵进去。
不久，马邑的城头上果真挂起了几个人头。其实这是王恢和聂壹早就安排好的死刑犯人的头颅。这一招竟真的骗过了匈奴使者的眼。
匈奴使者火速回去，将马邑官吏被杀的消息报告了军臣单于。军臣单于得到情报，即刻带兵10万去接管马邑。在离马邑百多里的地方，只见草原上有许多牲口，却没有放牲口的人，这一反常迹象使军臣单于起了疑心。突然，他见不远处有一座亭堡（了望敌情、传递消息用），便命人把亭堡打下，亲自威胁审讯抓获的亭尉。亭尉怕死，便把汉兵布置的埋伏全都供出。
军臣单于大吃一惊，忙命令全军撤退。
打这儿以后，汉朝和匈奴的关系彻底破裂了，战事接连发生。
张骞西行
汉武帝初年，匈奴连连进犯中原。汉武帝听说有一个月氏（yuèzhī）国，被匈奴打败后逃到西域一带。他便想派人去西域寻找月氏国，联合月氏国一起对付匈奴。
汉武帝下了诏书后，有个年轻人张骞首先应征。公元前138年，张骞和一位在长安的匈奴族人堂邑父带着一百多名勇士出发了。从长安到月氏国必须要经过匈奴占领的地界。于是，张骞等人便成了匈奴的俘虏。
10年以后，张骞和堂邑父才寻机逃了出来，闯入了一个名叫大宛（今中亚细亚）的国家。大宛的国王热情地款待了张骞和堂邑父，并派人护送他们到了康居（今巴尔喀什湖和咸海之间）再由康居到了月氏。
虽然张骞没能说服月氏国王共同对付匈奴，但他们在月氏国见到了许多他们从未见到过的东西。张骞此行，整整历时13年，回到长安后，汉武帝封他做了太中大夫。
公元前119年，匈奴被汉军追击，逃到沙漠北面以后，汉武帝又派张骞去结交西域。这时，西域一带的国家见匈奴失了势，都不愿意向匈奴进贡纳税，而渴望与国富民强的汉朝交往了。
张骞和他的几个副手，拿着汉朝的旌节，带着几百名勇士，还带着牛羊、黄金、丝帛等物，骑马去结交西域。张骞到了乌孙（今新疆境内），又派他的副手们带着礼物去结交大宛、大月氏、于阗（今新疆和田一带）等国。
张骞回到长安时，带来了乌孙国使者和乌孙国王回送的礼物，汉武帝也同样优待乌孙国使者。张骞和他的副手这次总共到过36个国家，从此，汉武帝每年都派使者访问西域各国；西域也常派使节来回访。
西域汉朝时候，对我国玉门关、阳关以西地区泛称“西域”。狭义的西域，专指葱岭以东、天山南北等地区。公元前138年和公元前119年，汉武帝两次派张骞出使西域，从此开拓了“丝绸之路”。张骞出使西域，沟通并加强了汉和西域各族人民的友好关系。
