张鲁不仅是个宗教领袖，也是重要的军阀头目。在刘焉主政益州时，张鲁受其重用，开始登上政治舞台。后来刘焉任命张鲁为督义司马，与别部司马张脩一起发兵夺取汉中。张鲁颇有野心，袭杀张脩，夺其部众，盘踞汉中，成为割据一方的军阀。刘焉死后，刘璋继任益州牧，由于张鲁不愿归顺，刘璋大开杀戒，把张鲁娘家亲戚都杀掉了。
与中国各地其他政权不同，张鲁建立的是一个政教合一的政权。不置长吏，各部首领都是宗教大头目，称为“治头大祭酒”。初学者叫“鬼卒”，而信教已久者则称为“祭酒”。这种特殊的政权模式，在中国独树一帜。
张鲁是个独立的军阀，与其他军阀往来不多，势力相对也较弱，自然成为曹操的下一个目标。
曹操把征服张鲁的任务交给司隶校尉钟繇，同时派征西护军夏侯渊率部从河东出发，与钟繇会师。在曹操看来，征服张鲁，北可威慑关中的韩遂、马超，南可进窥巴蜀。不过他的部下高柔可不这样认为，高柔进谏道：“大军西征，韩遂、马超等人定会怀疑我们别有用心，认为我们表面上征讨张鲁，实则要夺取关中，到时必会叛乱。我认为不如先取关中，只要关中平定，一纸文书下达，张鲁就会乖乖投降了。”