1913年冬，适逢清华学校招生，孙立人回到安庆报考，在近千人的考试中，以安徽省第一名的成绩考取清华学校(现清华大学)庚子赔款留美预科。在清华学校学习的日子里，孙立人酷爱体育运动，身高1米85的他在各类运动中尤其擅长篮球，并担任清华篮球队队长，正是这样一位大个子的青年，在1921年入选中国国家男子篮球队，率队于上海举行的第五届远东运动会击败菲律宾、日本队，为中国在国际大奖赛中获得第一次篮球冠军。
在，辗转青岛、北京等地之后，留美学习土木工程学。但是后来，他却执意改学军事，进入维吉尼亚军校接受严格的军事训练，毕业之后，游历欧洲，参观英、法、德等国军事。正是这样的留学经历，使得他成为抗战时期中国少数有留美背景的军事将领。回国之后的孙立人，因为并非黄埔军校出身，在蒋介石那里并未得到重用，真正给予他厚望的是财政部长宋子文。才华横溢的孙立人被宋子文选中，担任税警总团第4团的上校团长。税警总团由宋子文一手创建，武器从德国购买，排以上军官大部分由留美学生担任。孙立人具备了留美的经历，又曾经游历欧洲各国，对外国的情况比较熟悉，所以担当重任。
练出孙氏操典
作为长期留美的海归派，孙立人对英美军事系统有着深刻的了解，他在《建军理想》中曾说：“我认为英美的长处，是自发自动活泼负责守法。他们的一个士兵，没有了官长的统率，仍然可以继续作战到底;他们的军营里，充满了活泼生气。可是他们的缺点，就是吊儿郎当，粗枝大叶，官兵生活浪漫随便。”而“中国人一向有的特长，是英美德法等任何国家所赶不上的，就是刻苦、耐劳、忍辱负重及牺牲的精神”。因此，他主张把中国传统教育和美国军校的教育方式结合起来，制订出适合自己部队需要的训练制度和方法，形成了一套与国军其他部队不同的训练操典，被大家称为“孙氏操典”。
他一生四次练兵，第一次就是在海州训练税警第4团，第二次是1938年抗战军兴时，在贵州的都均训练缉私总队，也就是后来远征军新38师的前身，第三次是在印度的兰姆伽训练远征军驻印的新38师，最后一次是1948年起，在台湾凤山训练退到台澎的国陆军。海州练兵是他事业的起点。第4团驻扎与训练的场所江苏海州城南交通便利，但远离大城市。在这里，孙立人按照“孙氏操典”对税警第4团进行了6年的严格训练，官兵无论是武器使用与保养、体能、纪律、凝聚力和士气都与当时一般军队截然不同，成为初露锋芒的一支劲旅。
蒋介石曾当面评价孙立人，说他“对于训练部队很好，不过打仗不行”。蒋介石的不够器重有一定的原因，但是也并不客观。在仁安羌战役中，孙立人亲帅800人击败了8000围城日军，解救了7000多名濒死英军，自此名声大噪，罗斯福和英王乔治以及蒋介石都亲自给其授勋。
入缅作战
1942年2月，中国远征军成立。孙立人两次，第一次于1942年4月率领新三十八师进驻缅甸曼德勒，参加曼德勒会战，在仁安羌以解救大量英军而受到嘉奖。仁安羌之战是中国远征军入缅后第一个胜仗，孙立人以不满1000的兵力，击退数倍于己的敌人，救出近7倍于己的友军，轰动全球。仁安羌战役之后，杜聿明执行蒋介石的命令，打算经野人山热带丛林撤回云南，而孙立人则果断率新三十八师向西撤回印度，1942年5月27日走出林区，抵达印度，军容整肃，锐气不减。而杜聿明所率的第五军遭到日军追击，半数葬送在野人山。