北京顺义区牛栏山第二中学毕业证样本、高中成绩单、1964年，为缓解牛栏山中学（现牛山一中）生源过多难以容纳的困难, 决定在牛栏山地区再建一所中学，即牛山第二中学。

1965年3月寒假后，从牛栏山中学拨初一、初二共计337人到牛山二中就读。同时有教师26人到牛山二中工作。当时只有初中学生。

1969年，牛山二中曾招收一届“农中”学生，开设了农机、农医和电工共三个班，学生总数46人。后又招收了3、4届。牛山二中的“农中”于1976年前后败落。

1971年春季，牛山二中增设二年制高中班，每届招收1-2个班。

1982年，顺义县进行中学的重新布局，把原顺义西北片的普通高中归到牛山二中，至此，牛山二中成为当时顺义县九所完全中学之一。80年代末，牛山二中学生数量达到千余人，教师数量100人以上。并新建教学楼和扩建了操场。

进入21世纪，学校发展更加迅速，全校维持在24－28个教学班，1100－1300学生，110位教师。

2009年顺义区进行高中的重新布局， 7月我校高中师生合并到牛栏山一中，只留下初中部，到2009年9月暑假开学，学生总数77人，教师36人。由完中校转为初中校。