관립 한성외국어학교 한어과(漢語科)를 졸업하고 주시경 문하에서 국어학을 연구했다. 1911년 3월 사립 정리사(精理舍)를 졸업한 뒤 교육계에 투신, 후학을 키우며 독립운동에 헌신했다. 1921년 12월 휘문의숙에서 조선어연구회 창설 멤버로 참가했으며, 1926년 10월 교정부 기자로 입사. 1931년 7월까지 지방부장, 문화부장, 편집인을 지냈다. 1927년 조선일보가 펼친 일제하 최대 민족계몽운동인 문자보급운동을 편집인으로서 주도했고, 교재인 『한글원본』을 직접 제작했다. 1930년 ‘한글 철자법 강좌’를 55회에 걸쳐 장기연재했다. 퇴사한 뒤 양정학교 교사로 일하며 조선어학회 ‘한글맞춤법 통일안’ 제정위원을 역임. 1942년 10월 조선어학회 사건으로 2년간 옥고를 치렀다. 넷째 아들 장세경은 그의 뒤를 이어 국어학을 연구했으며, 부친의 유고를 보완해 1976년 『이두사전』을 공저로 출간했다.