从1936年9月到1937年8月整整一年，他看到的汉文和回鹘文卷子加起来还不到500卷。向达后来在文章中曾多次提及这段伤心往事。

这一时期，向达的生活津贴常常没有着落。但他仍节衣缩食，筚路蓝缕，艰难前行。

1937年末，向达访问巴黎、柏林、慕尼黑等地科学院、博物馆，考察各处窃自中国西北地区的壁画、写卷等藏品。在巴黎期间，着重研究了法国国立图书馆收藏的敦煌写卷，抄录了明清之际来华耶稣会士有关文献等。他撰写的《伦敦的敦煌俗文学》和《伦敦所藏敦煌卷子经眼目录》等文，为学术界提供了极为丰富的资料，把国内敦煌学的研究提高到了一个新的水平。

1938年，向达携带着抄录的几百万字的敦煌资料，回到了正在遭受日寇侵略的袓国。

回国后，向达先在迁到广西宜山的浙江大学史地系任教，不久转任昆明西南联大历史系教授兼北京大学文科研究所导师。1941年，国立中央研究院组织西北史地考察团，其历史考古组由中央研究院历史语言研究所、中央博物院与国立北京大学联合组成。向达代表北京大学于1942年春经河西走廊到达敦煌，考察了莫高窟（千佛洞）、万佛峡等。所到之处，向达都一一详细考察，并将考察过程和结果，记录在名为《西征小记》的书中。向达以科学考古与文献相结合的方法，对敦煌石窟进行开创性的研究，因此他被誉为开创“敦煌学”的先驱。

在敦煌考察期间，向达目睹了某画家为一己之私，临摹肆意破坏壁画，异常愤慨。返重庆后，他立即致信时任中央史语所所长的傅斯年：“一江湖画家，盘踞此间，已历年余，组合十余人，做临摹工作，任意勾勒原画，以便描摹，损坏画面，毫不顾惜……似此更二三年，千佛洞遭罹浩劫，将不知伊于胡底矣！”据此，傅斯年、李济致函于右任，指出问题的严重性，建议成立机构保护敦煌莫高窟。1943年12月，向达署名方回的《论敦煌千佛洞的管理、研究及其连带的几个问题》在《大公报》上连载，文中提出将千佛洞收归国有，由学术机构进行管理，开展研究工作等建议。此文发表，一石激起千层浪，直接推动国立敦煌艺术研究所于1944年成立。研究所成立后，常书鸿任所长。这也开启了“敦煌学”长流不息的渊源。