诸葛亮高卧隆中，刘玄德三顾茅庐，传为千古美谈。而北大当年为聘请罗振玉、王国维充任教授，除蔡元培累赴天津疏通罗振玉思想外，竟又三派使者，四发函件，——此“三请四邀”足见蔡元培重才之深，用人之诚，亦可见罗振玉、王国维具有真才实学，为人所重。——而派出的邀请使者“三沈二马”均是著名学者且与罗、王私谊颇深，仍迟迟未能解开罗振玉“不食周粟”之锈结。（三沈：沈士远、沈尹默、沈兼士兄弟三人；二马：马幼渔、马叔平兄弟二人，此五人均为北大著名教授。）
王国维累拒北大之邀请，于沪上除编辑爱逦园之《学术丛编，后又在“仓圣明智大学”任些课程，又应邀编纂《浙江续通志稿。《浙江通志最初编纂于明嘉靖年间，首开省志官撰之先例。至清代又分别编纂了康熙版《浙江通志和雍正版《浙江通志。此次续编，补订近四百年历史，浙江设立通志局，聘沈曾植为总编纂。沈曾植对编纂之史料、体例，乃至文辞要求都极为严苛，曾数换编撰人员，但对王国维所负责编撰的部分“甚感欣慰”。
浙江吴兴县有一藏书甚丰的传书堂，其主人蒋汝藻清末曾于学部任职，与罗振玉、王国维同属“部员”。后弃官从商，在上海经营大宗生意，这些年书市红火，他着意扩充传书堂，请人整理编印藏书目录。他先前聘用了光绪年间的举人、内阁侍读曹元忠着手整理藏书，编印书目，约定月薪50元。可是曹只领月薪，数月只字未编，序跋更一篇。蒋汝藻奈，决定更换人选。他想到王国维人品诚实敦厚，便亲到上海邀请他。王国维碍于曹元忠颜面，便没有答应蒋汝藻之邀。后来曹元忠辞职日久，蒋汝藻又请沈曾植出面说合，王国维才予应允。
王国维也深被蒋汝藻的传书精神感动，他曾赞扬蒋汝藻道：“汝生于藏书之乡，又生于藏书之家，于经籍心好之而能力赴之。”为方便王国维校阅书目，蒋汝藻将书分批送往上海王国维居所。王国维阅览、整理、修补图书，他依《四库全书体例，按经、史、子、集分类编目。半年间即编出经部（含小学）12卷。在细校《礼类书目时，从中鉴别出明嘉靖年间所刻之《礼记，此为世称《礼记之“最精善”本。
编纂史书部时，王国维发现了南宋白鹿洞书院翻刻的南雍本《史记，他惊叹：“得观异书，昔时均未见过，至可珍贵。”并提出了“陕学南监”之论，即他所说：“今见此书，乃知南雍有此本，陕学称碑林，南监直可号书林矣。”
编纂子部书目时王国维把杂家、家也列入其中。流传于民间的杂家、家的版本真伪混迹，很难辨别。王国维每晚要读至深夜，细较各类不同版本，从文句到内容，如侦探之破案，细寻任何蛛丝马迹，细细辨别真伪。通过参校异本，他发现原为“景钞元本的《困学纪闻（宋王应麟撰）”经他人易首易尾，竟被张冠李戴，冒称《实宾录（宋马永易撰）。《千顷堂书目，卷帙浩繁，他细加校对，从中查得了原已失名的《三才广志的作者为长兴人吴充。
编纂集部目时，王国维即以蒋汝藻所藏的《张说之文集、《李第吉诗集、《元微之集、《岺嘉州诗、《梁江文通文集和《小蓄集等，与他已经编纂刊印出来的《四部丛刊相互校对，并一一作序题跋、记其鉴别版本、改正纰缪、裁断异字等，常常累到“目疲手倦”。
王国维夜夜挑灯苦战，到1923年初秋，历时近五年，终于编纂完成《乌程蒋氏传书堂藏书志三十余册（收录善本2700余部，58768卷）和《乌程蒋氏传书堂善本书目（4部12卷）。他以一人之力，一笔不苟地编纂完成一部完整翔实的私家藏书书志，在中国版本目录学史上，足以令人叹为观止。
其实，就在王国维为蒋汝藻的传书堂挑灯苦战的中间，还发生了一件重要的事情，仍是北大再度邀请王国维任教之事。
蔡元培为聘用王国维可谓是用心良苦，他见王国维执意不肯北上，就与诸教授商议，仍让马叔平致电王国维，由聘任其“北上任教”改为就沪“函授”。为达到刨树刨根的目的，同时派马叔平再赴天津，聘罗振玉为“不受责，不到校”的“考古学导师，并允诺，二人“虽为函授，照致薪金”。
罗振玉遂致信王国维，说已面允了马叔平之邀，但任此“函授”导师，只为蔡元培等朋友“之盛情难却”，仍拟“不食周粟”，即仍不领民国之薪金。
王国维见到罗振玉的书信，便复电马叔平，同意出任“函授”之导师，但申明不领薪金。蔡元培闻讯，即派人持马叔平致王国维的书信和“脩金二百元”送上海面交王国维。王国维执意不收，一再说明“自己置身千里之外，只是个名誉导师，哪能领取薪金呢？”
北大马叔平又数电“殷切致意”，让王国维权且“暂存”，以避免让办事人员为难，王国给才勉强“暂存”起来。
北大诸人深知王国维忠厚诚实，他忠实于学术，忠实于朋友，更忠实于自己的承诺，有时甚至有些刻板机械，所以只好变着法子给他发薪金，但王国维仍予拒收。
但他于教学却一丝不苟，每期总会认认真真给学生作出学习规划，寄去教学讲义，学生寒暑假到上海登门学习，他总是热情接待，悉心辅导。见过他的学生都称赞他“沉静有学者气象”，顾颉刚等人更是对他服膺之至，顾颉刚曾在日记中写道：“王静安极朴诚，蔼然可亲。”而王国维一眼看中的是南阳学子董作宾的甲骨书法，他感觉董作宾把那些甲骨契文写活了，展示出了殷人在刻写契文时的手法甚至他们刻写时趣味，他把董作宾书写的一幅甲骨联寄给罗振玉，罗振玉观后也称赞“活灵活现，展现了殷人之‘雅趣’，此子之后，必有成就。”寒假时，王国维把董作宾叫到上海，悉心指导，引导他不仅要研究文字本身，而且注重利用甲骨文研究殷商社会历史。
居沪数年，王国维还在做着一件他一生非常重要的事情，那便是编纂他的《观堂集林。
王国维天赋异禀，自从在东文学社被罗振玉慧眼相识，收入门下，经历了东文苦学，东洋求学，后又经历武昌农业学校、南通州师范学校以及江苏师范学堂任教，更显出才华横溢，卓然超群本色。其间，他创作了诸如《端居、《嘲杜鹃、《五月十五夜坐雨赋此、《游通州湖心亭、《秋夜即事、《拼飞、《尘劳、《登狼山支云塔、《汗德象赞等诗文，后来集成《人间词，今录其一首：
采桑子
高城鼓动兰釭炧，睡也还醒。醉也还醒，忽听孤鸿三两声。
人生只似风前絮，欢也零星。悲也零星，都作连江点点萍
1903年起，他任通州、苏州等地师范学堂教习，讲授哲学、心理学、逻辑学，他悉心钻研康德、叔本华及尼采的哲学思想，将此类知识撰写成讲义文稿，两年间纂成《静安文集，其中以哲学观点评论文学作品《红楼梦评论及对科学与艺术区别的论述都给当时的学术界吹来一阵清新之风，颇为时人称道。
北上学部任事后，他又撰写出著名的《人间词话，这是他接受了西洋美学思想之洗礼后，以崭新的眼光对中国旧文学所作的评论。其中还提出了著名的治学三境界——“古今之成大事业、大学问者，必经过三种之境界：‘昨夜西风凋碧树，独上高楼，望尽天涯路。’此第一境也；‘衣带渐宽终不悔，为伊消得人憔悴。’此第二境也；‘众里寻他千百度，蓦然回首，那人却在，灯火阑珊处；此第三境也。”
东渡日本四年，他转而钻研甲骨金石之学，先后撰写了考证中国书册制度演化的《简牍检署考、考证古代宫室之制的《明堂寝庙通考和考证古代服装及历代绵帛市价史的《释币。特别是与罗振玉合著的《流沙坠简，在敦煌学研究中让东西方学者所望尘莫及，成为近代简帛学的奠基之作。
归国居沪，王国维更是撰写出了《殷卜辞中所见先王先公考等轰动学界的经典论著。
王国维想把这些年的创作成果汇编成一套著作，书名定为《观堂集林。他仔细筛选自已多年的文章著述，特别是随罗振玉东渡日本期间和归国后在爱俪园之中所著之文，删繁挹华，详加整理。书稿编成后，由于缺乏资金短缺，一直未能付梓印行。
蒋汝藻是个重情重义豪爽之人，为感谢王国维竭心尽智为他编纂《乌程蒋氏传书堂藏书志和《乌程蒋氏传书堂善本书目，在编纂刊印乌程蒋氏传书堂藏书志的同时，慷慨出资，于密韵楼开始为王国维刊印《观堂集林。
1923年，《观堂集林终于面世，全书文稿至为精审，体例极是严谨，分作“艺林”、“史林”、“缀林”三部类。
其《艺林系遵《汉书·艺文志所设《六艺略，共八卷，主要有《生霸死霸考、《汉人以后所传周乐考、《战国时秦用籀文六国用古文说等87篇；
其《史林共14卷，主要考证古代历史，有《殷卜辞所见先先公先王考、《鬼方昆吾猃狁考、《太史公行年考、《毛公鼎考释序等122篇。他利用古文字史料考证古史，使古文字学和古史学有机结合，极大地提升了甲骨学、金文学的学术地位和史料价值，成为近现代考古学和古代文献相互结合的学术典范，提高了先秦典籍的可信度。
其《缀林共2卷，《艺林、《史林之外的所有篇目，皆归入其内，主要有《补＜家谱忠壮公传＞、《库书楼记等18篇和王国维诗词80首。
《观堂集林一书学术成就最大的地方表现在利用甲骨文和金文对商周历史和礼制的考证性研究，以此订正并验证先秦相关史料记载的真伪性上。当然，这首先就是考证甲骨文字，进一步确立了甲骨学的诞生和科学化、规范化，完成了甲骨学从文字学走向历史学的变革。如在《鬼方昆吾猃狁考一文中，他考证出猃狁一族在商周乃至于到了汉唐时代的民族演变历史：我国古时西北地区有一强梁之外族，其族西自汧陇环华夏，而北东及太行常山（今正定县）间，或分或合，时入侵暴华夏。其俗尚武力，而文化之度，不及诸夏远甚。历代华夏族对其称呼不同。商周时，称鬼方、称昆夷、称獯鬻；到宗周之时，则称其为猃狁；入春秋后，则谓之戎，继号称其为狄。战国以后，又称之曰胡、曰匈奴。考证出了匈奴族的演变历史。
就在《观堂集林和《乌程蒋氏传书堂藏书志、《乌程蒋氏传书堂善本书目都即将刊印完毕之际，王国维收到罗振玉“报喜”信函，要他“奉旨进京”，于“南书房行走”。王国维本就非追逐官场之人，其时也正醉心学术编著，故而未及便行，但他经不住罗振玉再三催促，只好将动身北上。
到在天津嘉乐园，罗振玉告诉他此次得以入值南书房全靠在日本结交的好友、原陕甘总督升允力荐，而在编撰《清史稿的柯劭忞也已幸得“懋勤殿行走”，这表明“皇上”已到亲政之年，也正在，为光复“大清皇朝”积蓄力量。王国维却感觉时局动荡，对“入职南书房”一片茫然。
罗振玉安排王国维在嘉乐园“候旨”，准备进京“谢恩”。王国维心中却是一片茫然，一方面既为前清“遗老遗少”，就得“奉旨”，就得忠心事主；另一方面，他不知道“入职南书房”能有何为。眼见得张勋复辟、袁世凯称帝一个个下场可悲，他看不到一囿居宫禁的小朝廷有光复之望。他彷徨、迷惘，陷入矛盾之中。