在他看来，读书要精的秘诀在于“眼到，口到，心到，手到”。需知著书的人，他写每一个字都是反复推敲的，而且每个字又有很多的意义，眼一时不到，就很容易误解作者的意思，贻害很大。口到就是要多读，特别是不甚理解的地方，多读几遍效果很好。心到就是要用心考究每章每句每字意义如何，何以如此排章布节。手到的范围很广，它不仅包括做笔记、写心得，还包括查字典、做标记等，更重要的是，要通过手到这一手段把著书人的知识给彻底消化吸收。
关于这一点，胡适曾经举过这样一个例子：“你也会说‘进化’，他也会谈‘进化’，但你对于‘进化’这个观念的见解未必是很清楚的；也许只是一种道听途说，也许只是一种时髦的口号。这种知识算不得知识，更算不得是‘你的’识。……假使你翻了几天书之后，发愤动手，把你研究所得写成一篇读书札记，列举了：（一）生物学上的证据，（二）比较解剖学上的证据，（三）比较胚胎学上的证据，（四）地质学和古生物学上的证据，（五）考古学上的证据，（六）社会学和人类学上的证据。到这个时候，你所有关于‘进化’”的知识，经过了一番组织安排，这些知识方才可算是你自己的了。”
关于读书要博，胡适的观点是读书不博，则无法读书。经常读书的人，应该会有这样的经验，读到某处，总是理解不了，好像对某方面的知识有所欠缺，但当你想要补充这方面的知识时，又会发现新的欠缺，读书愈多，发现的欠缺愈多，即便不想博，也不得不博了，除非索性不读。
关于这一点，胡适也有个例子：“譬如读《诗经》，你若先读了北大出版的《歌谣周刊》，便觉得《诗经》好懂的多了；你若先读过社会学，人类学，你懂得更多了；你若先读过文字学，古音韵学，你懂得更多了；你若读过考古学，比较宗教学等，你懂得的更多了。”
作为实验主义的提倡者，他希望学生能够在学业上不断追求进步，常教导学生做学问要能不断发现问题，研究问题和解决问题。同时他也希望学生们毕业后不要放弃做学问。
胡适在《中国公学十八级毕业赠言》中说：“诸位毕业同学：你们现在要离开母校了，我没有什么礼物送给你们，只好送你们一句话罢。
“这一句话是：‘不要抛弃学问’。以前的功课也许有一大部分是为了这张毕业文凭，不得已而做的，从今以后，你们可以依自己的心愿去自由研究了。趁现在年富力强的时候，努力做一种专门的学问。少年是一去不复返的，等到精力衰时，要做学问也来不及了。即为吃饭计，学问决不会辜负人的。吃饭而不求学问，三五年之后，你们都要被后进少年淘汰掉的。到那时再想做点学问来补救，恐怕已经太晚了……
“易卜生说：‘你的最大责任是把你这块材料铸造成器。学问便是铸器的工具。抛弃了学问便是毁了你们自己。
“再会了！你们的母校眼睁睁地要看你们十年之后成什么器。”
杨亮功还回忆说：“胡先生在学校积极提倡学生写作，他认为这样可以引起学生读书兴趣。学校创办有《吴淞月刊》。当时学校教授中作家甚多，影响所及，学生方面亦创办有许多刊物如《野马》等。”
此外，胡适还非常支持学生自己创办的《中国公学三日刊》。1929年底，针对一些学生对于某一学生组织用“中国公学”名义办此报刊的疑问，胡适公开表示：私人组织可以用“中国公学”名称，并且说美国著名大学的刊物都是如此。他还强调：学校不会干涉《中国公学三日刊》的发展，学生会也不会干涉。
胡适还为该刊题写了1930年新年贺词：“种种从前，都成今我。莫更思量更悲哀。从今后，要那么收果，先那么栽。祝大家新年进步！”
胡适深知图书馆对于学习知识的重要性,??他很早就与图书馆结下不解之缘。胡适留学美国时，对美国的图书馆产生了浓厚的兴趣。在康乃尔大学读书期间，胡适曾“作一书致图书馆馆长harris君，许添设汉籍事”。1914年1月，胡适在《留美学生年报》上发表《美国大学调查表》例言及《藏晖室杂录》。《杂录》第四部分对藏书30万册以上的美国大学图书馆概况做了统计。同年9月6日，胡适还游览了波士顿公共图书馆，十分欣赏该馆100余万册藏书，“任人观览，不取资”的做法。
胡适对美国的图书馆与中国的藏书楼之间的巨大差距感慨万分，他在1915年2月21日的日记中写道：“国无海军，不足耻也；国无陆军，不足耻也！国无大学，无公共藏书楼，无博物院，无美术馆乃可耻耳。我国人其洗此耻哉！”为此，他发下大愿“吾归国后，每至一地必提倡一公共藏书楼。在里则将建绩溪阅书社，在外则将建皖南藏书楼，安徽藏书楼，然后推而广之，乃提倡一中华民国国立藏书楼，以比之英之(大英博物馆)，法之(国家图书馆)，美之(国会图书馆)，亦报国之一端也。”
胡适认为建立图书馆是报效国家的一种方式，此后他便终生致力于推进中国的图书馆建设。
1922年7月6日，胡适与蒋梦麟一起就日本赠款用途拟定计划，其中第一条就是“设东方历史博物馆及图书馆”。
1925年4月，中华图书馆协会成立，胡适捐款以示支持，并担任了协会董事兼财政委员会委员、索引委员会书记。
1930年6月初，他在中国图书馆协会本年度年会的讲话中指出，良好的教师可遇不可求，图书馆则可求而可得。能够供给真正知识的，图书馆才是真正的教师。
他在中国公学期间，对设在上海的社会科学院图书馆进行了整顿扩充，每日到馆学生有百余人。同时，校图书馆一改以往无任何统计的积习，计划进行各项统计，包括各系学生借书统计表、借出各种书籍分类比较表、各年级学生借书比较表等，为图书馆的科学管理奠定了基础。