距今约五十万年的“北京人”已经知道如何制作简单的石器工具，并懂得用火去烧熟食物。为了使年轻一代能够更好地生存下去，长辈很自然地把如何制造石器和运用火种的知识告诉给晚辈，这就渐渐地产生了最初形式的教育活动。古书记载：“（燧人氏）钻木取火，教民熟食”“伏羲氏之世，天下多兽，故教民以猎”“神农……教民农作”等，都属此类教育活动。这种教育由于没有固定场所和特定对象，教育内容也只是根据一时一地的生产和生活需要而定，具有很大的随意性，实为简单的生产或生活教育。

原始社会后期，社会生产力有了一定的发展，氏族社会的集体生活也有了越来越丰富的内容。在教育上，除了进行生产、生活知识的传授外，氏族公社的某些集体意识和风俗道德习惯等思想教育也必然渗透其中。西安半坡遗址的考古资料表明：密集地排列着四五十座房屋为氏族的住房，中心有一座用于公共活动的大房子。这座大房子既是氏族成员讨论公共事务的场所，又是进行思想教育的地方。氏族成员在这里选举氏族首领、讨论氏族要事、举行宗教和庆贺活动等，在这些活动中，他们很自然地就形成了一定的集体意识和风俗道德习惯。但此时还没有正式的教育机构出现。

只有当人类文明和语言文字发展到一定程度，社会从第一次畜牧业与农业的大分工进入到农业和手工业的大分工，特别是社会劳动产品有了相当的剩余，保证一部分人可以脱离体力劳动成为脑力劳动者，而这部分人又觉得有必要将某些专门知识和经验有目的、有计划地传授给下一代时，这时候才有可能出现专门的教育机构——学校。