却说女真族早期分为几十个不相统属的部落，完颜氏在女真诸部中地位并不突出。至乌古乃任完颜部长时，完颜氏发展成为强大的部落，并征服和联合十几个部族组成部落联盟。乌古乃成为部落联盟长，并被辽授予节度使称号。乌古乃利用辽朝的支持，加紧统一女真各部。
乌古乃死后，其子完颜劾里钵继任联盟长。这时的部落联盟已经扩大到30多个部落了，而且内部的阶级分化日趋明显，一个奴隶制国家的雏形已经形成。
辽道宗时，东方有五色云气出现，形状像容量为二千斛的圆形大谷仓，不久，完颜阿骨打出生。
完颜阿骨打是完颜劾里钵次子，其母拿懒氏。幼年时阿骨打和小孩子们做游戏，一人的力气能抵过几个人的。阿骨打十岁的时候，喜好弯弓射箭，而且射得很好。
完颜劾里钵作战时身上受了四处伤，处境极为危险，他让阿骨打坐在自己膝上，顺着他的头发说“：这个儿子已经长大了，我还有什么忧虑的呢？”
辽朝使臣看见阿骨打手里拿着弓箭，就让他射群鸟，连续三次都射中了。辽使惊惶四顾地说“：真是一个奇特的男子啊！”
阿骨打有天与众人散步，望见南边有一座高高的土山，众人都射不到山那边去，阿骨打一箭便射过了土山。量一下箭到的地方，有三百二十步远。
阿骨打到辽朝朝觐道宗前，劾里钵告诫他说：“你办完事快点回来，那样我还能见到你。”在辽国，阿骨打跟一位辽国权贵下棋，辽国权贵走错一着，要悔棋。阿骨打坚决不让，那位权贵再三纠缠，阿骨打立即拔刀要杀那位权贵。完颜娄室刚好在身边，他一下子按住阿骨打佩带的刀鞘。阿骨打没法拔出佩刀，就用刀柄撞打那位权贵。大臣们劝辽道宗杀掉阿骨打，辽道宗说：“朕刚刚示信于远方，不可杀也。”阿骨打回来第二天，劾里钵就去世了。
天庆二年春，辽天祚帝往混同江钓鱼，驻跸春州，适逢“头鱼宴”。酒至尽头，天祚帝命诸位酋长依次起舞，阿骨打推说不会跳舞，再三劝谕始终不从。天祚帝生气地说：“阿骨打意气豪迈，顾盼之间不同于常人，可以找借口诛杀他。否则必定留下后患。”萧奉先说：“他是一个粗人，不懂什么礼义，况且又没犯什么大罪，我们无故杀他，会造成极坏的影响。如果阿骨打真的叛逆，他那蕞尔小国能有什么作为呢？”天祚帝于是作罢。
乾统九年（1109年），年景不好五谷不丰，民间多有负债逃亡的人，卖掉妻儿也不能偿还。阿骨打指着那些百姓说：“从今天起三年不征税，三年以后再考虑。”闻者感动得落泪，从这时起众人都听从他的命令。
天祚帝即位以后，契丹贵族对于女真各部落的压榨勒索越来越重。女真地区的土产除依照定期定量向辽朝进贡而外，辽朝东北边境的官吏和奸商在朝廷的纵容下，还经常到榷场中用“低值”去强购，称为“打女真”，这早就在女真人民心里种下了仇恨。
天庆四年（1114年）六月，天祚帝派使臣授予阿骨打节度使的称号。
九月，阿骨会合各部落二千五百人。阿骨打祭告天地后说：“你们同心尽力，有功者奴婢可以作平民，平民可以作官。原先有官职的可以按功劳大小晋升。如果违反誓言，身死梃下，家属也不能赦免。”次日部队到达辽界与渤海军相遇。阿骨打射死辽将耶律谢十，辽兵溃败，女真兵乘胜攻克宁江州城。
阿骨打决定出其不意继续进攻。当时正是隆冬季节。二千多铁骑乘风踏雪直扑鸭子河北岸，辽兵没有料到阿骨打的军队来得如此之快，措手不及纷纷溃败。女真俘获的车马、粮草不可胜数。
同年女真军攻下宾州、咸州，1115年元旦，阿骨打即皇帝位，国号大金。
金国建立后，废除原来部落联盟长的制度，阿骨打自称皇帝，确立了皇权的统治。阿骨打没有象阿保机那样模仿汉制立太子，皇位的继承仍然保留着推选的痕迹，但实际上已经完全掌握在阿骨打的家族手中。
辽主遣使赍书往金令他为属国。金主要求辽主把黄龙府迁至别地方可议和。辽主贻书呼金主名谕令归降。金主亦复书呼辽主名谕令归阵。两下里各争尊长煞是好看。
黄龙府是辽朝重要的国库之所在，也是辽国的经济命脉。阿骨打建国后的第一件大事就是占据黄龙府。但是黄龙府外城防御完善，内城守备坚固，若要强攻硬取，一旦辽兵增援就会腹背受敌。阿骨打决定“围点打援”，围住黄龙府，扫清其外围，歼灭救援军队。
黄龙府外围被扫平后，阿骨打率兵直捣黄龙府。当时的黄龙府被围困数月，守将耶律宁在内无粮草、外无援兵的情况下，惶惶不可终日。阿骨打一声令下，金军如潮水般涌至城下，人人奋勇杀敌。辽兵一触即溃，耶律宁见大势已去，弃城而逃。
当时金太祖只有2万人，两军比例是1比5。阿骨打为了鼓舞军心，在将士面前仰天大哭道：“我与汝等起兵，无非是痛恨辽邦残忍欲自立国，现在天祚帝亲至恐不可当。我们现在有两条路，一是拼以死战转危为安；二是你们抓我一个献给天祚帝，杀我一族投降契丹，或许能转祸为福。”遣将不如激将。吴乞买等趋进道：“火来水淹，兵来将挡，天祚帝淫虐不仁众心离散，就使来了一、二百万，也不怕他。”
金主道：“你等果能尽死力，须听我号令同去御敌！”诸将齐声应令，遂调齐人马倾国而出，行至黄龙府东，遥见辽兵如潮水一般。阿骨打下令军中道：“敌利速战，我利固守，且深沟高垒静观敌衅，再行进兵。”将士遵令按兵不动。
正当两军攻防正酣时，辽朝内部出现纷争另立政权，天祚帝回军自救，阿骨打紧追猛打，辽军大败。此战之后，曾经不可一世的大辽国一蹶不振，直至灭亡。
1116年闰正月，渤海人高永昌据东京反辽。天祚帝募兵镇压，金太祖也统领内外诸军攻讨，高永昌兵败被杀。东京州县全为金朝所占据。金太祖加号大圣皇帝，改第二年年号为天辅。
六月，金太祖领兵追击天祚帝，归化、奉圣二州相继投降。蔚州辽臣也来降附。十二月，金太祖统率各部向燕京进发，宋军自南路配合攻辽。
然而宋朝二十万大军却被打得体无完肤，燕京最后还是金兵拿下的。
金兵将燕京的工匠和财宝掳掠一空。宋朝提出要分地盘，金国大臣左企弓劝阿骨打不要归还“燕云十六州”，然而金太祖是个有情有义的人，他坚持将燕京的六州之地分给宋朝，然后领兵回师。
阿骨打共有五子：大太子名为粘罕，又作粘没喝，二太子名为宗望，又作斡离不，三太子答罕，又作讹里朵，四太子宗弼，又作金兀术，五太子泽利。阿骨打要试五子本事如何，一日在演武厅上放置一座铁龙，原是镇国之宝，重有一千余斤。阿骨打即命番官传旨道：“不论哪位公子，有能举得铁龙者，即封为昌平王、扫南大元帅。”旨意一下，王子们个个想做元帅。这个上来摇一摇，涨得脸红；那个上来拔一拨，挣得面赤。个个满面羞惭退将下去。阿骨打道：“当年项羽拔山子胥举鼎，难道我儿中就没有人能举得起这千斤之物吗？”正烦恼间，旁边忽然闪出一人，但见他生得：
脸如火炭，发似乌云。虬眉长髯，阔口圆睛。身长一丈，膀阔三停。分明是狠金刚下降，却错认开路神狰狞。
原来是阿骨打第四个公子，名唤兀术。金兀术年方二十堂堂一表，十八般武艺无有不通，猿臂善射善于用兵，端的是有万夫不当之勇。当下上前俯伏奏道：“臣儿能举这铁龙。”阿骨打一听大喜，即命他去举铁龙。兀术左手撩衣，右手将铁龙连举三举，然后撩在一边，上厅来拜见父王缴旨。阿骨打即封他为昌平王、扫南大元帅，总领金国三川兵马。
阿骨打刚刚起兵反辽时，金兀术尚未成年。金太祖第二次发动大规模反辽战争时，金兀术见不远处有辽兵三百余人，金兀术率百骑追击，交战中金兀术矢尽，遂抢夺辽兵长剑独杀八人，生擒五人。金兀术初次参战就显示出超人的勇猛，令女真将士刮目相看。
金兀术爱一小卒之妻，杀卒而夺之，宠以专房。一日昼寝，忽见此妇持利刃欲杀他。惊起问之，妇曰：“欲为夫报仇耳。”金兀术默然使去。第二天集合将士对此妇说：“我不想杀你，又不能留你，你到诸将中选一个人嫁给他吧”。妇指一人，术即赐之。
宣和七年（1125年），金灭辽后便大举南侵攻宋。阿骨打选定良辰吉日，发兵五十万，祭了珍珠宝云旗，进兵中原。真个是人如恶虎，马似游龙；旗旗蔽日，金鼓喧天。金军强渡黄河，金兀术率先锋三千骑逼近开封，只见他：
头戴一顶金镶象鼻盔，金光闪烁；旁括两根雉鸡尾，左右飘分。身穿大红织锦绣花袍，外罩黄金嵌就尤鳞甲；坐一匹四蹄点雪火龙驹，手拿着螭尾凤头金雀斧。好像开山力士，浑如混世魔王。
宋徽宗听说金兵南下后立即禅位赵桓，然后出城南逃，金兀术选骁骑百名追之，未及，获马三千而还。金兵包围开封，宋以割让太原、中山、河间三镇等条件与金求和，金军返回燕京。
这年八月，金太祖在返回上京的路上病死，时年五十六岁。其弟完颜吴乞买即皇帝位，是为金太宗。
金太宗不像金太祖那么讲道义，即位后立马着手准备发动对宋战争。
发动战争是需要借口的，而金太宗的借口就是辽国降将张觉把他镇守的平州(南京，归金所有)拱手献给宋朝，再加上北宋先是不愿交出张觉、后又杀了张觉想平息事端，金朝便有了充分的理由。于是在1125年，金国出兵攻宋，开始了长达百年的“宋金战争”。