设立国际妇女节的想法是最先产生于20世纪初，当时西方各国正处在快速工业化和经济扩张阶段。恶劣的工作条件和低廉的工资使得各类抗议和罢工活动此起彼伏。1857年3月8日，美国纽约的制衣和纺织女工走上街头，抗议恶劣的工作条件和低薪。尽管后来当局出动警察攻击并驱散了抗议人群，但这次抗议活动促成了两年后的3月第一个工会组织的建立。
接下来的数年里，几乎每年的3月8日都有类似的抗议游行活动。其中最为引人注目的是在1908年，当时有将近15000名妇女走上纽约街头，要求缩短工作时间（十小时工作制），增加工资（最低工资标准）和享有选举权（妇女选举权）等，并喊出了象征经济保障和生活质量的“面包加玫瑰”的口号。第二年有2000人参加双纽约市曼哈顿区的一个妇女节集会。首次庆祝妇女节是在1909年2月28日，当 时美国社会党发表了一项宣言，号召在每年2月的最后一个星期日举行纪念活动。这样每年的庆祝活动一直持续到1913年。
1909年服装女工发动总罢工，2至3万衬衣女工为了长达13周的寒冬增加工资并改善工作条件而参加罢工。妇女工会同盟为被捕的罢工者提交保证金和大量的罢工基金。
1910年8月26日-27日，在第二国际哥本哈根代表大会前夕克拉拉·蔡特金以国际妇女书记处书记身份主持召开了第二届国际社会主义妇女代表会议。全世界被剥削工人的国际团结早己成为一个社会主义原则。德国社会主义政党在国际社会主义运动中有强大影响，党内有诸多倡导女权者，包括像克拉拉·蔡特金这样的领导人。这次代表会议有17个国家的100多名代表参加，代表了工会、社会主义政党、职业女性俱乐部，还包括第一次当选为芬兰议会议员的3位妇女。受到美国女工及其社会主义姐妹们行动的激励，克拉拉·蔡特金起草了一份《关于争取妇女选举权基本原则的决议案》。
这个决议案规定，“各国无产阶级有阶级觉悟的政治组织和工会一致同意：各国社会主义妇女每年要有一个节日其主要目的是帮助妇女获得选举权，必须按照社会主义原则并连同整个妇女问题一起对待妇女的选举权要求。妇女节必须具有国际性和认真地筹备。”
第二届国际社会主义妇女代表会议并没有一个单独的关于确立国际妇女节的决议，更没有规定哪一天是妇女节。由于哥本哈根妇女代表会议没有规定国际妇女节的具体日期。所以，1922年之前庆祝这个节日的活动随机性较强。
1911年3月19日，欧洲一些国家的无产阶级妇女举行了历史上第一次庆祝国际妇女节的活动。德国各地举行了争取选举权的集会，仅柏林一地就有5000多名男女工人参加。丹麦、奥地利、瑞士等国的妇女也都举行了集会和游行。总共超过一百万人举行各种活动庆祝国际妇女节。
6天之后的3月25日，纽约发生了著名的纽约三角内衣工厂火灾，火灾吞噬了140多名制衣女工的生命，这其中大多数是意大利和犹太移民。而恶劣的工作条件被认为是导致如此重大伤亡的主要原因。这场火灾后来还对美国的劳工立法产生了重要影响。
第一次世界大战爆发前夕，欧洲的妇女们也于1913年3月8日走上街头，通过举行和平集会等形式反对战争。
1912-1915年间，每逢3月19日这天，蔡特金都在国际妇女书记处的机关刊物—《平等报》上发表文章，纪念国际妇女节。国际妇女节的庆祝活动之所以选在这一天，是为纪念1871年3月18日巴黎工人和劳动妇女反对政府军偷袭蒙马特尔高地国民自卫军大炮阵地而举行的起义。这一起义导致巴黎公社的诞生。
纪念国际妇女节的活动后来还证明是俄国革命的前奏。在1917年俄国二月革命期间，彼得格勒女工响应布尔什维克的号召，于3月8日（俄历2月23日）举行庆祝国际妇女节的示威游行，要求得到“面包与和平”，参加了有9万男女工人进行的罢工。后来发展为反对帝国主义战争，反对沙皇专制制度的起义，沙皇专制制度被推翻。十月革命成功之后，布尔什维克的女权活动家亚历山德拉·米哈伊洛夫娜·柯伦泰（Alexandra Mihalovna Kollontai）说服列宁将3月8日设为法定假日。苏联时期，每年都会在这天纪念“英雄的妇女工作者”。
1918年德国十一月革命以后，由于女革命家罗莎·卢森堡被反动派杀害，因此，1919-1921年国际妇女节的庆祝活动都选在3月5日这一天。这天是卢森堡的生日。列宁于1920年和1921年发表的《迎接国际妇女节》和《国际劳动妇女节》两篇纪念文章，都是在3月4日写的。
1921年9月9—15日，第二届国际共产主义妇女代表会议在莫斯科举行，28个国家的82名代表出席会议。会上，保加利亚的女共产党人建议，为了纪念俄国女工在1917年二月革命中的英勇斗争，把每年的3月8日定为国际劳动妇女节。第二国际共产主义妇女代表会议采纳了这个建议，通过决议将3月8日这天定为国际妇女节。
此后，各国无产阶级妇女每年在这天都以不同形式来庆祝自己的节日，只是由于时代的发展变化，其目的不仅仅是争取妇女选举权了。从1922年开始，苏联《真理报》、共产国际执委会的机关刊物《国际新闻通讯》、《共产国际》在3月都开辟专栏，介绍国际妇女节和各国无产阶级妇女的斗争以及生活和工作情况。