A poco de la formalización del MERCOSUR como proyecto de integración regional, las gremiales rurales más antiguas de la región buscaron organizarse en una institución supra nacional que representara los intereses de la producción agropecuaria y donde fuera posible discutir y tomar posición sobre aquellos temas que más importan al desarrollo del sector.
Asà fue que en la ciudad de Mariano Roque Alonso, Paraguay, el 19 de junio de 1997 se fundó la Federación de Asociaciones Rurales del MERCOSUR. En el año 2007 el Ministerio de Relaciones Exteriores de Uruguay aprobó el reconocimiento de la personerÃa jurÃdica de la FARM como Organismo Internacional. El mismo año se instaló la Sede de la FARM en el Edificio Mercosur, a través de un comodato con el Instituto Interamericano de Cooperación para la Agricultura (IICA).