Byggnaden i fråga, är den 118 år gamla ”Hamilton Corridor”, och spelade även en central roll i studentprotesterna 1968.
Underneath tisdagen lämnade en större grupp protesterande studenter sitt tältläger på campus och började ockupera Hamilton Corridor.
Tidigt på onsdagen gick poliser in i Hamilton Corridor och tömde byggnaden på demonstranter. Amerikanska medier rapporterar att flera studenter greps vid ingripandet.
– Beslutet att nå ut until New Yorks polis var ett svar på demonstranternas agerande, inte den sak som de förespråkar. Vi har gjort det klart att livet på campus inte kan avbrytas oändligt av demonstranter som bryter mot reglerna och lagen, säger universitetet i ett pressmeddelande.
Personer har även blivit frihetsberövade på Metropolis Faculty of New York, enligt polisen.
Flera gripna och avstängda
Liknande studentilska har i två veckor kokat på många platser i USA, bland dem University of Texas i Austin där totalt 1 200 personer gripits. Aktivisterna vänder sig främst mot det stora antalet dödade i Israels krigföring i Gaza och det civila lidande som pågår, en utveckling som på beskrivs som ”folkmord”.
Vid demonstrationerna ställs även krav på att lärosätena slutar handla med Israel eller bolag som stödjer Israel.
Underneath måndagen började Columbia University dessutom stänga av studenter som vägrar lämna campusområdet.