Men kongresspolitikern klarade sig undan allvarliga skador.
"Jag är okej", meddelar han i ett uttalande.
Zeldin sitter i representanthuset och kandiderar till guvernör i delstaten New York.
Gärningsmannen klättrade upp på scenen mitt under talet, som hölls för en folkmassa utanför Rochester.
"Som tur är lyckades jag få tag om hans handled och få stopp på honom ett par ögonblick tills några andra kunde tackla honom", säger Zeldin om tumultet i sitt uttalande.
Efter att mannen gripits av polis kunde politikern fortsätta sitt tal.
– Det här kunde ha slutat mycket värre. Det hade kunnat sluta fruktansvärt och det är oacceptabelt, säger Nick Langworthy, ledare för Republikanerna i New York.