Ich war noch nie in New York, würde aber vermuten, dass die Infrastruktur landesweit ähnlich ist. Wir waren gerade erst im Südwesten für ein paar Wochen, da hätte man SIMs in den einschlägigen Supermärkten kaufen können. Meistens entweder direkt an der Kasse, wo auch diese ganzen Aufladecoupons usw. verkauft werden, oder direkt im Anschluss an die Kassen beim Rausgehen, da sind dann oft so Galerien mit Kaffeständen, Blumenhändlern, SIM Kartenanbieter usw., ähnlich wie hier manchmal im Supermarkt.
Ich habe es allerdings selbst nicht ausprobiert, Preise (außer auf Werbetafeln) habe ich auch keine gesehen.
Außerdem gibt es natürlich auch "Stores". So wie hier die Telekom Läden. Google bzw. Google Maps usw. sollte so etwas eigentlich finden können.
Allerdings gibt es USA SIMs inzwischen auch massenhaft in Deutschland zu kaufen, selbst bei Amazon gibt es eine Riesenauswahl. Die sind dann schon fertig eingerichtet, wenn Du landest (ein paar Tage vor Abflug sagst Du dem Anbieter Bescheid), dann kannst Du sofort nach der Landung Dein Smartphone benutzen. Achtung, in den USA sind die ganzen Telefonfrequenzen anders als hier, für die meisten Smartphones kein Problem, aber weise dennoch darauf hin, denn dieser oder jener hat dann doch auf einmal ein Verbindungsproblem (von "geht gar nicht" bis "ziemlich lahm").