Wo sind die geheimen "Grossmärkten", wo die Restaurants nachts frische Ware einkaufen, und könnte dort theoretisch jeder einfach so hingehen?!?

Unterschiedlich.

Es gibt die normalen Großmärkte (hier z.B. in Hamburg: https://www.grossmarkt-hamburg.de, dann gibt es Märkte mit speziellen Sortimenten, die nur an Gewerbekunden verkaufen (Metro etc.), es gibt Feinkost- Großhändler, die nur an Gewerbekunde verkaufen und regionale Hersteller, die direkt an die Betriebe verkaufen. In der gehobeneren Gastro siehst Du z.B. häufiger Angaben zu Brot, das von einem örtlichen Bäcker kommt, oder Fleisch, das von einem bestimmten Hof kommt.

und könnte dort theoretisch jeder einfach so hingehen?!?

Nö.
Dazu brauchst Du eine entsprechende Kundenkarte, die Du gegen Vorlage Deines Gewerbescheins bekommst.

Nop. Du brauchst eine spezielle Karte die dich als Unternehmen ausweist.

Nennt sich Metro. Und nein du kannst nicht dort einkaufen, außer du hast einen entsprechenden Ausweis. Es gibt aber ab und zu Tage, wo Metro für jeden geöffnet ist

Daran ist nichts geheim. "Metro" heißt einer davon, hingehen kannst du, nur rein kommt nicht jeder. Obwohl...Wenn du einen Verein hast, der muss nicht mal eingetragen sein, dann bekommst du schon eine Karte, wie das genau funktioniert das kannst du auf YouTube nachsehen

Das sind Großmärkte, wo die Leute einkaufen.

Da kommst du als normalbürger nicht rein und du musst dir eine Karte machen lassen und nachweisen, dass du ein Gewerbe hast, denn nur als gewerblicher Händler kommst du da rein.