Apps kann man unter Android als APK installieren, wie heißt das Dateiformat bei iOS?

Die dateiendung für iOS Apps ist .ipa, aber das ist nicht ganz so einfach, wie bei Android. Die .ipa Dateien können unterschiedlich signiert werden, eben entweder für die Veröffentlichung im App store, oder eben für das sogenannte "enterprise deployment", das entspricht der Installation über die Datei. Es ist also durchaus möglich, iOS Apps ohne appstore zu installieren, aber die App muss eben entsprechend signiert sein. Kosten tut es für den Entwickler auch das gleiche. 

Du kannst ohne Jailbreak nichts von ausserhalb auf dein IOS Device installieren.
Und wenn du Jailbreak hast, findest du das auf der Website raus

IPA ist das