Darf man für die Matheprüfung in die Formelsammlung was reinschreiben?

Nein.
Selbst kleine Klebchen um eine Seite schneller zu finden, sind verboten.

Bei einer normalen Klausur kann man eine extra Absprache mit dem Lehrer haben, aber geht es um die Abschlussprüfung nicht

Es werden meistens alle Formelsammlungen eingesammelt und durch andere ersetzt, welche streng kontrolliert sind.

In bayerischen Schulen gilt:

"Die Hilfsmittel dürfen Hervorhebungen und Verweisungen, jedoch keine Kommentierungen enthalten."

[Quelle: Hilfsmittel bei Leistungsnachweisen an bayerischen Gymnasien, Abendgymnasien und Kollegs, Bekanntmachung des Bayerischen Staatsministeriums für Unterricht und Kultus vom 7. Juni 2011 Az.: VI.9-5 S 5500-6b.41 619]

Bei uns war es in der Schule so:

Hervorhebungen (beispielsweise mit Textmarker oder durch Unterstreichen) waren in Ordnung. Etwas in die Formelsammlung hineinzuschreiben war hingegen nicht erlaubt. (Ausnahme: Man durfte seinen Namen vorne in die Formelsammlung schreiben.)

=====

Im Zweifelsfall gilt: Frage beim Lehrer nach. Oder schau in entsprechende offizielle Verordnungen/Bekanntmachungen, was dazu geregelt ist. Es kann je nach Bundesland und Schulform Abweichungen geben, was erlaubt ist. Auch kann es durchaus einen Unterschied machen, ob es sich um eine Abschlussprüfung handelt, oder um eine Klausur mitten im Schuljahr innerhalb einer Klasse.

Natürlich darf man das.

Es ist nicht strafbar, in Prüfungen durchzufallen.

Nein, nur was der Lehrer / die Lehrerin ausdrücklich als Verbesserung oder Ergänzung erlaubt.