Wenn die Referenzen gleich sind, dann ist auch das Bild gleich - stimmt. Etwas umständlich formuliert - "Naja, wenn es dir egal ist, ob die Bilder inhaltlich gleich sind, [...] Solltest eben nur sicherstellen, dass die Referenzen gleich sind." sollte meinen, wenn er den inhaltlichen Vergleich scheut, kann er auch die Referenzen vergleichen. Mir würde so schnell kein guter Ansatz für einen performanten Inhaltsvergleich einfallen. Vielleicht einen Hash.

Naja, wenn es dir egal ist, ob die Bilder inhaltlich gleich sind, dann kannst du dir natürlich auch vorher

Image actImage= global::WindowsFormsApplication1.Properties.Resources.arrow_t1;

//und dann 
button2.BackgroundImage = actImage;

//dann sollte gehen
if(button2.BackgroundImage == actImage){

}

Solltest eben nur sicherstellen, dass die Referenzen gleich sind. In dem Fall sind sie es.