Προθερμαίνουμε τον φούρνο στους 190° C. Ξεπλένουμε τον γαύρο και τον αφήνουμε να στραγγίσει.
Λαδώνουμε ένα ταψί με ελαιόλαδο και στρώνουμε τους γαύρους σε μονή στρώση. Σε ένα μπολ ανακατεύουμε το λάδι, το μυρωδικό, το κρεμμυδάκι, το σκόρδο, τη μουστάρδα, το ξύσμα, το φύλλο δάφνης και αλατοπίπερο.
Απλώνουμε το μείγμα αυτό πάνω στο γαύρο, βάζουμε τα πιπεράκια και φουρνίζουμε το φαγητό για 15-20 λεπτά. Σερβίρουμε στα πιάτα και αν θέλουμε περιχύνουμε με λίγο ωμό ελαιόλαδο.