на грех и незаряженное ружье (и палка) выпалит

Ср. Не бойтесь! Заряжен ли (этот пистолет), не заряжен ли, опасность от него одинаковая: он все равно не выстрелит... годится... только в стену гвозди вколачивать... "Ну нет, не скажите! По русской пословице: на грех и из палки выстрелишь".

Островский. Бесприданница. 3, 6.

См. на грех мастера нет.

Источник: Толково-фразеологический словарь Михельсона на Gufo.me