Musst du ja auch nicht. Wie SELFHTML sagt: „Solche Buttons sind flexibler als herkömmliche Buttons, denn sie dürfen auch einen durch HTML definierten Inhalt haben, etwa eine Grafik.“
„Dürfen“, nicht „müssen“. Der Inhalt eines button-Elements kann vieles sein, auch einfach nur Text.
Und was bedeutet dann folgendes:
Tips and Notes
Note: If you use the <button> element in an HTML form, different browsers may submit different values. Use <input> to create buttons in an HTML form.