Grundsätzlich gibt es mehrere Möglichkeiten, eine Rückabwicklung des Vertrags rechtlich umzusetzen:
1. Sachmangel
Wenn Du nachweisen kannst, dass ein Mangel an der Software, auf den Du nicht vorher ausdrücklich hingewiesen wurdest (bspw. eine Inkompatibilität mit bestimmter Hardware), dazu führt, dass Du die Software nicht nutzen kannst, kannst Du, nachdem Du dem Verkäufer die Möglichkeit zur Nachbesserung eingeräumt hast, vom Vertrag zurücktreten (siehe §§ 434, 437 BGB).
2. Fernabsatzgesetz
Wenn die Software per Post, Telefon oder Internet gekauft wurde, gelten die besonderen Vorschriften über Fernabsatzverträge, unter anderem ein 14-tägiges Rückgaberecht (§§ 312b ff. BGB.)
3. Anfechtung wegen Irrtums
Wenn Du im Irrtum darüber warst, dass die Software auf Deinem System laufen sollte, kannst Du den Vertrag anfechten; in diesem Fall musst Du dem Verkäufer jedoch den sogenannten Vertrauensschaden (Versand- und Verpackungskosten) ersetzen (§§ 119, 122 BGB).
Dabei spielt es im Übrigen keine Rolle, ob Du ein Paket mit Software (Sache) oder eine Lizenz (Recht) erworben hast.
Gruß, LX