Hallo Raik,
Wie ich an die Parameter der Funktionen komme, weis ich noch nicht.
Schau doch in die offizielle Doku? Auf der Seite http://www.openssl.org/docs/ssl/ssl.html gibt's die ganze Funktionsprototypen und ganz unten sind die Funktionen selbst verlinkt und was sie machen (Gut, zugegeben, die Doku ist eher schlecht IMHO). Zudem gibt's im Internet reihenweise Anleitungen, wie man OpenSSL verwendet, um selbst SSL-Verschlüsselte Kommunikation zu ermöglichen (such einfach mal danach) - zwar in C, aber das erklärt dann zumindest die Art, wie Du die Funktionen aufrufen sollst.
Allerdings möchte ich Dich darauf Hinweisen, dass SSL-Kommunikation etwas sehr heikles ist und dass eine fehlerhafte Implementierung zu ernsthaften Sicherheitslücken führen kann, die den Nutzen von SSL zerstören (zum Beispiel könnte eine falsche Initialisierung von irgend etwas die Tür zu Man-in-the-middle-Attacken aufreißen). Du solltest Dich vor allem erst einmal ziemlich intensiv mit den Grundlagen und allen möglichen bisher bekannten Attacken beschäftigen, damit Du eine sichere Implementierung hinbekommst.
Und welche der Funktionen ich brauche, um ein Zertifikat zu erzeugen
Warum willst Du aus Deiner Software heraus ein Zertifikat erzeugen? Jede andere Software, die SSL über OpenSSL unterstützt, die ich je installiert habe (Apache, Courier POP3- und IMAP-Server, Postfix, OpenLDAP, Stunnel, OpenVPN, ...) generiert die Zertifikate nicht selbst, man muss die immer selbst über den openssl-Befehl erzeugen - warum willst Du das anders machen? Es ist ja eine im Prinzip einmalige Aufgabe, die für den normalen Betrieb keine Rolle spielt.
(evtl. kostenlos über eine von den gängigen Browsern anerkannte Zertifizierungsstelle möglich für privaten gebrauch?)
CAcert (http://www.cacert.org/) ist leider noch im Audit-Verfahren, aber es bestehen gute Chancen, dass die demnächst (wann auch immer genau das sein wird ;-)) akzeptiert werden.
Kann man die Api-Aufrufe evtl. mit einem Tool mitloggen?
Viele bessere Debugger sollten so etwas unterstützen, ich kann Dir für Windows aber gerade nichts derartiges nennen.
Viele Grüße,
Christian