Ich bin jetzt auf die pmkslimbox umgestiegen da ich bei der Suche auf mehrere positive Ergebnisse gestossen bin. Bei klappt es jedoch noch nicht. Zumindest ist es schon so, dass die Leightbox funktioniert obwohl auf der selben Seite das rgsmoothgallery Plugin geladen wird. Dieses zeigt jedoch nichts an.
Meine Vorgehensweise:
Extension pmkslimbox und rgsmoothgallery installiert ins stativ Template eingebunden - Reihenfolge: zuerst pmkslimbox dann rgsmoothgallery
t3mootools installiert -> js analyse mit t3mootools.tx ->beide Extensions ausgewählt - analysieren und zusammenfügen -> Mootools Bibliothek erstellt
Durch die Installation von t3mootools wird die pmkslimbox im static template entfernt und ich habe diese wieder hinzugefügt - vor rgsmoothgallery (pmkslimbox heißt jetzt Slimbox t3m).
Cache gelöscht und versucht -> Ergebnis: Lightbox funktioniert, rgsmoothgallery nicht.
Hier der Quelltext wie die Ladereihenfolge ist:
Code:
<link rel="stylesheet" href="typo3conf/ext/pmkslimbox/res/styles/slimbox.css" type="text/css" media="screen" />
<script type="text/javascript" src="typo3temp/javascript_93077bb238.js"></script>
<script type="text/javascript" src="typo3conf/ext/t3mootools/res/mootools_v1.2.1.js"></script>
<script type="text/javascript" src="typo3conf/ext/pmkslimbox/res/scripts/slimbox.js"></script>
<script type="text/javascript">
/*<![CDATA[*/
<!--
Slimbox.scanPage = function() {var links = $$("a").filter(function(el) {return el.rel && el.rel.test(/^lightbox/i);});$$(links).slimbox({resizeDuration: 400, resizeTransition: Fx.Transitions.sineInOut, opacity: 0.8, opacityDuration: 500, loop: 1, initialWidth: 250, initialHeight: 250, animateCaption: 1, showCounter: 1, enablePrintButton: 0, enableSaveButton: 0,counterText: 'Seite {x} von {y}', psScriptPath: 'typo3conf/ext/pmkslimbox/savefile.php'}, null, function(el) {return (this == el) || ((this.rel.length > 8) && (this.rel == el.rel));});};window.addEvent("domready", Slimbox.scanPage);
// -->
/*]]>*/
</script>
<script src="typo3conf/ext/rgsmoothgallery/res/scripts/jd.gallery1010.js" type="text/javascript"></script>
<script src="typo3conf/ext/rgsmoothgallery/res/scripts/slightbox107.js" type="text/javascript"></script>
<link rel="stylesheet" href="typo3conf/ext/rgsmoothgallery/res/css/jd.gallery.css" type="text/css" media="screen" />
<link rel="stylesheet" href="typo3conf/ext/rgsmoothgallery/res/css/slightbox.css" type="text/css" media="screen" />
Das es zusammen funktioniert habe ich schon mehrmals gelesen aber die Versionen waren z.t. doch anders (Typo3 4.1.x, pmkslimbox 2.2.x, t3mootools 1.2.x)
Ich habe Txpo3 4.2.6, pmkslimbox 3.1.0, rgsmoothgallyer 1.5.1, t3mootools 1.3.0
Bin für jeden Tipp unendlich dankbar 
EDIT:
Beim IE7 funktioniert die Lightbox nicht ...