ok, scheint tricky zu sein...
sind auf jeden fall mehrere schritte:
1. das bild muss zunächst ca 1/3 größer sein (an allen seiten), damit der wellen-effekt auch die kanten mit einbezieht.
2. ich vermute, das auch ein "radialer weichzeichner" zum einsatz kommt.
3. es ist vielleicht hilfreich, eine kopie des gewellten layers zu entfärben und dann über den alpha-kanal soweit auszublenden, bis diese gräuliche Atmo entsteht.
Hier ein Lein-test auf Basis deines Bildes:

- freigestellt
- komplettbild radial weichgezeichnet (ca 50)
- komplettbild gewellt (volle pulle)
- gaussischan blur (ca. 4)
- diese ebene kopiert, entfärbt und auf ca 70% alpha gesetzt
- kopie der figur ein wenig "gestrudelt", weichgezeichnet etwas versetzt und auf ca. 30% alpha
- Format beschnitten, damit der strudel bis an die kanten geht.
so ähnlich kannst du dich vielleicht annähern.
Viel Erfolg