Un peu difficile d'être exhaustif, et ça demande pas mal de dev.
Donc je t'explique rapidement.
Tu dois ajouter ceci dans ton "init"
file_picker_types > image > c'est pour dire que le bouton "parcourir" n'apparait qu'au niveau des images (et pas au niveau des liens par exemple)
file_browser_callback > c'est ce qui est appelé lorsque tu cliques sur le lien "parcourir"
Ensuite, à toi de faire le boulot pour afficher ta galerie, "field_name" va retourner le nom du champ où tu devras mettre l'url de ton image.
Dans mon cas, j'ai fais une fonction jQuery, qui ouvre un popin (donc dissocier de TinyMce au final), et je lui envoi l'id du input où je devrais y mettre mon url.
Et du coup, ce popin contiendra mes images, chargement d'image, et quand je clique sur une image, ça prend l'url de cette dernière pour l'envoyer à #field_name.
Pas forcement sorcier, mais je t'accorde que la doc n'est pas des plus claire.